La Commissione europea ha pubblicato il 4 febbraio 2025 le Linee guida relative al Regolamento (UE) 2024/1689 sull’utilizzo dell’Intelligenza Artificiale in ambito educativo. Questo nuovo quadro normativo stabilisce regole precise per l’impiego dell’IA nelle istituzioni scolastiche, definendo chiaramente cosa è permesso e cosa è vietato.
Il regolamento pone particolare attenzione al riconoscimento delle emozioni, vietandolo alle istituzioni educative sia pubbliche che private, pur consentendo l’utilizzo dell’IA in specifici ambiti dell’istruzione come le verifiche online e la formazione dei docenti.
Applicazione dell’IA negli esami e valutazioni
Il nuovo regolamento stabilisce precise limitazioni sull’utilizzo dell’IA nelle valutazioni scolastiche. Tra i sistemi espressamente vietati figura il rilevamento delle emozioni durante esami o test di ingresso, così come l’impiego di software per dedurre l’attenzione o l’interesse degli studenti. È inoltre proibito l’uso di tecnologie di tracciamento oculare finalizzate a rilevare stati emotivi come ansia o eccitazione.
D’altra parte, alcuni sistemi sono esplicitamente consentiti. Il tracciamento oculare può essere utilizzato esclusivamente per monitorare la direzione dello sguardo durante gli esami online, con il solo scopo di individuare comportamenti sospetti che possano indicare tentativi di copiatura. L’IA è inoltre autorizzata a rilevare eventuali conversazioni tra studenti durante le prove online, purché non vengano analizzati gli stati emotivi dei partecipanti.
Formazione dei docenti e usi didattici
L’intelligenza artificiale trova spazio significativo nella formazione del personale docente, offrendo strumenti innovativi per lo sviluppo professionale. Gli insegnanti possono utilizzare sistemi IA per migliorare le proprie competenze pedagogiche attraverso simulazioni e scenari pratici.
In ambito linguistico, le applicazioni IA sono consentite per l’apprendimento individuale al di fuori delle istituzioni educative, permettendo agli studenti di praticare pronuncia e conversazione in autonomia. È importante sottolineare che questi strumenti, pur essendo ammessi nel processo formativo, non possono essere utilizzati per influenzare o determinare le valutazioni finali degli studenti.
Restrizioni nel riconoscimento delle emozioni
Il nuovo regolamento europeo stabilisce un chiaro divieto per le istituzioni educative, sia pubbliche che private, di utilizzare sistemi di intelligenza artificiale per il riconoscimento delle emozioni degli studenti. Questa limitazione nasce dalla necessità di proteggere la privacy degli studenti e garantire valutazioni basate su criteri oggettivi, piuttosto che su interpretazioni automatizzate degli stati emotivi.
La norma si applica in particolare ai sistemi che tentano di dedurre l’attenzione o l’interesse durante le lezioni, nonché alle tecnologie che mirano ad analizzare lo stato emotivo degli studenti durante le verifiche. Le motivazioni di queste restrizioni risiedono principalmente nelle preoccupazioni sulla precisione e l’affidabilità dei sistemi di riconoscimento emotivo, oltre che nel rischio di creare un ambiente di apprendimento eccessivamente monitorato che potrebbe influenzare negativamente il benessere psicologico degli studenti.
Eccezioni per motivi di sicurezza e salute
Il regolamento UE prevede specifiche deroghe all’utilizzo dell’IA per il riconoscimento delle emozioni in ambito scolastico, limitandole a due categorie fondamentali. La prima riguarda la sicurezza, consentendo l’impiego di sistemi di intelligenza artificiale per identificare potenziali minacce o situazioni di pericolo all’interno degli istituti educativi. La seconda deroga concerne l’ambito medico, permettendo l’utilizzo dell’IA per supportare studenti con disturbi emotivi o necessità terapeutiche specifiche.
Queste eccezioni sono soggette a rigidi protocolli di controllo e devono rispettare criteri di proporzionalità nell’applicazione. È fondamentale sottolineare che ogni implementazione deve garantire la massima tutela della privacy degli studenti, con misure stringenti per la protezione dei dati personali e sensibili.
