Studente crea con l’AI foto intime di compagne e prof
Ogni giorno l’intelligenza artificiale fa passi da gigante, creando possibilità incredibili, ma anche rischi non da poco, soprattutto quando viene usata male. O finisce nelle mani sbagliate, come quelle di uno studente dell’ultimo anno del liceo Newton di Roma, che ha utilizzato una chatbot su una piattaforma social russa per generare immagini di nudo false con il volto di compagne di scuola e persino di un’insegnante. L’episodio, così come riporta La Repubblica, ha avuto delle spiacevoli ma prevedibili conseguenze: il giovane è stato sospeso dalla scuola, e denunciato.
Cosa è successo
In sostanza, lo studente ha manipolato le immagini di una docente e di dieci studentesse. Ha fotografato le vittime e, sfruttando alcuni strumenti di intelligenza artificiale, ha sovrapposto i loro volti a immagini pornografiche, creando di fatto contenuti falsi e compromettenti.
I fatti risalgono allo scorso novembre, quando le foto incriminate sono state condivise su Telegram tra gli altri studenti. E’ stato solo a dicembre che è stato convocato il consiglio d’istituto, che ha deciso per la sospensione.
Il ragazzo è stato sospeso da scuola
L’istituto ha presentato un esposto alle autorità, mentre il ragazzo è stato sottoposto a un provvedimento disciplinare con una sospensione di 15 giorni. Giorni nei quali non dovrà rimanere a casa da scuola ma, in linea con le recenti normative introdotte dal Governo, dovrà trascorrere in una struttura dedicata ad attività con finalità sociali.
E’ stata dura ma riservata la reazione della dirigente scolastica del liceo frequentato dallo studente, Cinzia Giacomobono, che ha confermato come sia stata effettuata una denuncia penale sulla quale però ha preferito non esprimersi.
“Abbiamo preso la situazione in considerazione da tutti i punti di vista, per recare meno danno possibile alle persone coinvolte. E questo proprio per la delicatezza della situazione”.
Ha aggiunto.
La reazione del collettivo studentesco
L’episodio ha scatenato reazioni piuttosto accese. A prendere parola per primi sono stati gli studenti del collettivo, che hanno criticato la gestione della vicenda da parte della scuola. Secondo loro, l’istituto avrebbe mantenuto il silenzio per troppo tempo e non avrebbe agito con sufficiente fermezza. Per loro, 15 giorni di sospensione non bastano per riparare al danno fatto. Gli stessi hanno chiesto l’allontanamento del ragazzo dall’istituto per proteggere le ragazze coinvolte.
La preside, però, ha difeso la posizione della scuola. La dirigente ha detto di comprendere il punto di vista degli studenti, ma di non condividerlo. Ciò in quanto il compito della scuola non dovrebbe essere solo quello di punire, ma anche e soprattutto di educare e formare le persone in modo completo. Giacomobono ha anche aggiunto che l’istituto ha fatto tutto ciò che è in suo potere, compreso offrire supporto psicologico alle vittime.
Cos’è il deepfake
Questa creazione di contenuti falsi tramite l’intelligenza artificiale ha un nome, si tratta di deepfake (termine coniato nel 2017). Questa “pratica” inizia con la raccolta delle immagini dei volti delle vittime, che possono essere reperite facilmente sui social media, tramite le foto di classe o semplicemente degli scatti rubati.
Queste immagini vengono poi caricate su piattaforme o software specifici che riescono ad analizzare e replicare le caratteristiche uniche dei volti, come le proporzioni, le espressioni e i più piccoli dettagli. Successivamente, l’IA sovrappone i volti delle vittime su immagini o video (anche pornografici) già esistenti, generando contenuti falsi dall’aspetto estremamente realistico.
Il deepfake non è necessariamente legato solo alla pornografia. Vi si ricorre anche per creare bufale e notizie false, per mettere in pratica atti di ciberbullismo o anche per satira.
Leggi anche:
- Alunno sospeso perché usava il cellulare: genitori fanno ricorso al Tar
- ChatGPT e studenti: un’alleanza con pericolosi rischi educativi
- Su ChatGPT la gentilezza paga: domande educate per risposte più precise
Foto Apertura di ThisIsEngineering via Pexels
