Un’inchiesta avviata dalla Procura di Cosenza – che ha aperto un fascicolo contro ignoti – ha messo in luce un preoccupante fenomeno di manipolazione digitale delle immagini di minori, realizzata attraverso software di intelligenza artificiale. L’indagine, condotta in seguito alla segnalazione di alcuni genitori, riguarda l’alterazione di circa 1.200 fotografie di adolescenti (per lo più ragazze), inizialmente ritratte in contesti quotidiani e successivamente modificate per creare immagini a sfondo sessuale e poi diffuse su Telegram.
Le indagini e le perquisizioni informatiche
L’episodio è avvenuto nel comune di Acri, in provincia di Cosenza, e ha portato all’identificazione di oltre 200 minori vittime di deepfake, un numero che evidenzia la diffusione capillare di tale pratica tra i giovani.
Secondo le prime ricostruzioni, alcuni coetanei avrebbero utilizzato strumenti avanzati di intelligenza artificiale per manipolare le immagini e diffonderle online.
A seguito delle prime segnalazioni, le forze dell’ordine hanno avviato una serie di perquisizioni mirate, analizzando dispositivi informatici appartenenti ad alcuni adolescenti del territorio.
L’obiettivo principale è individuare i responsabili della manipolazione e della diffusione delle immagini attraverso la ricostruzione della rete di condivisione dei contenuti illeciti.
L’inchiesta riguarda attualmente il reato di diffamazione a mezzo internet, ma gli sviluppi potrebbero portare a contestazioni più gravi, come produzione e diffusione di materiale pedopornografico.
Un’accusa, quest’ultima, prevista dall’articolo 600-ter del Codice Penale, che punisce la creazione e la diffusione di contenuti sessualmente espliciti con protagonisti minori di 18 anni.
La scoperta e la denuncia dei genitori
Il caso è emerso grazie all’attenzione di un genitore, che navigando in rete ha riconosciuto il volto della propria figlia in un’immagine alterata digitalmente.
L’immediata denuncia ha spinto altre famiglie a verificare la presenza dei propri figli in contenuti simili, portando a un’ondata di segnalazioni alle autorità.
Le vittime, ignare della manipolazione, hanno subito un grave danno psicologico e sociale, con ripercussioni che potrebbero estendersi nel tempo.
La diffusione incontrollata di immagini modificate può generare bullismo digitale, cyberstalking e conseguenze legali per chi ha contribuito alla condivisione del materiale illecito.
L’impatto del deepfake sui minori e il ruolo della scuola
L’uso dell’intelligenza artificiale per la manipolazione delle immagini rappresenta una sfida crescente per la tutela dei minori online.
Il fenomeno dei deepfake, inizialmente noto per la creazione di contenuti falsi in ambito politico e mediatico, ha ormai raggiunto dimensioni preoccupanti nel contesto scolastico e giovanile.
Le scuole hanno il compito di sensibilizzare gli studenti sull’uso responsabile della tecnologia attraverso la promozione di programmi di educazione digitale e cyber security.
Dal canto suo, il Ministero dell’Istruzione e del Merito, in collaborazione con la Polizia Postale, ha già avviato campagne di informazione e formazione per contrastare il fenomeno del cyberbullismo e della manipolazione digitale, puntando su:
- attività formative sull’uso consapevole dei social media e dell’IA;
- supporto psicologico per gli studenti vittime di cyberviolenza.
- monitoraggio attivo dei fenomeni di bullismo e sexting nelle scuole.
Normative e misure di tutela contro il deepfake
La crescente diffusione dei deepfake ha spinto le istituzioni a valutare interventi normativi più incisivi per la protezione dei minori.
Il Regolamento Europeo per i Servizi Digitali (DSA) impone obblighi più stringenti per le piattaforme online, richiedendo strumenti di rilevamento automatico e rimozione rapida dei contenuti dannosi.
A livello nazionale, la Legge 71/2017 sul cyberbullismo offre già strumenti di tutela per le vittime, e consente di richiedere la rimozione immediata di contenuti lesivi e prevedendo sanzioni per chi diffonde materiale digitale dannoso.
Tuttavia, gli esperti sottolineano la necessità di aggiornare le normative e di introdurre misure specifiche per contrastare la manipolazione di immagini con IA e la diffusione di contenuti falsi.
La necessità di un’azione congiunta
Il caso di Acri evidenzia l’urgenza di affrontare il problema del deepfake a danno dei minori attraverso una strategia coordinata tra famiglie, scuola e istituzioni.
E, in quest’ottica, la prevenzione, l’educazione digitale e il rafforzamento delle normative rappresentano le leve fondamentali per proteggere gli studenti da abusi online e garantire un ambiente digitale sicuro.
L’indagine in corso potrebbe rappresentare un precedente giuridico importante per la regolamentazione dell’uso dell’intelligenza artificiale nella manipolazione delle immagini e per la tutela della privacy dei minori.
Nel frattempo, le scuole devono rafforzare la formazione su questi temi e fornire agli studenti gli strumenti necessari per riconoscere e segnalare situazioni di pericolo, in modo da contribuire alla costruzione di una cultura della sicurezza digitale.
Bullismo e Cyberbullismo: il tavolo tecnico del Ministero
Quello emerso dall’indagine della Procura di Cosenza è un fenomeno tutt’altro che da sottovalutare.
Tant’è che il Ministro dell’Istruzione del Merito, Giuseppe Valditara, insieme al Ministro per la Famiglia, la Natalità e le Pari Opportunità, Eugenia Maria Roccella, ha avviato proprio oggi – in attuazione della legge n. 70 del 17 maggio 2024 e del decreto ministeriale del 18 novembre 2024 – un Tavolo tecnico proprio relativo alla prevenzione e al contrasto del bullismo e del cyberbullismo.
Allo stesso, oltre a rappresentanti del mondo istituzionale, partecipano anche psicologi, pedagogisti ed esperti del mondo digitale, nonché esponenti delle associazioni che si occupano di bullismo e cyberbullismo.
L’obiettivo del Tavolo tecnico per la prevenzione e il contrasto del bullismo e del cyberbullismo dichiarato è quello di arrivare alla redazione di un “Piano di azione integrato” in grado di proporre efficaci misure di prevenzione.
Al riguardo, il Ministro Valditara ha dichiarato: “Si conferma il nostro impegno a promuovere la cultura del rispetto tra i giovani per tutelare la dignità di ogni persona nonché la salute psicologica delle studentesse e degli studenti. Il Tavolo rappresenta una delle azioni chiave per prevenire e combattere ogni forma di violenza e discriminazione, contribuendo nel contempo a promuovere una “Cittadinanza digitale” responsabile, educando i giovani a un uso consapevole della rete e dei social”.
La protesta degli studenti
Intanto stamattina gli studenti del liceo scientifico di Acri hanno manifestato contro il deepfake ed espresso solidarietà alle oltre 200 vittime, la maggior parte delle quali ragazze.
“Siamo qui per testimoniare il nostro dissenso rispetto all’utilizzo improprio di strumenti che sono al nostro servizio”, ha rivendicato uno studente.
Un altro ha, invece, affermato: “Auspichiamo che le forze dell’ordine facciano piena luce su quanto accaduto e che i responsabili vengano puniti severamente”.
“Non siamo qui né per condannare né per assolvere – ha dichiarato una studentessa delusa per il silenzio sulla vicenda da parte delle istituzioni scolastiche – Ma sicuramente non è insabbiando argomenti come questo che le cose si risolvono. Serve, piuttosto, parlarne e fare informazione”.
“Vogliamo che questi argomenti vengano trattati nella scuola – gli ha fatto eco un compagno – e che se ne parli fino allo sfinimento”.
