La diffusione di immagini a sfondo sessuale generate dall’AI è tra le forme di violenza online più diffusa tra i giovani. La scarsa consapevolezza sugli effetti negativi dell’uso errato dell’AI, e la presenza di siti “nudify”, che facilitano la realizzazione di questo genere di contenuti partendo da una singola foto, hanno contribuito ad alimentare la minaccia.
La ricerca di Thorn ha evidenziato quanto questa forma di violenza sia molto diffusa tra i giovani con età compresa tra i 13 e i 20 anni, tanto che almeno un adolescente su otto conosce una vittima di questo fenomeno e almeno un adolescente su diciassette lo ha subito. Le vittime principali di deepfake pornografico sono le ragazze adolescente e le giovani donne, i ragazzi molto attivi sui social e gli studenti che frequentano le scuole medie e superiori. I ricercatori hanno scoperto che le principali motivazioni di questo fenomeno sono legate alla vendetta personale da parte di ex partner o persone conosciute sui social, all’umiliazione, al cyberbullismo e al trolling. I danni arrecati alle vittime sono piuttosto gravi: dall’ansia al disagio, dalla paura all’isolamento sociale, dalla depressione all’autolesionismo e in casi più gravi il suicidio.
Per evitare che si verifichino episodi di questo genere è fondamentale puntare alla prevenzione. Soggetti come scuole, famiglia e la società stessa devono impegnarsi nel garantire un elevato livello di sicurezza informatica, promuovendo l’educazione digitale, la sensibilizzazione sull’argomento formando genitori e docenti, uno spazio sicuro che garantisca il dialogo, e rafforzando il coordinamento tra le autorità, provider e associazioni anti-cyberbullismo. Alle potenziali vittime viene consigliato di evitare la pubblicazione online di foto personali, attivare delle restrizioni più rigide sui propri profili e segnalare alle autorità e alle piattaforme i contenuti sospetti e in caso di danno affidarsi alle forze dell’ordine o a consulenti legali.
Nonostante siano condannate queste forme di violenza sul piano legislativo, le sfide da affrontare sono molte per costruire un futuro digitale più sicuro: soprattutto è necessario aggiornare continuamente le leggi, costituire una collaborazione internazionale per creare un fronte comune nella battaglia a questi fenomeni e lo sviluppo di sistemi automatici di riconoscimento dei deepfake.
C.Z.
Diritto dell’informazione
“Diritto dell’informazione: la bussola per orientarsi tra notizie e giurisprudenza.”
Continua a seguirci!
▶️ https://dirittodellinformazione.it/chi-siamo/
