L’UNICEF è sempre più allarmato dalle segnalazioni di un rapido aumento del volume di immagini sessualizzate generate dall’Intelligenza Artificiale che circolano, compresi casi in cui fotografie di bambini sono state manipolate e sessualizzate.
I deepfake vengono sempre più utilizzati per produrre contenuti sessualizzati che coinvolgono bambini, anche attraverso la “nudificazione”, dove gli strumenti di AI vengono utilizzati per spogliare o alterare gli abiti nelle foto per creare immagini falsificate di nudo o sessualizzate.
Le immagini sessualizzate di bambini generate o manipolate utilizzando strumenti di AI sono materiale che costituisce abuso sessuale su minorenni (CSAM) e che provoca danni spesso irreversibili.
Quando viene utilizzata l’immagine o l’identità di un bambino, quel bambino è direttamente vittimizzato. Anche senza una vittima identificabile, il materiale relativo ad abusi sessuali su minorenni generato dall’AI normalizza lo sfruttamento sessuale dei bambini, alimenta la domanda di contenuti abusivi e presenta sfide significative per le forze dell’ordine nell’identificare e proteggere i bambini che hanno bisogno di aiuto.
L’UNICEF accoglie con grande favore gli sforzi degli sviluppatori di AI che stanno implementando approcci di sicurezza integrati nella progettazione e solide misure di protezione per prevenire l’uso improprio dei loro sistemi. Tuttavia, il panorama rimane disomogeneo e troppi modelli di AI non vengono sviluppati con adeguate misure di sicurezza. I rischi possono essere aggravati quando gli strumenti di AI generativa sono integrati direttamente nelle piattaforme dei social media, dove le immagini manipolate si diffondono rapidamente.
L’UNICEF chiede con urgenza le seguenti azioni per affrontare la crescente minaccia dei materiali di abuso sessuale su minorenni generati dall’AI: che tutti i Governi amplino le definizioni di materiale di abuso sessuale su minorenni, che gli sviluppatori di AI implementino approcci di sicurezza integrati, solide misure di protezione per prevenire l’uso improprio dei modelli di AI.
Le aziende digitali devono impedire la diffusione di materiale di abuso sessuale su minorenni generato dall’Intelligenza Artificiale e rafforzare la moderazione dei contenuti investendo in tecnologie di rilevamento.
Il danno causato dall’abuso dei deepfake è reale e urgente. I bambini non possono aspettare che la legge si adegui.
V.L.
Diritto dell’informazione
“Diritto dell’informazione: la bussola per orientarsi tra notizie e giurisprudenza.”
Continua a seguirci!
