Lo Stanford Internet Observatory ha scoperto che il database AI denominato LAION (Large-scale Artificial Intelligence Open Network), impiegato nel processo di addestramento di diversi sistemi di generazione di immagini, contiene più di 3.200 immagini sospette raffiguranti abusi sessuali su minori.
Grazie alla collaborazione con il Centro canadese per la protezione dell’infanzia, lo Stanford Internet Observatory ha individuato il materiale illegale ed ha segnalato alle autorità competenti i collegamenti alle foto originali.
La risposta non si è fatta attendere e LAION ha annunciato la rimozione temporanea ed in via precauzionale dei suoi set di dati. Il database, infatti, ha sottolineato di adottare una politica di tolleranza zero per i contenuti illegali.
Le immagini di presunto abuso sessuale su minori individuate in LAION costituiscono una minima parte dei contenuti presenti in totale nel database (circa 5,8 miliardi di immagini), ma secondo il team di ricerca di Stanford potrebbero comunque avere un impatto significativo sulla capacità degli strumenti di Intelligenza Artificiale di generare risultati pericolosi.
Il database AI ha dichiarato di aver implementato “filtri rigorosi” per individuare ed eventualmente eliminare i contenuti illegali e lo Stanford Internet Observatory ha riconosciuto che gli sviluppatori di LAION hanno compiuto alcuni sforzi per filtrare i contenuti espliciti. Tuttavia, se il database AI avesse consultato esperti di sicurezza per l’infanzia, il risultato sarebbe stato migliore già in partenza. Infatti “ripulire” i dati retroattivamente è difficile e necessita di misure drastiche, che possono anche essere difficili da attuare.
Partendo da questa vicenda, lo Stanford Internet Observatory ha acceso i riflettori su una questione importante: ci si chiede se le foto dei bambini, anche quelle più innocue, possano essere inserite nei sistemi di Intelligenza Artificiale senza il consenso della famiglia. Questo anche in riferimento alle disposizioni previste dal Children’s Online Privacy Protection Act, la legge secondo la quale per raccogliere, utilizzare o divulgare informazioni personali di bambini, i fornitori di servizi online devono ottenere il consenso esplicito dei genitori.
M.M.
