Google ha comunicato alle autorità australiane di aver ricevuto oltre 250 segnalazioni a livello globale, tra aprile 2023 e febbraio 2024, riguardanti l’uso improprio del suo software di intelligenza artificiale per la creazione di deepfake a contenuto terroristico.
Inoltre, sono pervenute decine di segnalazioni relative all’utilizzo del programma AI Gemini per la generazione di materiale pedopornografico.
Secondo la normativa australiana, le aziende tecnologiche devono periodicamente informare la eSafety Commission sulle misure adottate per minimizzare i danni, pena sanzioni pecuniarie.
Questa divulgazione offre una visione senza precedenti sull’uso improprio della tecnologia AI per la creazione di contenuti dannosi.
La eSafety Commissioner ha sottolineato l’importanza di integrare efficaci misure di sicurezza nei prodotti AI per prevenire tali abusi. Google ha dichiarato di utilizzare un sistema per identificare e rimuovere materiale pedopornografico generato dall’AI, ma non ha applicato lo stesso metodo per i contenuti terroristici.
Il rapporto non ha specificato quante delle segnalazioni siano state confermate. Altre aziende, come Telegram e Twitter (ora X), sono state multate per carenze nei loro rapporti e hanno in programma di presentare ricorso.
