Un compagno virtuale, un partner digitale, persino un presunto supporto emotivo. Ma dietro la facciata amichevole del chatbot Replika, si nasconde una gestione opaca dei dati.
Il Garante per la protezione dei dati personali ha inflitto una sanzione di cinque milioni di euro alla società statunitense Luka Inc., sviluppatrice del popolare chatbot, per gravi violazioni del Regolamento generale sulla protezione dei dati (GDPR).
L’indagine ha evidenziato che Replika, un’applicazione di intelligenza artificiale generativa che consente agli utenti di creare “amici virtuali” per interazioni emotive e relazionali, trattava i dati personali degli utenti senza una base giuridica adeguata. Inoltre, la privacy policy fornita era considerata inadeguata, mancava di trasparenza e completezza.
Particolarmente preoccupante è risultata l’assenza di un sistema efficace di verifica dell’età. Nonostante la dichiarazione di escludere i minori dall’accesso al servizio, al momento dell’accertamento non era stato implementato alcun meccanismo per impedire l’utilizzo dell’app da parte dei minori. Le soluzioni tecniche successivamente introdotte sono state giudicate comunque carenti, esponendo i più giovani a potenziali rischi.
Oltre alla sanzione, il Garante ha avviato una nuova istruttoria per analizzare le modalità di sviluppo, addestramento e funzionamento del modello di AI utilizzato da Replika. L’obiettivo è verificare la conformità del sistema alle normative europee in materia di protezione dei dati personali.
Questo provvedimento chiama le aziende tecnologiche a una maggiore responsabilità e trasparenza nel trattamento dei dati personali, per tutelare sicurezza, policy e diritti digitali dei cittadini, soprattutto dei minori. Anche quando l’AI si presenta con la voce gentile di un “amici virtuale”.
A.C.
Diritto dell’informazione
“Diritto dell’informazione: la bussola per orientarsi tra notizie e giurisprudenza.”
Continua a seguirci!
