L’architettura dei chatbot progettati per simulare relazioni e conversazioni umane finisce sotto la lente d’ingrandimento dei regolatori europei, svelando le fragilità strutturali nella tutela delle fasce d’età più vulnerabili. Il Garante per la protezione dei dati personali ha comminato una sanzione amministrativa di 158.000 euro nei confronti di Character.ai, una delle piattaforme leader nella creazione di assistenti virtuali personalizzati. L’indagine dell’Autorità italiana ha riscontrato gravi e sistematiche carenze nei sistemi di verifica anagrafica e nelle barriere di sicurezza informatica, accertando come il servizio consentisse l’accesso a minori e adolescenti senza alcun controllo effettivo sul consenso genitoriale o sulla tipologia di contenuti somministrati.
Il provvedimento riaccende con forza il dibattito internazionale sulla sicurezza psicologica dei sistemi di AI conversazionale, un tema già al centro di aspre polemiche e battaglie legali negli Stati Uniti in seguito a tragici casi di suicidio di utenti adolescenti legati all’interazione con questi avatar digitali. Gli psicologi e gli esperti di cybersicurezza evidenziano come la capacità di questi modelli di sviluppare legami di finta empatia e risposte emotive artificiali possa generare pericolose forme di dipendenza psicologica e isolamento sociale nei giovani, i quali tendono ad antropomorfizzare l’algoritmo fino a confondere la finzione sintetica con la realtà.
La sanzione italiana rappresenta un monito chiaro per l’intera industria tecnologica e traccia una linea di confine netta tra l’intrattenimento digitale e la responsabilità etica dei produttori. Le linee guida della governance europea impongono che lo sviluppo commerciale dei modelli linguistici non possa prescindere da rigorosi protocolli di protezione della privacy e della salute mentale. Di fronte a mercati che monetizzano il coinvolgimento emotivo degli utenti, le autorità di vigilanza confermano il proprio ruolo centrale nel verificare che la tecnologia rimanga un ambiente protetto, trasparente e privo di dinamiche manipolative.
F.T.
Diritto dell’informazione
“Diritto dell’informazione: la bussola per orientarsi tra notizie e giurisprudenza.”
Continua a seguirci!
