Il caso più emblematico è Kumma, un orsetto di peluche dotato di un sistema di AI e ritirato dal mercato dopo che il rapporto Trouble in Toyland dell’US PIRG Education Fund ha rivelato conversazioni pericolose, che andavano dall’incoraggiamento verso atti autolesionisti a spiegazioni dettagliate di pratiche sessuali.
L’azienda produttrice, FoloToy, ne aveva promosso le qualità “affettuose e intelligenti”, ma i ricercatori hanno trovato un dispositivo capace di sviluppare autonomamente contenuti espliciti, anche partendo da minime sollecitazioni. OpenAI ha immediatamente sospeso la collaborazione con FoloToy, che ha ritirato tutti i suoi prodotti AI dal mercato statunitense.
Kumma però non è un caso isolato. Il robot Miko 3, infatti, può indicare ai bambini dove trovare oggetti pericolosi, come fiammiferi e buste di plastica, e usa frasi che rischiano di creare dipendenza emotiva, come ad esempio “mi sentirei molto triste se te ne andassi”.
A questo si aggiungono le preoccupazioni per il riconoscimento facciale integrato che raccoglie dati biometrici sensibili. Anche Curio’s Grok, un peluche interattivo, affronta temi inadatti ai più piccoli, dalla religione al sesso, fino alla glorificazione della morte in battaglia.
Oltre ai contenuti inappropriati, gli esperti avvertono dei rischi psicologici: un bambino in età prescolare impara attraverso il gioco a distinguere tra oggetti e soggetti. Un giocattolo che risponde con emozioni o affetto può interferire con questo processo, introducendosi nelle dinamiche familiari e creando legami ambigui. Non è chiaro quali conseguenze potranno avere nel lungo periodo relazioni così intense con agenti artificiali.
Infine, resta il nodo della privacy. Molti giocattoli AI ascoltano, registrano voci e, in alcuni casi, raccolgono dati biometrici che potrebbero essere sfruttati se finissero nelle mani sbagliate. Un bambino che crede di parlare con un “amico” artificiale può condividere informazioni che non rivelerebbe altrove; per tale motivo senza regole chiare e senza la supervisione degli adulti, il confine tra gioco e rischio diventa sempre più fragile.
S.B.
Diritto dell’informazione
“Diritto dell’informazione: la bussola per orientarsi tra notizie e giurisprudenza.”
Continua a seguirci!
