I pericoli associati agli strumenti di intelligenza artificiale sono stati denunciati da varie fonti, compreso il fondatore di OpenAI che ha sollevato la questione ufficialmente al Senato americano. Ci sono settori in cui i rischi sono ancora maggiori, come nel caso della gestione della salute delle persone, soprattutto degli adolescenti. Infatti, la portata del potenziale bacino di utenti danneggiati da un uso improprio di strumenti per la prevenzione dei disturbi alimentari è evidente dalle statistiche ufficiali. I disturbi alimentari colpiscono circa il 9% della popolazione mondiale e solo il 6% delle persone con questi disturbi viene considerato clinicamente sottopeso.
In uno studio intitolato “Efficacia di un chatbot per la prevenzione dei disturbi alimentari: uno studio clinico randomizzato”, i promotori hanno scoperto che un chatbot, o un programma per computer che simula una conversazione umana, può essere utile solo per aiutare i soggetti a rischio a evitare di cadere nella rete dei disturbi alimentari. Quando si va oltre, e non ci si limita a dare suggerimenti generali ma risposte come consigli dietetici, insorgono problemi e pericoli considerevoli.
Un esempio è quello di Tessa, un chatbot creato dalla National Eating Disorders Association (NEDA), un’organizzazione senza scopo di lucro che si occupa di disturbi alimentari e fornisce terapie specializzate. Inizialmente, Tessa avrebbe dovuto fornire supporto a individui a rischio di sviluppare disturbi alimentari. Tuttavia, ha poi iniziato a fornire consigli sulla dieta, incluso il conteggio delle calorie, su richiesta specifica degli utenti. L’associazione NEDA ha saputo dei cattivi consigli della chatbot attraverso post su Instagram, e ha fatto sapere di aver stoppato Tessa.
L’amministratore delegato della Cass, l’operatore che gestisce il chatbot della NEDA, ha reso noto che “nella maggior parte dei casi Tessa ha funzionato davvero bene: ha fatto e detto le cose giuste e ha aiutato le persone ad accedere alle cure”. Inoltre, nel tentativo di attenuare le proprie responsabilità, ha affermato che il suo set di dati, fornito dalla azienda Cass e utilizzato da Tessa per fornire le risposte, era limitato a fonti autorevoli e che quando ha dato consigli su come perdere peso, Tessa ha allo stesso tempo raccomandato di consultare un operatore sanitario.
La responsabile della NEDA ha invece ribadito che “ogni singola parola è importante quando si parla con persone che hanno disturbi alimentari, fenomeni fisici e mentali complessi”. Per questo Tessa rimarrà offline fino a quando NEDA e i ricercatori universitari che l’hanno creata non riconvalideranno tutto il suo contenuto.
La vicenda conferma la necessità e l’urgenza di intervenire per regolamentare questo campo a livello globale. L’azione esclusiva della UE, già in itinere, non è comunque sufficiente data la volatilità dei confini fisici quando si agisce sul web.
(C.D.G.)
