L’Intelligenza Artificiale, sempre più utilizzata per ottenere informazioni in ambito scientifico e medico, presenta un rischio poco noto ma potenzialmente grave: l’inclusione, nei propri modelli di addestramento, di dati provenienti da studi scientifici ritirati, cioè ritenuti inaffidabili dalla comunità accademica.
Un’inchiesta del MIT Technology Review ha evidenziato che sistemi come ChatGPT, se interrogati su argomenti medici, in alcuni casi citano articoli ritirati senza segnalarlo all’utente e il problema sembra non riguardare solo un singolo chatbot, ma anche alcuni strumenti specializzati per la ricerca accademica.
Alla base di questo problema vi è il modo in cui vengono addestrati i modelli linguistici di grandi dimensioni, che assimilano enormi quantità di dati raccolti online ma senza filtrare efficacemente le fonti valide dai contenuti invece ormai invalidati. Quando un articolo viene ritirato, infatti, le segnalazioni restano spesso confinate alle piattaforme scientifiche ufficiali, mentre le copie già archiviate nei sistemi di AI possono continuare a essere utilizzate e citate.
Le conseguenze possono essere gravi, soprattutto se chi consulta l’AI non ha gli strumenti per riconoscere la qualità della fonte, e la diffusione di informazioni errate può generare diagnosi sbagliate, decisioni rischiose o alimentare la sfiducia nella scienza.
Alcune piattaforme stanno cercando delle soluzioni, tra cui l’integrazione con banche dati come Retraction Watch, ma il sistema resta frammentato e il rischio di “inquinamento informativo” è sempre più concreto.
Per affrontare il problema servono modelli più trasparenti, database aggiornati, sistemi di allerta efficaci e una maggiore alfabetizzazione digitale. La vera sfida, però, rimane quella culturale: non basta fidarsi dell’AI, bisogna anche imparare a chiedersi da dove provengono le informazioni che offre per non confondere l’autorità della macchina con la veridicità del contenuto.
S.B.
Diritto dell’informazione
“Diritto dell’informazione: la bussola per orientarsi tra notizie e giurisprudenza.”
Continua a seguirci!
▶️ https://dirittodellinformazione.it/chi-siamo/