L’intelligenza artificiale può sembrare sicura di sé anche quando sbaglia. Le sue risposte sono fluide, ben costruite, persuasive e danno l’impressione di essere fondate, verificate, affidabili. Tuttavia questa sicurezza è solo apparente perché i chatbot possiedono un limite da non sottovalutare: la capacità di inventare informazioni senza segnalarlo, producendo contenuti che si mostrano come credibili, ma non corrispondono alla realtà. È il fenomeno delle cosiddette “allucinazioni”.
Con la diffusione dell’ultima generazione di modelli di AI generativa, questo problema è diventato centrale. Gli utenti consultano i chatbot per qualsiasi cosa: notizie, salute, diritto, scelte personali. E proprio per questo la loro affidabilità non è più una questione solo tecnica, ma un tema pubblico.
A differenza di un motore di ricerca tradizionale, che restituisce link a fonti esterne, un chatbot costruisce interamente una risposta: non “sa” se ciò che dice è vero, si limita ad elaborare frasi, prevedendo quali parole siano più probabili in un dato contesto e tutto questo senza verificare l’attendibilità. Ciò che è peggio è che quando le informazioni sono incomplete o ambigue, il sistema non si ferma, ma riempie i vuoti.
Il risultato può lasciare senza parole: articoli mai pubblicati, citazioni inesistenti, dati imprecisi presentati come certi. La forma resta impeccabile, la sostanza no. Ed è proprio questa coerenza apparente a rendere le allucinazioni tanto difficili da riconoscere. Non stiamo parlando di un errore occasionale, ma di un elemento strutturale di questi modelli. L’obiettivo per cui sono progettati non è accertarsi dei fatti, ma generare risposte verosimili. E verosimile non significa affatto vero.
Le aziende che sviluppano questi sistemi hanno introdotto nel tempo dei limiti, delle regole interne che proibiscono, ad esempio, di fornire informazioni sensibili o fare affermazioni non verificabili su persone reali. In molti casi funzionano, bloccando o riformulando le risposte, in altri, però, non sono sufficienti.Il problema si aggrava quando si toccano ambiti delicati dove anche un singolo errore può avere conseguenze concrete, incidendo sulla reputazione delle persone, alimentando la disinformazione e generando convinzioni difficili da smontare in seguito.
Per questo, la verifica delle risposte non è un passaggio opzionale, ma una necessità: i chatbot possono essere strumenti potenti, ma non sono fonti affidabili in senso tradizionale e soprattutto non possono sostituire il lavoro di giornalisti, investigatori e scienziati.
L. P.
Diritto dell’informazione
“Diritto dell’informazione: la bussola per orientarsi tra notizie e giurisprudenza.”
Continua a seguirci!
▶️ https://dirittodellinformazione.it/chi-siamo/
