Alla base di tutto si colloca il paper “Why Language Models Hallucinate”, che dimostra come i modelli linguistici producano affermazioni errate a causa di procedure di addestramento che premiano il “tirare ad indovinare” anziché il riconoscere l’incertezza. Senza dubbio, il cuore del paper è il sommario, che evidenzia come tali modelli siano spinti a non ammettere l’incertezza e a produrre asserzioni plausibili ma scorrette.
Ma quale chatbot vince? Innanzitutto, la consapevolezza deve essere che i modelli linguistici in toto sono costruiti per inventare le risposte: l’obiettivo di questi è di esprimersi in modo convincente, non di rispondere correttamente. Allora di chi è la colpa? La responsabilità di queste dinamiche è nelle mani dei singoli individui, che decidono di fidarsi e lasciarsi ingannare.
Tuttavia, si alza un grande tema che vede protagonista l’AI: un’automazione che non è in grado di distinguere tra verità e finzione. Occorre definire il funzionamento di questi modelli: non dispongono di una lista di informazioni verificate a cui rifarsi e, nel momento in cui non trovano quello che cercano, intercettano un motore per tirare a indovinare. Ma allora perché si parla di allucinazione? Questa riguarda esclusivamente l’utente, che è l’unico in grado di distinguere output veri e falsi.
Allora si può parlare di un vero e proprio boom speculativo: si investono ingenti cifre in startup e progetti incompiuti. In questa direzione i dati parlano chiaro: il 95% delle aziende che hanno investito nell’AI non è in grado di comprendere come trarne vantaggio. E quali sono i punti problematici alla base? Innanzitutto, ogni nuova versione di Intelligenza Artificiale è meno economica; le prestazioni non aumentano all’aumentare dei costi di training; spesso vi è una carenza di dati per l’addestramento di modelli più potenti e complessi di quelli già esistenti; sono una fonte di produzione delle cosiddette “autocit”.
Essendo l’allucinazione causata dall’AI un fenomeno di massa, diffuso su scala globale, allora la ripresa sarà particolarmente complessa: è necessario fare fronte comune prima che sia troppo tardi.
L.V.
Diritto dell’informazione
“Diritto dell’informazione: la bussola per orientarsi tra notizie e giurisprudenza.”
Continua a seguirci!
