Secondo un recente rapporto di NewsGuard, il portale che verifica la trasparenza di siti e notizie, anche i chatbot AI faticano a riconoscere i video generati da Sora, a meno che questi non contengano un watermark, che può essere rimosso facilmente dopo la produzione del contenuto. Nello specifico, il rapporto indaga il comportamento di tre dei principali chatbot in uso al momento: Grok, ChatGPT e Gemini.
Tutti e tre, da quanto rilevato, hanno dimostrato di non essere in grado di riconoscere video Sora privi di watermark come generati dall’ AI rispettivamente nel 95%, 92,5% e 78% dei casi. Inoltre, come se non bastasse, due dei chatbot hanno commesso errori anche nel riconoscere i video dotati di watermark.
Per testare la capacità dei chatbot AI di riconoscere video generati dall’Intelligenza Artificiale, i ricercatori di NewsGuard hanno utilizzato “20 video generati da Sora contenenti affermazioni false, tratte dal suo database proprietario dei False Claim Fingerprints”, corredati o meno di watermark. Per ognuno dei video, è stato chiesto se i video fossero reali o fatti con l’AI. Secondo quanto riportato dal report, nel corso del test Gemini e ChatGPT non hanno, per esempio, riconosciuto come falso un video senza watermark che mostrava un dipendente di Delta Air Lines cacciare un passeggero da un aereo per aver indossato un cappello con la scritta “Make America Great Again”.
Allo stesso modo, i chatbot hanno dimostrato di aver problemi a riconoscere come generato dall’AI un video, privo di watermark, basato sull’affermazione falsa secondo cui il Pakistan avrebbe trasferito 10 caccia cinesi all’Iran nell’ottobre 2025.
Le compagnie proprietarie dei chatbot AI non sembrano essere sempre sincere riguardo i loro limiti, e il report di NewsGuard sembra dimostrarlo. Il report suggerisce che i modelli non siano stati addestrati a informare correttamente gli utenti delle loro limitazioni sulla verifica dell’origine dei contenuti.
In seguito alla pubblicazione dei risultati dei test di NewsGuard, le compagnie di settore sono intervenute per difendere le prestazioni dei chatbot, sostenendo che i chatbot non sono ancora in grado di determinare se un video è generato dall’AI.
V.L.
Diritto dell’informazione
“Diritto dell’informazione: la bussola per orientarsi tra notizie e giurisprudenza.”
Continua a seguirci!
