Una stampante? Un software per il fotoritocco? Troppo anni ’90. Oggi basta ChatGPT per creare un documento falso. Il modello 4o di OpenAI ha dimostrato come sia possibile generare documenti falsi (passaporti, scontrini e certificati) tanto realistici da superare i controlli automatici di verifica utilizzati da banche e piattaforme online.
Il primo è il caso del ricercatore polacco specializzato in cybersicurezza, Borys Musielak, con il suo passaporto generato in soli 5 minuti, che ha superato i sistemi di verifica automatizzati basati su selfie e documenti.
Altri casi vedono protagonisti scontrini e ricevute false, con loghi, dettagli fiscali e perfino la dicitura “copia cliente”, che simulano perfettamente un acquisto mai avvenuto. Sfruttabili per ottenere rimborsi su spese non sostenute, approfittando del fatto che molte amministrazioni accettano semplici foto digitali o scansioni al posto dello scontrino originale.
Il confine tra simulazione e truffa è ormai sottilissimo e la velocità con cui si muove la tecnologia lascia indietro leggi, controlli e piattaforme. Non si tratta più solo di regolare l’AI per evitare risposte offensive o errori: ora si tratta di prevenire frodi, truffe e reati.
Occorre quindi rafforzare le misure di sicurezza, promuovere standard di verifica più robusti, come l’integrazione di codici QR crittografati o l’adozione di sistemi di verifica basati su blockchain per garantire l’autenticità delle transazioni. La sfida non è solo tecnologica, è anche, e soprattutto, legale: serve un quadro normativo aggiornato e condiviso che sia in grado di affrontare queste nuove forme di manipolazione digitale.
Il punto non è più solo “cosa può fare l’AI”, ma “chi la usa e per farci cosa”. E se oggi a provarlo è un esperto in un test controllato, domani potrebbe essere chiunque, con intenzioni ben meno etiche.
A.C.
Diritto dell’informazione
“Diritto dell’informazione: la bussola per orientarsi tra notizie e giurisprudenza.”
Continua a seguirci!
