All’inno del 2020 Henry Ajder, l’esperto di deepfake, aveva scoperto un bot realizzato su Telegram progettato per “spogliare” le foto femminili usando l’Intelligenza Artificiale. Nel 2020 Ajder si ricorda che il bot era stato utilizzato per creare più di 100.000 immagini esplicite, incluse foto di minori. Da quell’anno questi strumenti sono diffusi sempre di più diventando armi pericolose.
La testata giornalista Wired ha condotto un’analisi in merito all’applicazione Telegram andando ad analizzare tutti quei profili che creano contenuti espliciti, senza il reciproco consenso, e si è individuata la presenza di circa 50 bot. Questi bot sono in grado di generare video e foto di questo genere con un semplice clic, ma hanno anche altre funzionalità come il “rimuovere i vestiti” dalle foto o addirittura ritrarre persone in atti sessuali.
Secondo questa osservazione i 50 bot, in lingua inglese, contano 4 milioni di utenti al mese.
La presenza di deepfake espliciti non consensuali, conosciuti anche con il nome NCII (non-consensual intimate imagery o abuso di immagini intime non consensuali, ndr) già dal 2017 erano aumentati rapidamente e alimentati anche dal progresso dell’Intelligenza Artificiale generativa.
Online esistono diversi siti che forniscono strumenti per “spogliare” o “denudare” immagini, affiancati da bot avanzati su Telegram utilizzati per prendere di mira migliaia di donne a livello globale, dalle studentesse in Corea del Sud fino a personalità pubbliche come la premier italiana. Inoltre, un recente sondaggio ha rivelato che il 40% degli studenti americani è a conoscenza di deepfake riguardanti le loro scuole.
I bot di Telegram sono piccole applicazioni integrate nella piattaforma. Si aggiungono ai canali, che consentono di inviare messaggi a un numero illimitato di iscritti, ai gruppi con un massimo di 200.000 partecipanti e alle chat individuali. I programmatori hanno creato bot in grado di eseguire diverse funzioni, come avviare riunioni su Zoom, realizzare quiz, tradurre messaggi, impostare promemoria. Tuttavia, molti di questi bot vengono anche utilizzati per generare deepfake abusivi.
I primi bot di Telegram, scoperti anni fa, erano piuttosto semplici, ma con i progressi della tecnologia AI sono diventati capaci di generare immagini sempre più realistiche, spesso operando senza attirare troppo l’attenzione. Ad esempio, un bot con oltre 300.000 utenti mensili non menzionava esplicitamente contenuti sessuali, ma una volta attivato offriva più di 40 opzioni di immagini, molte delle quali di natura altamente sessuale. Gli sviluppatori possono anche stabilire termini di servizio che vietano il caricamento di immagini non consensuali o di minori, ma queste regole sono raramente applicate.
La maggior parte di questi bot richiede l’acquisto di “token” per generare immagini, e non è sempre chiaro se mantengano le promesse fatte. Con l’espansione dell’ecosistema legato alla creazione di deepfake, questa attività è diventata una potenziale fonte di guadagno per gli sviluppatori di siti, app e bot.
“Queste immagini false possono avere un impatto devastante sulla salute mentale e il benessere di una persona, causando traumi psicologici, umiliazione, paura, imbarazzo e vergogna”, afferma Emma Pickering, responsabile della tecnologia per l’abuso e l’emancipazione economica presso Refuge, la principale organizzazione britannica contro la violenza domestica. “Nonostante questo tipo di abuso sia comune, i responsabili raramente vengono puniti, e sappiamo che sta diventando sempre più frequente anche nelle relazioni intime” conclude Pickering.
M.P.
