Un fenomeno che preoccupa e disorienta. Se ne parla ma senza una precisa cognizione di causa, a maggior ragione per quanto riguarda le iniziative per contrastarlo. I video deepfake (manipolati attraverso l’intelligenza artificiale) si stanno diffondendo rapidamente, anche perché la tecnologia usata per produrli migliora a una velocità impressionante. Capire se un video è stato manipolato potrebbe diventare quasi impossibile.
Questi video si basano su tecniche per la sintesi dell’immagine umana e sul deep learning – tecnologia di apprendimento automatico – che permettono di combinare e sovrapporre immagini e video esistenti, creando un nuovo video che documenta qualcosa che in realtà non è mai successo. Questa tecnica riguarda in particolare la riproduzione della voce e del viso di una persona al fine di farle dire o fare cose mai dette o fatte. Il rischio devastante, che deriva dalla diffusione, risiede nella estrema difficoltà a rendersi conto dell’autenticità del video perché è più facile di quanto si possa pensare creare una cornice veritiera intorno al deepfake e molte persone possono fare fatica a distinguere la differenza tra realtà e finzione. I deepfake possono inoltre essere utilizzati come strumenti di revenge porn, ovvero della “vendetta attraverso il porno”, per umiliare pubblicamente le donne.
Secondo un recente studio di Deeptrace, società che si occupa di cybersicurezza, il 96% dei video deepfake è composto da materiale pornografico che nel 100% dei casi ha come protagoniste le donne.
