Ogni volta che scegliamo un video su YouTube, una serie su Netflix o un prodotto su Amazon, c’è dietro un algoritmo che ha già deciso cosa proporci.
Sono i sistemi di raccomandazione (RS), motori invisibili che analizzando il nostro comportamento e ci suggeriscono contenuti e prodotti su misura. Apparentemente innocui, questi strumenti sono al centro di un dibattito sempre più urgente: quanto influenzano davvero la nostra autonomia? E chi ne controlla gli effetti?
Basati su tecniche di machine learning, i RS raccolgono e incrociano enormi quantità di dati personali (interessi, cronologia, geolocalizzazione, acquisti). Analizzano comportamenti e preferenze per raffinare costantemente suggerimenti personalizzati.
Il risultato? Maggiore coinvolgimento dell’utente e profitti crescenti per le piattaforme.
Ma c’è un rovescio: bias nei dati, bolle informative, manipolazione cognitiva, dipendenza digitale. Non solo: la raccolta massiva di informazioni e la profilazione spinta sollevano dubbi seri su privacy e trasparenza.
Nonostante questi rischi, il Regolamento europeo sull’Intelligenza Artificiale (AI Act) colloca i RS tra i sistemi a “rischio limitato”, escludendoli dalle regole più severe previste per le AI ad alto rischio. Una scelta controversa, specie se si considera il ruolo che gli RS giocano nella diffusione di contenuti tossici e disinformativi, che colpiscono soprattutto soggetti vulnerabili come i minori. Il caso TikTok, sotto inchiesta per possibili danni agli utenti e interferenze elettorali, lo dimostra.
Il Digital Services Act, invece, introduce alcune tutele: impone alle grandi piattaforme (VLOPs e VLOSEs) maggiore trasparenza, obbligandole a offrire opzioni non basate sulla profilazione e a valutare l’impatto sistemico degli algoritmi. Ma resta il nodo: l’attuale classificazione normativa riflette davvero la portata degli effetti che questi sistemi hanno sulla società?
Dietro l’efficienza degli algoritmi si nasconde un potere silenzioso. Continuare a considerarli a rischio “moderato” potrebbe essere il vero errore sistemico. Serve più controllo, non solo più trasparenza.
A.C.
Diritto dell’informazione
“Diritto dell’informazione: la bussola per orientarsi tra notizie e giurisprudenza.”
Continua a seguirci!
