Uno dei contesti in cui l’Intelligenza Artificiale ha suscitato particolare interesse e dibattito è la cosiddetta predictive policing, conosciuta anche come polizia predittiva. Con questa espressione si fa riferimento ad un approccio, usato dalle forze dell’ordine, basato sull’analisi di dati, sull’uso di algoritmi e sull’Intelligenza Artificiale, al fine di prevedere le probabilità con cui può essere commesso un reato, da chi e dove. L’obiettivo ultimo della predictive policing è quello di ottimizzare la gestione delle risorse delle forze dell’ordine, focalizzando il loro intervento in specifiche aree dove si prevede un maggiore rischio di reati.
Ovviamente, questo sistema non è esente da critiche. Al di là delle problematiche nella privacy, sempre presenti quando si parla di gestione dei dati, c’è il rischio che i modelli predittivi possano amplificare pregiudizi o discriminazioni per alcuni individui o comunità, oltre a causare tensioni in alcune aree per via della percezione di una sorveglianza eccessiva.
La predictive policing è dunque una dinamica che sicuramente sarà destinata a farsi spazio nell’era dei dati e delle smart cities, ma, come tutte le novità, prima di una sua estesa applicazione è necessario valutare i pro e i contro, ragionando con cura su come bilanciare gli effetti positivi di queste pratiche con i potenziali danni causati ai diritti e alla dignità delle persone.
Proprio in questi giorni in Europa l’attesissimo AI Act sta raggiungendo la fase finale dei negoziati. Uno dei principi chiave di questo disegno di legge è sempre stato che le persone e le società devono poter “fidarsi” dell’uso dei sistemi di Intelligenza Artificiale, in particolare sapendo che i sistemi rischiosi sono adeguatamente regolamentati. Infatti, l’AI Act, composto da 85 articoli, inquadra i diversi sistemi di Intelligenza Artificiale e i relativi paletti, proibisce alcune applicazioni e introduce procedure di salvaguardia per mettere al riparo i cittadini dell’Unione da abusi e violazioni dei diritti fondamentali.
Uno degli aspetti più delicati del negoziato tra Commissione, Parlamento e Consiglio europeo riguarda proprio la strada che intraprenderà l’Europa sull’uso dell’AI per compiti di polizia e di sorveglianza. Il braccio di ferro è tra il Parlamento, determinato a introdurre regole stringenti, e il Consiglio, che vuole un approccio più accomodante in materia di polizia. Gli Stati, al contrario, non vogliono rinunciare alla possibilità di usare l’AI per analizzare grandi moli di dati, identificare le persone, fare riconoscimento biometrico in tempo reale e condurre attività di polizia predittiva.
In questo caso, a chiedere eccezioni ai divieti generali sono Italia, Ungheria e Francia, che in vista delle Olimpiadi di Parigi del 2024 ha avviato un capillare sistema di AI per la sicurezza, mentre la Germania sposa la linea di cautela del Parlamento.