A gennaio 2025, Lina, giovane madre residente a Malaga, si era recata in una stazione di polizia per denunciare le minacce e i comportamenti aggressivi del suo ex compagno. La valutazione del caso era stata affidata a VioGén, un sistema di Intelligenza Artificiale usato in Spagna per classificare il rischio di violenza di genere.
Dopo una serie di domande, tra cui l’eventuale accesso da parte dell’aggressore ad armi, disturbi mentali o precedenti, l’algoritmo ha stabilito che il pericolo per Lina era “medio”, un livello che non prevede misure protettive immediate, ma l’assegnazione di un agente di protezione entro 30 giorni. Tre settimane dopo, Lina è stata uccisa. Il suo ex si è introdotto nell’appartamento e ha appiccato un incendio: il suo corpo è stato ritrovato carbonizzato.
Il femminicidio ha scatenato polemiche in Spagna e riaperto la riflessione sul ruolo dell’Intelligenza Artificiale nella valutazione del rischio. L’AI Act europeo, entrato in vigore nel febbraio 2024, vieta espressamente l’uso di algoritmi predittivi che si basano su dati personali (come comportamento, contesto sociale, condizioni di salute mentale) non verificabili, per evitare distorsioni o discriminazioni.
VioGén, come altri strumenti simili usati in Europa, si basa su dati oggettivi, ma non possiede né coscienza né empatia. Non percepisce lo sguardo impaurito di una donna, non coglie le sfumature, non intuisce ciò che i numeri non raccontano.
È questo il grande limite di ogni sistema automatizzato: l’incapacità di percepire la complessità umana.
Lina forse si sarebbe potuta salvare se, oltre all’algoritmo, ci fosse stato un intervento umano più sensibile e tempestivo. La tecnologia è un supporto prezioso, ma non può sostituire la responsabilità, l’intuito, il giudizio umano.
Perché quando la posta in gioco è la vita di una persona, la prudenza non è un ostacolo. È un dovere. Per evitare che l’Intelligenza Artificiale da strumento nelle nostre mani diventi una “Moira” del destino umano.
A.C.
Diritto dell’informazione
“Diritto dell’informazione: la bussola per orientarsi tra notizie e giurisprudenza.”
Continua a seguirci!
▶️ https://dirittodellinformazione.it/chi-siamo/
