L’Intelligenza Artificiale sta entrando in una nuova fase evolutiva all’interno delle imprese. Come emerge dal report “Autonomia Delegata” realizzato da Zenita Group, siamo ormai passati dalla fase dei software capaci solo di rispondere a domande o di riassumere testi a quella degli agenti AI in grado di consultare database, pianificare flussi operativi e agire autonomamente per conto di un’organizzazione.
Questa evoluzione introduce una nuova criticità: la perdita della tracciabilità istantanea. I modelli di AI generativa operano infatti attraverso processi decisionali che i tradizionali strumenti di monitoraggio e i log non riescono a ricostruire pienamente, rendendo più difficile comprendere e tracciare le logiche che guidano gli output. Il mercato si sta così dividendo tra l’AI di scala, guidata da OpenAI che punta a ecosistemi iper-integrati, e l’AI di controllo di Anthropic, focalizzata sulla trasparenza per i settori regolamentati come banche e ospedali.
Il vero punto debole di questa trasformazione risiede nella cybersicurezza. Il report individua nove nuovi rischi cyber legati al comportamento dei modelli e rivela che sei di essi non sono coperti dai controlli attuali. Una delle minacce più critiche è la Belief Injection, un attacco persistente che contamina progressivamente i dati per influenzare nel tempo i criteri decisionali dell’agente AI. Come spiegato da Pierguido Iezzi, Cybersecurity Director di Zenita Group, le difese tradizionali sono progettate per individuare eventi evidenti, come un malware, ma faticano a riconoscere le deviazioni comportamentali di natura cognitiva. Per proteggere l’azienda agentica sarà quindi necessario passare da un approccio deterministico a uno probabilistico, ridefinendo perimetri e responsabilità prima che l’autonomia delegata sfugga al controllo umano.
A.C.
Diritto dell’informazione
“Diritto dell’informazione: la bussola per orientarsi tra notizie e giurisprudenza.”
Continua a seguirci!
