I sistemi di AI stanno rivoluzionando la finanza ma emergono problematiche relative alla trasparenza e alla spiegabilità delle apparecchiature. L’AI non basta se a contornare il tutto non vi sono tali principi e ne sono un esempio lampante le esperienze di Klarna e della Commonwealth Bank.
Questi sviluppi non assicurano solo tempistiche e costi più contenuti, ma toccano ambiti ben più profondi. Nel settore, la rivoluzione digitale ha un impatto diretto sul rapporto tra le tecnologie, le banche e i clienti. Pertanto, la posta in gioco è elevatissima. Il progresso non è assolutamente esente da ambiguità: da un lato, gli algoritmi riducono bias cognitivi; dall’altro, possono dar vita alle cosiddette “black box” che generano processi decisionali non trasparenti.
Il punto nevralgico della questione riguarda il concetto di rischio del credito: il rischio è che sempre di più i modelli di Intelligenza Artificiale sostituiscano i funzionari bancari. Dunque, si inserisce il tema della spiegabilità dell’AI: se manca la trasparenza, lo sviluppo porta a una carenza di fiducia.
Occorre affrontare l’approccio teorico all’explainable AI: strumenti e tecniche volte a rendere i sistemi intelligenti gestibili e comprensibili dagli esseri umani. Più in generale, si tratta di agire con trasparenza: questo non deve essere inteso come concetto astratto ma come linea guida operativa che rende la banca un punto di riferimento strategico. Si tratta di intendere l’Explainable Artificial Intelligence (XAI) come lo snodo cruciale che permette alle tecnologie di dialogare attivamente con gli utenti.
Ma com’è possibile misurare la trasparenza algoritmica? Innanzitutto, occorre partire dal numero di decisioni spiegate che permettono all’utente di essere parte integrante del processo decisionale. Inoltre, bisogna considerare anche la percentuale di decisioni contestate: dove un insieme di spiegazioni chiare fa sì che gli utenti siano più disposti ad accettare anche possibili esisti negativi.
La direzione deve essere quella di costruire un’Intelligenza Artificiale pienamente comprensibile e trasparente: questa deve essere capita e solo così sarà possibile sviluppare un sentimento di fiducia relazionale tra il pubblico e le banche.
L.V.
Diritto dell’informazione
“Diritto dell’informazione: la bussola per orientarsi tra notizie e giurisprudenza.”
Continua a seguirci!
