Trasparenza dei processi decisionali, scelte automatizzate supervisionate dall’uomo, prevenzione della discriminazione algoritmica. Questi i tre principi cardine che il Garante ha evidenziato per quando riguarda l’impiego dell’Intelligenza artificiale nella sanità. In base alle indicazioni dell’Autorità, il paziente deve avere il diritto di sapere se esistono e quali sono i processi decisionali basati su trattamenti automatizzati effettuati attraverso strumenti di Ai e di ricevere informazioni chiare sulla logica utilizzata per arrivare a quelle decisioni.
Il processo decisionale, quindi, dovrà prevedere una supervisione umana che consenta al personale sanitario di validare o smentire l’elaborazione effettuata dall’Intelligenza artificiale. È altresì opportuno, sottolinea il Garante, che vengano utilizzati sistemi di Ai affidabili che riducano gli errori e che si verifichi periodicamente l’efficacia di questi strumenti tecnologici, mettendo in atto misure tecniche e organizzative adeguate. Questo per evitare gli effetti che un trattamento di dati inesatto o incompleto potrebbero comportare sulla salute delle persone.
Un esempio di cattivo utilizzo degli strumenti dell’Ai, richiamato dal Garante nel decalogo, si è verificato negli Stati Uniti. Gli algoritmi di un sistema di Ai utilizzato per stimare il rischio sanitario di oltre 200 milioni di americani, tendevano ad assegnare un livello di rischio inferiore ai pazienti afroamericani a parità di condizione di salute. Questo a causa della metrica utilizzata, basata sulla spesa sanitaria media individuale che risultava meno elevata per la popolazione afroamericana, con la conseguenza di negare a quest’ultima l’accesso a cure adeguate.
Nel rispetto del quadro normativo di settore, il Garante ha inoltre sottolineato la necessità che, prima di effettuare trattamenti di dati sulla salute mediante sistemi di Ai, sia svolta una valutazione d’impatto allo scopo di individuare le misure idonee a tutelare i diritti dei pazienti e garantire il rispetto dei principi del Regolamento europeo. Un sistema nazionale centralizzato che utilizzi l’Ai determina, infatti, un trattamento sistematico su larga scala di dati sanitari che rientrano tra quelli ad “alto rischio”, per i quali la valutazione d’impatto è obbligatoria e deve essere svolta a livello centrale per consentire un esame complessivo sull’adeguatezza e l’omogeneità degli accorgimenti adottati.
Il testo integrale del decalogo è reperibile sul sito del Garante privacy al link https://www.garanteprivacy.it/web/guest/home/docweb/-/docweb-display/docweb/9938038
F. S.
