L’Intelligenza Artificiale (AI) sta rivoluzionando diversi aspetti della nostra quotidianità ed anche il mondo dei servizi di ambito medicale viene coinvolto in questo cambiamento di scenario. Sempre più spesso, infatti, l’AI viene applicata in ambito sanitario come supporto per le decisioni dei professionisti del settore.
Considerato l’elevato grado di pervasività di questa tecnologia, le Autorità intervengono sempre più di frequente per regolamentare il fenomeno e disegnare un quadro normativo che prevenga i rischi senza limitare le incredibili possibilità offerte dai nuovi strumenti.
Tra i più recenti paper pubblicati sull’argomento ci sono il Cybersecurity and privacy in AI – Medical Imaging diagnosis dell’Agenzia dell’Unione europea per la cybersicurezza e il decalogo del Garante per la protezione dei dati personali.
Entrambi i documenti approfondiscono l’impiego dell’AI in ambito sanitario ed evidenziano l’importanza di effettuare una valutazione di impatto sul trattamento dei dati personali. Tuttavia, mentre il primo paper tocca anche tematiche legate alla cybersecurity e alla protezione dei dati personali, il secondo rimane focalizzato sulle regole che dovrebbero essere rispettate per realizzare servizi sanitari nazionali attraverso sistemi di AI.
Nonostante il diverso focus, i documenti rimangono concordi nell’affermare la necessità di effettuare delle valutazioni riguardo i possibili rischi sui diritti e le libertà delle persone fisiche derivanti dall’utilizzo di tecnologie come l’AI. Tali valutazioni si rendono ancora più inderogabili nel momento in cui ad essere trattate sono informazioni sanitarie, perché dati di scarsa qualità oppure compromessi potrebbero influenzare l’efficacia e la correttezza dei servizi sanitari erogati. Integrità e riservatezza sono principi che assumono ancora più importanza a fronte della particolare delicatezza delle informazioni in questione.
Le Autorità si sono dedicate anche alla definizione dei ruoli di tutte le parti coinvolte nel trattamento. In particolare, i dati sfruttati all’interno dei sistemi di Intelligenza Artificiale vengono spesso trattati e archiviati in risorse gestite da fornitori cloud. La struttura sanitaria deve quindi verificare il fornitore, il suo operato e la sua conformità alla legislazione in materia di protezione dei dati e alle best practice di cybersecurity.
Infine, per l’utilizzo di algoritmi e di strumenti AI il Garante ha posto in evidenza alcuni principi generali. Tra questi figurano in particolare la conoscibilità (il diritto di conoscere l’esistenza di processi decisionali basati su trattamenti automatizzati), la non esclusività della decisione algoritmica (deve esistere nel processo decisionale un intervento umano capace di controllare la decisione automatica) e il principio di non discriminazione algoritmica (il titolare del trattamento deve utilizzare sistemi di AI affidabili, che riducano le opacità e gli errori).
Anche se siamo ancora in attesa del Regolamento europeo sull’Intelligenza Artificiale, comincia già a delinearsi un quadro regolatorio di cui gli operatori dovranno tener conto sia in fase di progettazione sia per la gestione contrattuale e operativa dei servizi basati su AI.
M.M.