La presenza di questi nuovi sistemi nella sanità sta costituendo una grande svolta. Le loro abilità di elaborazione di grandi quantità di dati e documenti clinici, di riduzione dei tempi diagnostici e di comprensione e traduzione in un linguaggio semplice di terminologie tecniche hanno un impatto positivo nell’efficienza del settore, supportando il lavoro dei medici.
Nonostante le numerose innovazioni introdotte da i processi LLM e le tecniche NLP, questi strumenti sono ancora ben lontani da una totale integrazione a causa della presenza di alcune criticità, che potrebbero comportare potenziali rischi. Tra i primi problemi emersi dalla sperimentazione di questi sistemi vi sono la mancanza di chiarezza, trasparenza, completezza e contestualizzazione delle informazioni.
A ciò si aggiungono ulteriori problematiche, quali: una limitata capacità diagnostica, in quando non sono ancora in grado di elaborare dati non numerici (es. parametri vitali, immagini o risultati di laboratorio); una variabilità delle risposte in base alle lingue e ai modelli usati, visto che questi ultimi richiedono aggiornamenti frequenti per adattarsi alle evoluzioni delle guide cliniche; l’influenza da bias algoritmici, che possono causare conseguenze negative nei casi di condizioni cliniche rare o complesse; e la mancanza di un completo quadro normativo che regoli la responsabilità legale nel loro utilizzo.
Un altro ostacolo al pieno utilizzo di queste tecnologie è dato dalla scarsa interoperabilità e dalla presenza di dati non digitalizzati o non strutturati, che ne limitano l’integrazione efficace nei contesti sanitari.
Nonostante queste criticità, il futuro della sanità vedrà un bilanciamento tra le abilità umane e il supporto dei LLM e NLP. La presenza di strumenti bioinformatici, come Phenomizer ed Exomiser, costituisce un primo passo concreto verso lo sviluppo di supporti ibridi e complementari, che come “un secondo cervello” digitale saranno in grado di appoggiare i professionisti del settore, sotto il controllo umano.
L’adozione di strategie avanzate di prompting e di interfacce utente semplificate potrà facilitare l’uso di questi sistemi anche da parte di un personale non specializzato. Tuttavia, sarà necessario stabilire un solido quadro normativo, l’adozione di principi etici condivisi per garantire una diffusione responsabile e sicura ed una tutela dei diritti e della privacy dei pazienti.
C.Z.
Diritto dell’informazione
“Diritto dell’informazione: la bussola per orientarsi tra notizie e giurisprudenza.”
Continua a seguirci!
▶️ https://dirittodellinformazione.it/chi-siamo/
