Che l’Intelligenza Artificiale sia uno strumento cruciale e sempre più centrale nelle nostre società, è un fatto noto. La maggior parte dei testi scritti, pagine web, motori di ricerca, traduzioni sono fatte in tutto o in parte tramite l’IA, che è entrata nella nostra quotidianità con una velocità impressionante. L’Europa si è posta l’ambizioso obiettivo di regolamentarne l’uso tramite l’AI ACT, di recente approvazione, il primo testo al mondo che intende normare la disciplina e definirne i rischi.

Tuttavia è necessario distinguere le caratteristiche che l’Intelligenza Artificiale assume a seconda del settore nella quale viene applicata. A differenza del mondo della produzione e dei servizi largamente intesi, l’IA nella sanità non deve aumentare la produzione, ma migliorare la precisione, l’efficacia e la stabilità dei processi predittivi, diagnostici e di cura. Dove si utilizza l’IA in sanità nello specifico? Quali sono i rischi e le sue potenzialità?

L’IA non è né un problema né la salvezza dei sistemi sanitari, che vanno ripensati

Partiamo da questo presupposto: l’IA è uno strumento. E come tale è neutro, senza alcuna accezione ideologica precostituita positiva o negativa. L’IA si inserisce inoltre all’interno di un quadro normativo italiano ed europeo che da anni intende tutelare i dati dei pazienti (GDPR), di standardizzare le cure, di creare sinergie e disseminare buone pratiche per creare ecosistemi della salute virtuosi nel loro complesso.

Occorre ripensare i sistemi sanitari, partendo dal presupposto che la mancanza di personale sanitario in molti paesi tra cui il nostro, l’incremento di domanda di cure dovuta anche all’invecchiamento della popolazione, l’aumento dei costi per l’accesso alle cure e per il sistema sanitario stesso (durante il periodo del covid, solo i costi dell’elettricità di molti centri di cura sono triplicati e questo ha reso insostenibile mantenere l’apertura e la funzionalità di molti nosocomi) rappresentano solo alcuni dei problemi più impellenti. In questo, l’IA può essere un importante strumento per la mitigazione dei costi e per garantire la resilienza dei sistemi sanitari e di cura di tutta Europa.

AI Act: Un Pilastro Normativo per l’Intelligenza Artificiale in Sanità

L’AI Act rappresenta il primo tentativo globale di regolare l’uso dell’Intelligenza Artificiale e i rischi connessi, con una particolare attenzione verso le applicazioni nei settori ad alto impatto, tra cui la sanità. La legge europea distingue le tecnologie basate sull’IA in base al rischio associato al loro impiego, ponendo la sanità nella categoria più alta, data la delicatezza e l’importanza delle decisioni e dei loro effetti. In quest’ottica, il testo normativo impone agli sviluppatori di applicazioni mediche di IA criteri rigidi di trasparenza, accuratezza e comprensibilità, per garantire la sicurezza dei pazienti e l’affidabilità dei processi diagnostici e terapeutici.

Inoltre, l’AI Act stabilisce che tutte le tecnologie IA ad alto rischio debbano superare controlli di conformità e certificazione, coinvolgendo anche le autorità di vigilanza nazionali e sovranazionali per verificare il rispetto delle normative. Questo approccio risulta particolarmente rilevante per l’Italia, dove le problematiche legate alla mancanza di personale sanitario e all’invecchiamento della popolazione necessitano di tecnologie affidabili e sicure per sostenere il sistema sanitario. Tuttavia, il rispetto delle linee guida europee comporta anche sfide economiche e strutturali, specialmente per le piccole e medie imprese che sviluppano soluzioni di IA e per le strutture sanitarie che devono adattarsi a nuovi standard e requisiti tecnologici.

La velocità dello sviluppo e la necessità della sicurezza: due rette parallele che devono incontrarsi

La velocità di sviluppo dei modelli IA è stata disarmante. Prima del 2015, di IA in sanità non vi era neppure l’ombra. Basti pensare che all’inizio del 2023, le applicazioni di IA approvate dall’americana Food and Drug Administration erano circa 500. Al 30 giugno 2024, ultimo dato disponibile, il numero è di 951.

Questa rapidità però non può prescindere dalla sicurezza delle cure, che passa dalla validazione e dai test della comunità scientifica prima di essere sottoposta ai pazienti. Spesse volte questi processi richiedono un tempo necessario talmente importante, che la tecnologia sviluppata rischia di diventare obsoleta prima ancora di arrivare ai pazienti, per non parlare dell’iter burocratico, legislativo e di applicazione necessaria che avviene attraverso una formazione adeguata del personale sanitario.

Per superare queste barriere, l’OCSE ha definito delle linee guida che delineano dei problemi strutturali dell’IA in sanità, quali: una governance non chiara, delle politiche disallineate sul tema, la mancanza di standard, frammentazione normativa e a livello di stakeholder, mancanza di letteratura. Tali problemi portano un deficit di trasparenza, problemi di bias, di sicurezza o privacy, di etica e del personale sanitario impreparato a tali cambiamenti.

Formare il personale sanitario, la sfida più importante

Come accennato precedentemente, il personale sanitario è al centro di questo processo. L’IA non deve sostituire chi si occupa della cura dei pazienti, ma occorre che gli strumenti possano essere di supporto al personale sanitario. Ad esempio, nel campo della radiologia, l’IA può identificare anomalie nelle immagini mediche con una velocità e accuratezza superiori a quelle umane, aiutando i medici a rilevare precocemente patologie come forme neoplastiche.

Inoltre, l’IA può migliorare l’accessibilità ai servizi di diagnosi, riducendo i tempi di attesa e i costi. Un obiettivo noto è quello di mitigare progressivamente il carico che grava sugli ospedali e sui DEA – Dipartimenti di Emergenza ed Accettazione, con evidenti ricadute sul sistema, nella sua totalità, e sulla salute mentale degli operatori sanitari. Il personale sanitario va formato, non lasciato solo di fronte al determinismo degli eventi, anche attraverso un forte indirizzo politico che abbia il coraggio di prioritizzare questa sfida, nonostante le dinamiche geopolitiche portino a orientare altrove le attenzioni.

IA e cybersicurezza: la necessità di difendere i dati sanitari dagli attacchi hacker

Il tema degli attacchi hacker è di fondamentale importanza quando si parla di dati sanitari e IA, perché il settore sanitario al momento non è in grado di far fronte alle ultime frontiere della cybersicurezza e perché i dati dei pazienti sono particolarmente redditizi e remunerativi. In Italia, il numero di attacchi che hanno colpito il settore sanitario e di cura è più che raddoppiato negli ultimi anni: basti pensare che nel 2018 furono 161, nel 2020 ammontarono a 210, 304 nel 2022 e nel 70% dei casi si è trattato di eventi a criticità elevata o critica. L’associazione Clusit – Associazione Italiana per la Sicurezza Informatica pubblicherà il 7 novembre il nuovo rapporto sul tema.

IA e razzismo: i rischi dei modelli predittivi

L’IA prende in considerazione grandi set di dati e sintetizza ciò che esiste al fine di definire in modo significativo e puntuale la fase di prevenzione e diagnosi dei pazienti. L’analisi delle cartelle e della storia clinica dei pazienti, le condizioni genetiche ed epigenetiche, l’analisi dei continui feedback che i dispositivi di monitoraggio dei pazienti forniscono, tutto può e deve essere utile a definire da cosa potenzialmente potremmo essere affetti ed agire di conseguenza.

Tuttavia, i database procedono per indice statistico, e storicamente chi si è potuto permettere di potersi monitorare nel tempo l’ha fatto per via di condizioni socioeconomiche che potessero permetterlo, sistemi sanitari universalistici e un contesto di qualità dei servizi e delle cure che hanno portato gli attuali dataset ad avere delle discrepanze nei dati, a seconda delle popolazioni (nel senso medico del termine) dei pazienti.

Occorre dunque adattare tali modelli predittivi a quelle che sono le esigenze dei soggetti, per evitare discriminazioni statistiche, orbene che le diagnosi siano più precise per alcune categorie e meno per altre.

Conclusione

L’Intelligenza Artificiale promette di trasformare il sistema sanitario; occorre però sfruttare al meglio le sue potenzialità per un’applicazione attenta e regolamentata. L’AI Act offre una cornice di sicurezza fondamentale per bilanciare innovazione e tutela dei pazienti, ma sarà cruciale un’implementazione efficace e condivisa, attraverso il continuo coinvolgimento di stakeholder chiave, affinché la sanità europea e italiana possano davvero beneficiare di queste nuove tecnologie.

La sfida sarà dunque integrare l’IA in modo sicuro e trasparente, garantendo che resti uno strumento al servizio dei pazienti e delle compagini beneficiarie, al fine di garantire a tutti un vero, equo, accessibile ed efficace diritto alla salute.