Con l’avvento dell’intelligenza artificiale (AI) in sanità, la produzione scientifica che riguarda algoritmi, reti neurali, modelli predittivi e supporti decisionali digitali è letteralmente esplosa. Ma come può un medico oggi valutare in modo critico un articolo scientifico che dichiara di aver “utilizzato l’intelligenza artificiale” per fare diagnosi, predire eventi, o migliorare decisioni terapeutiche e capire se sia solido, utile e applicabile nella pratica clinica?
A queste domande risponde l’articolo pubblicato su BMJ Medicine da Paul Dijkstra, Trisha Greenhalgh e colleghi, che propone una vera e propria guida metodologica alla lettura critica di articoli che includono l’uso di tecnologie di AI. Il lavoro parte dal presupposto che, sebbene l’IA stia già modificando profondamente la pratica clinica, restano aperti interrogativi fondamentali su sicurezza, trasparenza, equità e validità scientifica degli studi che la riguardano.
Il documento si concentra soprattutto su quegli articoli che descrivono sistemi di supporto decisionale basati sull’AI, come quelli che aiutano a formulare diagnosi o suggerire trattamenti. Gli autori non si limitano a una descrizione tecnica, ma pongono l’accento su ciò che davvero conta per il clinico: l’affidabilità dell’algoritmo, la qualità dei dati su cui è stato addestrato, la chiarezza delle finalità cliniche e soprattutto il ruolo dell’essere umano nell’interazione con la macchina.
Tra i passaggi più significativi, spicca la proposta di dieci domande guida da porsi ogni volta che si legge un articolo di questo tipo. Alcuni esempi: Lo studio ha un disegno metodologico adeguato? L’obiettivo clinico dell’AI è ben definito? I dati utilizzati sono rappresentativi e completi? Sono state considerate possibili fonti di errore o bias? Sono disponibili il codice e i dati? Non si tratta di una semplice checklist, ma di un approccio critico che spinge a chiedersi, ad esempio, se lo studio abbia rispettato standard metodologici rigorosi, se l’IA sia stata utilizzata con consapevolezza clinica, o se siano stati considerati gli errori e i possibili danni derivanti da un uso scorretto del sistema.
Lo studio evidenzia anche alcuni problemi ormai noti ma ancora troppo spesso sottovalutati:
- Bias nei dati di addestramento, che possono tradursi in disuguaglianze cliniche;
- Data leakage, ovvero il riutilizzo inconsapevole di dati noti che altera i risultati;
- Data poisoning, fenomeno emergente che vede i dataset corrotti da informazioni errate;
- Allucinazioni, ovvero la generazione da parte dell’IA di contenuti errati ma convincenti, soprattutto nei modelli linguistici (LLM) come GPT.
Il rischio più grande? Scambiare l’efficienza per accuratezza, o l’apparente neutralità per oggettività scientifica.
Un altro merito dell’articolo è quello di richiamare con forza l’importanza di un approccio etico e interdisciplinare all’IA in sanità. Richiamandosi ai sei principi dell’OMS sull’etica dell’IA, gli autori ricordano che nessun algoritmo dovrebbe mai sostituire il giudizio clinico, né aggirare i valori fondanti della relazione medico-paziente: trasparenza, autonomia, inclusività.
Inoltre, il paper evidenzia l’importanza della valutazione post-implementazione, che spesso manca. Anche un sistema IA che funziona bene in fase di test può rivelarsi inadeguato una volta introdotto in ambienti clinici reali, dove cambiano i pazienti, gli operatori e i contesti decisionali.
Infine, il lavoro invita la comunità medica a non delegare passivamente la valutazione di queste tecnologie a informatici o aziende. Al contrario, medici, pazienti, ricercatori e sviluppatori devono collaborare sin dalle fasi iniziali nella costruzione, valutazione e implementazione dell’IA. Solo così si potranno evitare “monoculture della conoscenza” e si potrà costruire un’IA realmente al servizio della salute
Fonte: