Maiorca: uno studio rivela la fragilità della fiducia nell’IA medica
Le radiografie del torace usate per diagnosticare una polmonite causata da Covid-19 sono il caso scelto dai ricercatori per verificare quando i professionisti sanitari si fidano delle spiegazioni fornite dall’IA. Il 17 novembre, la Universität der Balearen di Palma, a Maiorca, presenta un nuovo metodo per misurare questa fiducia. Lo ha sviluppato un gruppo di ricerca dell’università e dell’ospedale universitario Son Espases, insieme a partner internazionali.
Quando fidarsi è un errore
Il metodo mette a confronto la correttezza delle previsioni di un sistema di IA con la fiducia che le persone ripongono nelle sue spiegazioni. Permette così di individuare i casi in cui qualcuno si affida a una previsione sbagliata perché si fida troppo del sistema. Rileva anche la situazione opposta: il rifiuto di una previsione corretta.
Che cosa emerge dai test
I ricercatori hanno verificato il metodo in diversi studi di caso, tra cui applicazioni mediche basate su radiografie. Il risultato: la fiducia dei professionisti sanitari nell’intelligenza artificiale spiegabile (XAI) è fragile. Dipende sia dalla qualità delle spiegazioni sia dalla precisione dell’IA. Secondo i ricercatori, il metodo può aiutare a rendere questi sistemi più affidabili per l’uso in ambito sanitario.
Argomenti: sanità
Fonte: Europa Press / Mallorca.com