notizie-maiorca

Maiorca: uno studio rivela la fragilità della fiducia nell’IA medica

Responsabile del contenuto: Frank Menze

Le radiografie del torace usate per diagnosticare una polmonite causata da Covid-19 sono il caso scelto dai ricercatori per verificare quando i professionisti sanitari si fidano delle spiegazioni fornite dall’IA. Il 17 novembre, la Universität der Balearen di Palma, a Maiorca, presenta un nuovo metodo per misurare questa fiducia. Lo ha sviluppato un gruppo di ricerca dell’università e dell’ospedale universitario Son Espases, insieme a partner internazionali.

Archivo - Un profesional trabaja con un ordenador.
Europa Press

Quando fidarsi è un errore

Il metodo mette a confronto la correttezza delle previsioni di un sistema di IA con la fiducia che le persone ripongono nelle sue spiegazioni. Permette così di individuare i casi in cui qualcuno si affida a una previsione sbagliata perché si fida troppo del sistema. Rileva anche la situazione opposta: il rifiuto di una previsione corretta.

Che cosa emerge dai test

I ricercatori hanno verificato il metodo in diversi studi di caso, tra cui applicazioni mediche basate su radiografie. Il risultato: la fiducia dei professionisti sanitari nell’intelligenza artificiale spiegabile (XAI) è fragile. Dipende sia dalla qualità delle spiegazioni sia dalla precisione dell’IA. Secondo i ricercatori, il metodo può aiutare a rendere questi sistemi più affidabili per l’uso in ambito sanitario.

Argomenti: sanità

Fonte: Europa Press / Mallorca.com

Usiamo i cookie per farti godere al meglio del nostro sito web. Per saperne di più, dai un’occhiata alla nostra Informativa sulla privacy