Maiorca: estudo revela confiança frágil na IA usada na medicina
Radiografias do tórax usadas para diagnosticar pneumonia causada pela Covid-19 servem de teste aos investigadores: quando confiam os profissionais de saúde nas explicações de uma IA? A 17 de novembro, a Universität der Balearen, em Palma, Maiorca, dá conta de um novo método para medir essa confiança. O método foi desenvolvido por uma equipa da universidade e do Universitätsklinikum Son Espases, em colaboração com parceiros internacionais.
Quando não se deve confiar
O método compara a precisão das previsões de um sistema de IA com a confiança que as pessoas depositam nas suas explicações. Permite identificar casos de confiança excessiva, quando alguém aceita uma previsão errada. Também revela a situação inversa: a rejeição de uma previsão correta.
O que revelam os testes
Os investigadores testaram o método em vários estudos de caso, incluindo aplicações médicas com radiografias. Concluíram que a confiança dos profissionais de saúde na inteligência artificial explicável (XAI) é frágil. Depende tanto da qualidade das explicações como da precisão da IA. Consideram que o método pode ajudar a tornar estes sistemas mais fiáveis para utilização nos cuidados de saúde.
Temas: saúde
Fonte: Europa Press / Mallorca.com