Mallorca: Studie visar bräckligt förtroende för AI i vården
Forskarna använder röntgenbilder av bröstkorgen som testfall för att undersöka när vårdpersonal litar på AI:s förklaringar. Bilderna används för att diagnostisera lunginflammation orsakad av Covid-19. Den 17 november rapporterar Universität der Balearen i Palma på Mallorca om en ny metod som ska mäta just det. Metoden har utvecklats av ett team från universitetet och Universitätsklinikum Son Espases tillsammans med internationella partner.
När förtroendet är missriktat
Metoden undersöker om ett AI-systems bedömning är rätt och om människor litar på systemets förklaring. Då går det att upptäcka övertro: någon litar på en felaktig bedömning. Metoden visar också motsatsen, när någon avfärdar en bedömning som är riktig.
Det visar testerna
Forskarna testade metoden i flera fallstudier, bland annat i medicinska tillämpningar med röntgenbilder. Resultatet visar att vårdpersonalens förtroende för förklarbar artificiell intelligens (XAI) är bräckligt. Det beror både på hur bra förklaringarna är och hur träffsäkert AI-systemet är. Forskarna ser metoden som ett verktyg för att göra sådana system mer tillförlitliga i vården.
Ämnen: hälsa
Källa: Europa Press / Mallorca.com