mallorca-nyheter

Mallorca: Studie visar bräckligt förtroende för AI i vården

Ansvarig för innehållet: Frank Menze

Forskarna använder röntgenbilder av bröstkorgen som testfall för att undersöka när vårdpersonal litar på AI:s förklaringar. Bilderna används för att diagnostisera lunginflammation orsakad av Covid-19. Den 17 november rapporterar Universität der Balearen i Palma på Mallorca om en ny metod som ska mäta just det. Metoden har utvecklats av ett team från universitetet och Universitätsklinikum Son Espases tillsammans med internationella partner.

Archivo - Un profesional trabaja con un ordenador.
Europa Press

När förtroendet är missriktat

Metoden undersöker om ett AI-systems bedömning är rätt och om människor litar på systemets förklaring. Då går det att upptäcka övertro: någon litar på en felaktig bedömning. Metoden visar också motsatsen, när någon avfärdar en bedömning som är riktig.

Det visar testerna

Forskarna testade metoden i flera fallstudier, bland annat i medicinska tillämpningar med röntgenbilder. Resultatet visar att vårdpersonalens förtroende för förklarbar artificiell intelligens (XAI) är bräckligt. Det beror både på hur bra förklaringarna är och hur träffsäkert AI-systemet är. Forskarna ser metoden som ett verktyg för att göra sådana system mer tillförlitliga i vården.

Ämnen: hälsa

Källa: Europa Press / Mallorca.com

Vi använder cookies för att du ska kunna få ut så mycket som möjligt av vår webbplats. Du kan läsa mer i vår Integritetspolicy