Onderzoek op Mallorca: vertrouwen in medische AI is kwetsbaar
Röntgenfoto's van de borstkas waarmee longontsteking door Covid-19 wordt vastgesteld, dienen als test voor onderzoekers: wanneer vertrouwen zorgprofessionals de uitleg van AI? Op 17 november meldt de Universität der Balearen in Palma op Mallorca dat een nieuwe methode precies dat moet meten. Een team van de universiteit en het universitair ziekenhuis Son Espases ontwikkelde de methode samen met internationale partners.
Wanneer vertrouwen misplaatst is
De methode vergelijkt of de voorspelling van een AI-systeem klopt en of mensen de bijbehorende uitleg vertrouwen. Zo wordt zichtbaar wanneer iemand te veel vertrouwen heeft en afgaat op een onjuiste voorspelling. Ook het omgekeerde komt aan het licht: iemand wijst een juiste voorspelling af.
Wat de tests laten zien
De onderzoekers testten hun methode in verschillende casestudy's, waaronder medische toepassingen met röntgenfoto's. Hun conclusie: het vertrouwen van zorgprofessionals in verklaarbare kunstmatige intelligentie (XAI) is kwetsbaar. Het hangt af van zowel de kwaliteit van de uitleg als de nauwkeurigheid van de AI. Volgens de onderzoekers kan de methode helpen om zulke systemen betrouwbaarder te maken voor gebruik in de gezondheidszorg.
Onderwerpen: gezondheidszorg
Bron: Europa Press / Mallorca.com