mallorca-nieuws

Onderzoek op Mallorca: vertrouwen in medische AI is kwetsbaar

Verantwoordelijk voor de inhoud: Frank Menze

Röntgenfoto's van de borstkas waarmee longontsteking door Covid-19 wordt vastgesteld, dienen als test voor onderzoekers: wanneer vertrouwen zorgprofessionals de uitleg van AI? Op 17 november meldt de Universität der Balearen in Palma op Mallorca dat een nieuwe methode precies dat moet meten. Een team van de universiteit en het universitair ziekenhuis Son Espases ontwikkelde de methode samen met internationale partners.

Archivo - Un profesional trabaja con un ordenador.
Europa Press

Wanneer vertrouwen misplaatst is

De methode vergelijkt of de voorspelling van een AI-systeem klopt en of mensen de bijbehorende uitleg vertrouwen. Zo wordt zichtbaar wanneer iemand te veel vertrouwen heeft en afgaat op een onjuiste voorspelling. Ook het omgekeerde komt aan het licht: iemand wijst een juiste voorspelling af.

Wat de tests laten zien

De onderzoekers testten hun methode in verschillende casestudy's, waaronder medische toepassingen met röntgenfoto's. Hun conclusie: het vertrouwen van zorgprofessionals in verklaarbare kunstmatige intelligentie (XAI) is kwetsbaar. Het hangt af van zowel de kwaliteit van de uitleg als de nauwkeurigheid van de AI. Volgens de onderzoekers kan de methode helpen om zulke systemen betrouwbaarder te maken voor gebruik in de gezondheidszorg.

Onderwerpen: gezondheidszorg

Bron: Europa Press / Mallorca.com

We gebruiken cookies om je de best mogelijke ervaring op onze website te bieden. Lees er meer over in ons Privacybeleid