Majorka: badanie pokazuje, jak kruche jest zaufanie do medycznej AI
Badacze wykorzystali zdjęcia rentgenowskie klatki piersiowej, które służą do rozpoznawania zapalenia płuc wywołanego przez Covid-19. Chcieli sprawdzić, kiedy pracownicy ochrony zdrowia ufają wyjaśnieniom podawanym przez AI. 17 listopada Universität der Balearen w Palmie na Majorce poinformowała o nowej metodzie, która ma to mierzyć. Opracował ją zespół badaczy z Universität der Balearen i Universitätsklinikums Son Espases we współpracy z partnerami z innych krajów.
Kiedy zaufanie jest nieuzasadnione
Metoda pozwala sprawdzić, czy przewidywanie systemu AI jest trafne i czy ludzie ufają jego wyjaśnieniu. Dzięki temu można wykryć nadmierne zaufanie, gdy ktoś polega na błędnym przewidywaniu. Widać też sytuację odwrotną: ktoś odrzuca trafne przewidywanie.
Co pokazują testy
Badacze przetestowali metodę w kilku studiach przypadków, w tym w zastosowaniach medycznych opartych na zdjęciach rentgenowskich. Ustalili, że zaufanie pracowników ochrony zdrowia do wyjaśnialnej sztucznej inteligencji (XAI) jest kruche. Zależy zarówno od jakości wyjaśnień, jak i od trafności przewidywań AI. Zdaniem badaczy metoda może pomóc zwiększyć niezawodność takich systemów przed ich zastosowaniem w ochronie zdrowia.
Tematy: zdrowie
Źródło: Europa Press / Mallorca.com