wiadomosci-majorka

Majorka: badanie pokazuje, jak kruche jest zaufanie do medycznej AI

Odpowiedzialny za treść: Frank Menze

Badacze wykorzystali zdjęcia rentgenowskie klatki piersiowej, które służą do rozpoznawania zapalenia płuc wywołanego przez Covid-19. Chcieli sprawdzić, kiedy pracownicy ochrony zdrowia ufają wyjaśnieniom podawanym przez AI. 17 listopada Universität der Balearen w Palmie na Majorce poinformowała o nowej metodzie, która ma to mierzyć. Opracował ją zespół badaczy z Universität der Balearen i Universitätsklinikums Son Espases we współpracy z partnerami z innych krajów.

Archivo - Un profesional trabaja con un ordenador.
Europa Press

Kiedy zaufanie jest nieuzasadnione

Metoda pozwala sprawdzić, czy przewidywanie systemu AI jest trafne i czy ludzie ufają jego wyjaśnieniu. Dzięki temu można wykryć nadmierne zaufanie, gdy ktoś polega na błędnym przewidywaniu. Widać też sytuację odwrotną: ktoś odrzuca trafne przewidywanie.

Co pokazują testy

Badacze przetestowali metodę w kilku studiach przypadków, w tym w zastosowaniach medycznych opartych na zdjęciach rentgenowskich. Ustalili, że zaufanie pracowników ochrony zdrowia do wyjaśnialnej sztucznej inteligencji (XAI) jest kruche. Zależy zarówno od jakości wyjaśnień, jak i od trafności przewidywań AI. Zdaniem badaczy metoda może pomóc zwiększyć niezawodność takich systemów przed ich zastosowaniem w ochronie zdrowia.

Tematy: zdrowie

Źródło: Europa Press / Mallorca.com

Używamy plików cookie, żeby zapewnić ci jak najlepsze wrażenia podczas korzystania z naszej strony. Więcej informacji znajdziesz w naszej Polityka prywatności