mallorca-news

Mallorca: Studie zeigt brüchiges Vertrauen in Medizin-KI

Verantwortlich für den Inhalt: Frank Menze

Röntgenbilder des Brustkorbs für die Diagnose einer Covid-19-bedingten Lungenentzündung dienen Forschern als Testfall: Wann vertrauen Gesundheitsfachkräfte den Erklärungen einer KI? Am 17. November berichtet die Universität der Balearen aus Palma auf Mallorca über eine neue Methode, die genau das messen soll. Entwickelt hat sie ein Team der Universität und des Universitätsklinikums Son Espases mit internationalen Partnern.

Archivo - Un profesional trabaja con un ordenador.
Europa Press

Wann Vertrauen fehl am Platz ist

Die Methode vergleicht, ob die Vorhersage eines KI-Systems richtig ist und ob Menschen seiner Erklärung vertrauen. So lässt sich übertriebenes Vertrauen erkennen: Jemand verlässt sich auf eine falsche Vorhersage. Auch das Gegenteil wird sichtbar, wenn jemand eine richtige Vorhersage zurückweist.

Was die Tests zeigen

Die Forscher prüften ihre Methode in mehreren Fallstudien, darunter medizinische Anwendungen mit Röntgenbildern. Ihr Ergebnis: Das Vertrauen von Gesundheitsfachkräften in erklärbare künstliche Intelligenz (XAI) ist fragil. Es hängt sowohl von der Qualität der Erklärungen als auch von der Genauigkeit der KI ab. Die Forscher sehen in der Methode ein Werkzeug, um solche Systeme für den Einsatz im Gesundheitswesen verlässlicher zu machen.

Themen: Gesundheit

Quelle: Europa Press / Mallorca.com

Wir verwenden Cookies, um Ihnen die bestmögliche Nutzung unserer Website zu ermöglichen. Mehr erfahren Sie in unserer Datenschutzerklärung