Mallorca: Studie zeigt brüchiges Vertrauen in Medizin-KI
Röntgenbilder des Brustkorbs für die Diagnose einer Covid-19-bedingten Lungenentzündung dienen Forschern als Testfall: Wann vertrauen Gesundheitsfachkräfte den Erklärungen einer KI? Am 17. November berichtet die Universität der Balearen aus Palma auf Mallorca über eine neue Methode, die genau das messen soll. Entwickelt hat sie ein Team der Universität und des Universitätsklinikums Son Espases mit internationalen Partnern.
Wann Vertrauen fehl am Platz ist
Die Methode vergleicht, ob die Vorhersage eines KI-Systems richtig ist und ob Menschen seiner Erklärung vertrauen. So lässt sich übertriebenes Vertrauen erkennen: Jemand verlässt sich auf eine falsche Vorhersage. Auch das Gegenteil wird sichtbar, wenn jemand eine richtige Vorhersage zurückweist.
Was die Tests zeigen
Die Forscher prüften ihre Methode in mehreren Fallstudien, darunter medizinische Anwendungen mit Röntgenbildern. Ihr Ergebnis: Das Vertrauen von Gesundheitsfachkräften in erklärbare künstliche Intelligenz (XAI) ist fragil. Es hängt sowohl von der Qualität der Erklärungen als auch von der Genauigkeit der KI ab. Die Forscher sehen in der Methode ein Werkzeug, um solche Systeme für den Einsatz im Gesundheitswesen verlässlicher zu machen.
Themen: Gesundheit
Quelle: Europa Press / Mallorca.com