Majorque : l’étude révèle une confiance fragile dans l’IA médicale
Les chercheurs utilisent des radiographies thoraciques pour diagnostiquer une pneumonie liée au Covid-19 et tester une question : quand les professionnels de santé font-ils confiance aux explications d’une IA ? Le 17 novembre, l’Universität der Balearen, à Palma, sur l’île de Majorque, présente une nouvelle méthode destinée à mesurer cette confiance. Elle a été mise au point par une équipe de l’Universität der Balearen et de l’Universitätsklinikums Son Espases, avec des partenaires internationaux.
Quand la confiance est mal placée
La méthode compare la justesse des prédictions d’un système d’IA à la confiance que les personnes accordent à ses explications. Elle permet ainsi de repérer les excès de confiance, lorsqu’une personne se fie à une prédiction erronée. Elle révèle aussi le cas inverse : une personne rejette une prédiction correcte.
Ce que révèlent les tests
Les chercheurs ont testé leur méthode dans plusieurs études de cas, notamment dans des applications médicales utilisant des radiographies. Leur constat : la confiance des professionnels de santé dans l’intelligence artificielle explicable (XAI) est fragile. Elle dépend à la fois de la qualité des explications et de la précision de l’IA. Les chercheurs estiment que leur méthode pourrait aider à rendre ces systèmes plus fiables pour une utilisation dans le secteur de la santé.
Thèmes: santé
Source : Europa Press / Mallorca.com