Le projet SAFE-Med vise à renforcer la fiabilité et l’explicabilité des systèmes d’intelligence artificielle appliqués à l’imagerie médicale. Il s’intéresse en particulier à la fragilité des méthodes d’explication par cartes de saillance, dont les résultats peuvent varier selon les modèles, les données ou les conditions d’acquisition. Le projet développera de nouveaux indicateurs combinant robustesse, fidélité et quantification de l’incertitude, puis évaluera leur pertinence auprès de cliniciens en radiologie et en histopathologie.

Mené en collaboration avec le Bio AI Lab de l’UiT – The Arctic University of Norway, SAFE-Med contribuera au développement d’outils logiciels et de méthodes pour une IA médicale plus fiable, interprétable et adaptée à un usage clinique.