Dans le domaine mathématique, j’adhère à la branche calcul scientifique, « qui regroupe un ensemble de champs mathématiques et informatiques qui permettant la simulation numérique des phénomènes de la physique, chimie, biologie, et sciences appliquées en général. » [1]
Lorsque dans les approches utilisant du Deep Learning, le concept de « Boîte noire » est utilisé, j’ai souvent envie de comprendre le corps de l’algo…. et si il n’est pas disponible, des techniques de XAI restent applicables.
La plus grande difficulté est de trouver un compromis entre la précision d’un modèle et son explicabilité [2]. Les principales raisons d’utiliser XAI est de justifier, contrôler, améliorer ou découvrir. Plusieurs problèmes dans le cas d’explication d’une boîte noire (Black Box Explanation Problem) peuvent être défini, que ce soit l’explication du modèle ou de la prédiction.