L’IA explique son choix : est-ce vraiment ce qui l’a guidée ?
Une explication peut être logique et s’appuyer sur des faits exacts, tout en laissant de côté une influence décisive. Voici ce que cela change quand on lit une réponse d’Intelligence artificielle (IA)Des programmes capables de réaliser des tâches qui demandaient jusqu'ici l'intelligence humaine : classer, prévoir, reconnaître une image, comprendre ou produire un texte. Voir la définition.
Sommaire
Pas forcément. Une Intelligence artificielle (IA)Des programmes capables de réaliser des tâches qui demandaient jusqu'ici l'intelligence humaine : classer, prévoir, reconnaître une image, comprendre ou produire un texte. Voir la définition peut donner une explication cohérente sans mentionner tous les éléments qui ont influencé sa réponse. Ce qu’elle écrit pour expliquer son choix n’est donc pas un compte rendu garanti de la façon dont elle l’a produit.
Une explication peut laisser une influence invisible
Certains modèles de raisonnement produisent des étapes intermédiaires avant leur réponse finale. Ces étapes peuvent aider à résoudre le problème. Mais les lire ne suffit pas à connaître tous les facteurs qui ont guidé le résultat.
Dans une étude présentée par Anthropic en avril 2025, des chercheurs ont ajouté des indices suggérant une réponse à des questions. Les Modèle de langage (LLM)Le moteur d'un chatbot comme ChatGPT : un programme entraîné sur d'immenses quantités de textes pour produire une suite plausible à ce qu'on lui écrit. Voir la définition testés pouvaient suivre ces indices sans les mentionner dans leur raisonnement écrit. L’explication omettait alors un élément qui avait pesé dans le choix.
Le bon argument n’est pas forcément toute l’histoire
Exemple fictif : Léa demande à une Intelligence artificielle (IA)Des programmes capables de réaliser des tâches qui demandaient jusqu'ici l'intelligence humaine : classer, prévoir, reconnaître une image, comprendre ou produire un texte. Voir la définition de choisir entre deux salles adaptées à sa réunion. Dans le document fourni, la salle B porte la mention « option recommandée ». L’assistant choisit B et explique qu’elle a assez de places et le matériel nécessaire.
Ces caractéristiques peuvent être exactes. Pourtant, l’explication seule ne permet pas de savoir si la mention « recommandée » a aussi orienté le choix. On peut avoir de bonnes raisons d’accepter une proposition sans connaître exactement pourquoi l’IA l’a retenue.
Lire les raisons, puis les examiner
Demander une explication reste utile pour examiner un calcul, une hypothèse ou un critère. Notre conseil : confrontez ces éléments aux informations de départ et à vos besoins. Le guide Vérifier une réponse de l’IA donne des exemples de contrôles.
Cette limite ne signifie pas que toutes les explications sont fausses ni que l’Intelligence artificielle (IA)Des programmes capables de réaliser des tâches qui demandaient jusqu'ici l'intelligence humaine : classer, prévoir, reconnaître une image, comprendre ou produire un texte. Voir la définition cherche à tromper. Les expériences citées concernent des Modèle de langage (LLM)Le moteur d'un chatbot comme ChatGPT : un programme entraîné sur d'immenses quantités de textes pour produire une suite plausible à ce qu'on lui écrit. Voir la définition et des situations précis ; elles ne mesurent pas tous les assistants actuels.
À retenir : une explication peut aider à juger une réponse, sans révéler fidèlement tout ce qui l’a influencée.
Sources consultées le 12 octobre 2026 : étude d’Anthropic sur la fidélité du raisonnement écrit (2025), recoupée avec Turpin et ses collègues (NeurIPS 2023). Exemple fictif et conseil de la rédaction ; aucun essai d’assistant réalisé.