Pourquoi un détail inutile peut-il fausser le calcul d’une IA ?
Un nombre peut figurer dans un énoncé sans servir à la réponse. Une Intelligence artificielle (IA)Des programmes capables de réaliser des tâches qui demandaient jusqu'ici l'intelligence humaine : classer, prévoir, reconnaître une image, comprendre ou produire un texte. Voir la définition peut pourtant l’intégrer au calcul et se tromper sur une addition toute simple.
Sommaire
Une Intelligence artificielle (IA)Des programmes capables de réaliser des tâches qui demandaient jusqu'ici l'intelligence humaine : classer, prévoir, reconnaître une image, comprendre ou produire un texte. Voir la définition peut se tromper parce qu’elle utilise un détail qui n’a rien à faire dans l’opération. Avant même d’additionner, elle doit reconnaître les informations utiles à la question. Cette sélection peut échouer alors que tous les nombres fournis sont exacts.
Un nombre en trop dans le calcul
Prenons un exemple entièrement fictif. Douze personnes sont inscrites à un atelier, puis huit autres s’inscrivent. Parmi les inscrits, trois ont déjà participé l’an dernier. Combien de personnes sont inscrites cette année ?
La réponse est 12 + 8 = 20. Les trois anciens participants sont déjà compris dans les inscriptions : leur participation passée ne retire personne de l’atelier actuel.
Une réponse qui ferait 12 + 8 − 3 = 17 ajouterait donc une soustraction injustifiée. L’opération est correctement exécutée, mais elle traduit mal la situation. Cette réponse fautive est construite pour l’exemple ; elle ne provient pas d’un essai réalisé avec un assistant.
Une fragilité observée dans des études
Dans une étude publiée en 2023, des chercheurs ont ajouté à des problèmes de calcul une phrase sans effet sur la bonne réponse. Les modèles de langage testés — les programmes qui produisent les réponses — réussissaient moins souvent ces versions enrichies. Shi et ses collègues, ICML 2023.
L’étude GSM-Symbolic, publiée initialement en 2024 puis révisée en 2025, observe aussi des opérations injustifiées après l’ajout d’un détail apparemment pertinent. Mirzadeh et ses collègues, section 4.4.
Ces résultats concernent les modèles et les exercices évalués. Ils ne donnent pas le taux d’erreur des assistants actuels et ne prouvent pas qu’une Intelligence artificielle (IA)Des programmes capables de réaliser des tâches qui demandaient jusqu'ici l'intelligence humaine : classer, prévoir, reconnaître une image, comprendre ou produire un texte. Voir la définition échouera toujours. Le mécanisme interne exact ne se déduit pas d’une réponse fausse.
Vérifier ce que chaque nombre représente
Notre conseil : contrôlez d’abord pourquoi chaque nombre intervient, puis refaites l’opération. Une calculatrice confirmera que 12 + 8 − 3 vaut 17 ; elle ne dira pas que retirer trois personnes était injustifié.
Gardez les conditions nécessaires, même si elles compliquent le problème. Si leur rôle est ambigu, faites-le préciser. Le guide de vérification des réponses détaille les contrôles des données, des règles et des unités.