Glossaire
Biais
Une tendance de l'Intelligence artificielle (IA)Des programmes capables de réaliser des tâches qui demandaient jusqu'ici l'intelligence humaine : classer, prévoir, reconnaître une image, comprendre ou produire un texte. Voir la définition à produire des résultats déséquilibrés ou stéréotypés, à cause de ses données d'Données d'entraînementL'ensemble des textes, images ou sons qu'une IA a « lus » pour apprendre. Ses connaissances et ses défauts en dépendent. Voir la définition, de sa conception ou de la façon dont on l'utilise.
Si une Intelligence artificielle (IA)Des programmes capables de réaliser des tâches qui demandaient jusqu'ici l'intelligence humaine : classer, prévoir, reconnaître une image, comprendre ou produire un texte. Voir la définition a surtout lu des textes où les médecins sont des hommes et les infirmières des femmes, elle aura tendance à reproduire ce schéma. Ce n'est pas une opinion : c'est un reflet de ses données. Les biais peuvent aussi venir de la façon dont le système a été conçu, ou dont on l'utilise.
Le bon réflexe : relire les textes produits avec un œil critique, surtout pour tout ce qui concerne des personnes (recrutement, évaluation, communication), et préciser dans votre PromptLa consigne que vous écrivez à une IA : ce que vous voulez, les informations utiles et la forme attendue. Une consigne précise aide à obtenir une réponse adaptée, mais ne garantit pas son exactitude. Voir la définition ce que vous attendez (« exemples variés »). Une consigne aide, mais ne garantit pas un résultat équitable : examinez les exemples et les critères proposés.
Exemple concret
Vous demandez dix exemples de métiers pour un atelier d'orientation : tous les postes de direction sont associés à des hommes. Repérez-le en relisant la liste, et demandez de corriger ce déséquilibre.
Pour aller plus loin
Mots liés
Pour faire vos premiers essais, suivez le parcours Pas à pas.