L’IA connaît-elle mes goûts, ou m’en donne-t-elle ?
Une chanson découverte, puis dix qui lui ressemblent : les recommandations reflètent nos envies et orientent nos occasions de choisir.
Sommaire
Un système de recommandation peut repérer certaines de vos préférences, sans connaître tout ce qui vous plairait. Et ses propositions influencent les occasions de découvrir. Cela ne signifie pas qu’il décide de vos goûts à votre place : il participe au choix de ce qui arrive jusqu’à vous.
Ce que l’on aime parmi ce que l’on nous montre
Imaginons une scène fictive. Léa aime le jazz et le rock. Un service musical lui propose surtout du jazz. Elle écoute plusieurs morceaux qui lui plaisent. Si le système réutilise ces écoutes pour préparer ses prochains choix, il peut proposer encore davantage de jazz.
Son historique semble confirmer une préférence écrasante. Pourtant, Léa n’a pas cessé d’aimer le rock. Elle a surtout choisi parmi les morceaux placés devant elle. Ne pas cliquer sur ce que l’on n’a pas vu ne révèle pas un manque d’intérêt.
Un portrait que la sélection aide à dessiner
Cette boucle a été étudiée dans des simulations publiées en 2018. Les chercheurs montrent comment réutiliser des réactions déjà influencées par les recommandations peut rapprocher les choix des utilisateurs sans améliorer l’utilité mesurée. Ce sont des simulations, pas une observation de tous les services musicaux actuels.
L’idée est simple : les traces utilisées pour vous comprendre portent aussi la marque de ce que le système vous a proposé. Elles ne sont pas un portrait complet de vos envies, encore moins de vos envies possibles.
Retrouver ses habitudes, ou être surpris ?
On peut aimer qu’une sélection retrouve immédiatement l’ambiance désirée. On peut aussi se lasser de propositions qui se ressemblent. Ces deux attentes existent parfois chez la même personne, à des moments différents.
Les concepteurs peuvent prévoir de la diversité : la documentation de Google décrit notamment l’ajout de genres différents au classement. Elle présente une méthode possible, sans prouver qu’un service particulier l’applique ni qu’elle supprime toute répétition.
Pour Léa, choisir directement un album ou suivre le conseil d’une amie ouvrirait d’autres portes. Une recommandation peut être une belle découverte sans devenir la définition de ce qu’elle aime. Quand un service vous dit « pour vous », attendez-vous surtout qu’il vous reconnaisse, ou qu’il vous surprenne ?