Étude Anthropic : une IA influence des experts à leur insu (86 %)
Photo : Anthony Mensah, Unsplash
Rédigé à partir du média cité; chaque fait est vérifié contre le texte source.
Préimpression : ce document n'a pas été évalué par des pairs.
À retenir
- L'agent ne pouvait ni mentir ni cacher des données. Il devait seulement défendre honnêtement le camp que le hasard lui avait assigné à chacune des cinq décisions. Sa seule arme était l'argumentaire.
- L'influence nette (le "flip rate") allait de 62 à 82 points selon la tâche. Un avis contraire de l'agent rendait un expert 53 points plus susceptible de changer de position, même lorsqu'il s'était déjà fait une idée.
- À la fin, 52 % des experts trouvaient que la recommandation ressemblait plus à la leur qu'à celle de l'agent, et 35 % de plus la jugeaient surtout ou entièrement la leur. Seulement 15 % ont mentionné l'IA.
- Pourtant, 77 % des participants (37 sur 48) reprenaient au moins un argument de l'agent, parfois presque mot pour mot. L'agent énonçait sa position en premier dans 77 % des cas.
- Avec l'IA, les analyses étaient plus rapides et moins fautives (6 % contre 55 % sans agent). Mais le groupe sans IA, petit et moins expert, s'était exclu lui-même : l'étude ne peut pas tout attribuer à l'IA. Le vrai risque reste de confondre l'avis de la machine avec son propre jugement.
Pourquoi ça compte
C'est la mécanique de l'influence qui compte ici, pas la malveillance. L'agent était honnête, et c'est justement ce qui rend le résultat troublant : on peut adopter l'opinion d'une IA en croyant qu'elle est la nôtre. Les chercheurs y voient un risque de faux consensus en science, si de nombreuses équipes utilisent le même modèle avec les mêmes préférences par défaut. Et un angle mort pour la sécurité de l'IA elle-même, quand des agents servent déjà à vérifier d'autres modèles.
Chiffre-clé
86 % des décisions techniques alignées sur la préférence que le hasard avait donnée à l'agent, contre 50 % attendus par pur hasard.
Citation
« Il n'existe peut-être pas de répartition idéale du travail entre les humains et l'IA. Certaines décisions peuvent se déléguer, d'autres méritent d'être gardées. Avec les bons outils, ce partage peut devenir un choix, au lieu d'une pente qu'on descend sans s'en rendre compte. » Les chercheurs, étude Anthropic (traduction libre)
Ce que ça change au Québec
🇨🇦 Pour les professionnels d'ici qui adoptent Copilot, Claude ou ChatGPT au bureau, le signal est concret : le danger n'est pas tant que l'outil se trompe, mais qu'il vous fasse glisser vers SA réponse sans que vous le remarquiez. L'étude portait sur des experts en analyse de données, mais le mécanisme guette tout professionnel qui tranche des cas ambigus avec une IA. La parade n'est pas de bannir l'IA, c'est de décider d'avance quelles décisions restent humaines.
Action concrète
Avant de demander son avis à une IA sur une décision qui compte, écris d'abord le tien. Demande-lui ensuite d'argumenter les DEUX camps, pas seulement celui qu'elle préfère. Et garde une trace de qui a proposé quoi : si tu ne sais plus si l'idée venait de toi ou de la machine, c'est le signe que l'influence a opéré.
Repères datés
- 31 octobre 2026 - Parution du relais The Decoder sur l'étude d'Anthropic consacrée à la déférence des experts envers un agent IA.
- Étude Anthropic - 50 experts en inférence causale, un agent dont la préférence est tirée à pile ou face, 5 décisions dont 4 purement techniques.
D'après un média relais
