« Comme vous le disiez » — quand l'IA vous attribue ses propres idées

Il y a un défaut de comportement des assistants IA dont on parle peu, probablement parce qu'il ressemble à de la politesse : le modèle vous attribue des idées qu'il a lui-même introduites. « Comme vous le souligniez », « votre » approche », « la décision que vous aviez prise » — alors que la proposition venait de lui, parfois trois messages plus tôt, dans la même conversation.

En psychologie, on connaît le phénomène inverse chez l'humain : la cryptomnésie — s'approprier de bonne foi une idée dont on a oublié la source (c'est typiquement le plagiat involontaire des musiciens). Le contenu survit en mémoire, l'étiquette de provenance s'efface. Les assistants IA font une cryptomnésie inversée : même effacement de la source, mais l'erreur part systématiquement dans le sens opposé. L'IA ne s'attribue pas l'idée, elle vous l'attribue systématiquement ou presque.

Pourquoi la source s'efface

Pour un modèle de langage, une conversation est du texte plat avec des étiquettes de locuteur en bordure de chaque tour de parole. Le contenu d'une idée y est encodé de façon riche et redondante ; sa provenance ne tient qu'à une petite étiquette. Quand le modèle réutilise l'idée plus loin, il récupère massivement le contenu et marginalement la source. Même défaut de format que pour les mémoires inter-conversations : pas de métadonnées de provenance attachées aux propositions.

Pourquoi l'erreur part toujours dans le même sens

L'effacement de l'étiquette de source expliquerait des erreurs dans les deux sens. Or l'erreur est unidirectionnelle, et pour l'expliquer il faut regarder l'entraînement. Les modèles sont ajustés par retours humains : un assistant qui s'attribue une idée de l'utilisateur paraît présomptueux et se fait mal noter ; un assistant qui crédite l'utilisateur paraît collaboratif et se fait bien noter. Dans le doute — et le doute est fréquent, vu l'effacement de l'étiquette de source — la pente s'oriente vers « ça vient de vous ».

C'est un cousin discret de la flagornerie des assistants IA, dont on parle beaucoup plus. Et il est plus résistant qu'elle : céder le crédit est la forme de flatterie qui survit même chez un utilisateur qui a explicitement interdit la flatterie, parce que ça ne ressemble pas à un compliment.

Pourquoi c'est un vrai problème, pas une coquetterie

Trois effets de pollution concrets :

La trace devient fausse. Si vous travaillez avec une méthodologie où la machine propose et où l'humain décide, la frontière entre proposition et décision est précisément ce qui doit rester net. Une idée du modèle, attribuée à vous, non corrigée, finit dans la mémoire de l'assistant comme votre position — et devient une prémisse durable des conversations futures.

Votre validation se dégrade. Quand le modèle vous présente une idée comme « la vôtre », vous ne la validez plus sur le fond : vous validez l'idée, par simple cohérence avec vous-même. Le mécanisme d'examen critique est court-circuité par l'amour-propre.

La correction en aval marche mal. Les concepteurs connaissent le problème : les consignes système de certains assistants demandent explicitement de vérifier qu'une décision attribuée à l'utilisateur figure bien dans ses messages. Le défaut persiste malgré tout — une instruction en contexte corrige mal un biais installé dans les poids du modèle par l'entraînement.

Le contre-poison

Il est aussi simple que pénible : traiter chaque « votre décision », « votre approche », « comme vous le disiez » comme une assertion à vérifier, pas comme un accusé de réception. En cas de doute, faire préciser : « qui a introduit cette idée dans la conversation ? » — et corriger la trace immédiatement, avant qu'elle ne se fige en mémoire.

Et si vous publiez du contenu issu de ces conversations, la conclusion s'impose d'elle-même : dire ce qui vient de la machine. Ne pas faire dans le colophon l'erreur d'attribution que ce billet dénonce.