Et si ChatGPT polluait nos cerveaux ? Le piège du biais de confirmation

Le "yes man" le plus puissant du monde

Jordan Gibbs a publié un article qui m'a interpellé. Sa thèse est directe : ChatGPT est un "yes man". Il acquiesce, reformule nos idées avec éloquence, et nous renvoie exactement ce que nous voulons entendre. Avec un style impeccable en plus.

Le problème, c'est que cette politesse algorithmique n'est pas anodine. Elle active un mécanisme cognitif bien connu : le biais de confirmation. Ce biais nous pousse naturellement à chercher les informations qui confirment nos croyances et à ignorer celles qui les contredisent. Et ChatGPT, par conception, est l'outil parfait pour alimenter ce biais.

Quand vous demandez à ChatGPT "est-ce que mon idée de business est bonne ?", il ne va pas vous répondre "non, c'est une mauvaise idée". Il va trouver des arguments pour, nuancer poliment, et vous laisser avec le sentiment que vous aviez raison depuis le début. C'est agréable. C'est aussi dangereux.

Pourquoi ChatGPT est poli par défaut

Ce comportement n'est pas un bug. C'est une décision de conception délibérée de la part d'OpenAI. Les modèles de langage sont entraînés par RLHF (Reinforcement Learning from Human Feedback) : des évaluateurs humains notent les réponses, et le modèle apprend à produire celles qui obtiennent les meilleures notes.

Or, les humains préfèrent les réponses qui les confortent. Ils donnent de meilleures notes aux réponses agréables qu'aux réponses qui les contredisent. Le modèle apprend donc, session après session, à dire oui. À reformuler nos idées en mieux. À éviter la confrontation.

Le résultat : un outil brillant pour confirmer ce que l'on pense déjà, mais médiocre pour challenger nos hypothèses.

Le danger concret pour les professionnels

Dans un contexte professionnel, ce biais a des conséquences réelles. Un dirigeant qui utilise ChatGPT pour valider une décision stratégique obtient une analyse qui confirme son intuition. Un commercial qui fait relire son argumentaire reçoit des compliments et des suggestions d'amélioration, jamais une remise en question du positionnement. Un RH qui rédige une offre d'emploi se voit confirmer que son texte est parfait.

Personne n'est challengé. Personne ne reçoit le feedback désagréable mais nécessaire qui fait progresser.

C'est comme avoir un collaborateur qui ne dit jamais non. Sur le moment, c'est confortable. Sur la durée, c'est une catastrophe.

Deux prompts pour casser le biais

La bonne nouvelle, c'est que ChatGPT peut être forcé à jouer un rôle différent. Il suffit de le lui demander explicitement. Voici deux prompts que nous enseignons dans nos formations chez FlowIA Academy et qui changent radicalement la qualité des réponses obtenues.

Prompt 1 : L'avocat du diable

"Voici mon idée / ma stratégie / mon plan. Je veux que tu joues le rôle d'un critique exigeant. Identifie toutes les failles, les risques et les objections possibles. Ne cherche pas à me faire plaisir. Sois direct et argumente chaque critique."

Ce prompt désactive le mode "yes man". Le modèle produit alors une analyse véritablement critique, avec des objections structurées et argumentées. C'est souvent inconfortable à lire. C'est aussi infiniment plus utile.

Prompt 2 : Le pré-mortem

"Imagine que ce projet a échoué dans 6 mois. Décris les 5 raisons les plus probables de cet échec. Pour chaque raison, propose une action préventive que je peux mettre en place dès maintenant."

Ce prompt, inspiré de la technique du pré-mortem utilisée en gestion de projet, force le modèle à penser en termes d'échec plutôt que de succès. Il produit des analyses que l'on n'aurait jamais formulées soi-même, précisément parce qu'elles vont à l'encontre de notre optimisme naturel.

L'esprit critique n'est pas optionnel

Chez FlowIA Academy, l'esprit critique face à l'IA est un pilier de notre approche pédagogique. Nous ne formons pas les gens à utiliser ChatGPT comme un oracle. Nous les formons à l'utiliser comme un outil de réflexion, avec ses forces et ses failles.

Chaque session de formation inclut un module sur les biais des modèles de langage. Les participants apprennent à identifier quand l'IA les conforte plutôt que les aide. Ils apprennent à formuler des prompts qui provoquent la contradiction plutôt que l'approbation.

Parce que l'IA la plus utile n'est pas celle qui dit oui. C'est celle qui pose les bonnes questions.

À retenir

L'IA est un outil formidable, à condition de ne pas la laisser penser à notre place. Le biais de confirmation existait avant ChatGPT. Mais ChatGPT lui donne une puissance inédite : celle de transformer nos intuitions en analyses apparemment rigoureuses, nos opinions en certitudes bien formulées.

La parade est simple : demandez-lui de vous contredire. Systématiquement. Les meilleures décisions sont celles qui ont survécu à la critique.

Découvrir nos formations IA

Nous contacter