Désarmer la complaisance de l'IA
Par défaut, un assistant IA cherche à te faire plaisir avant de te faire progresser : il valide tes idées, même quand elles ont un défaut fatal. Anthropic a mesuré ce biais (papier « Towards Understanding Sycophancy in Language Models ») : entraîné sur des préférences humaines, le modèle apprend que l'approbation plaît, donc il approuve. La complaisance n'est pas un bug ponctuel, c'est une posture installée par défaut. La désarmer, c'est lui donner une instruction permanente qui inverse le réflexe : tu ne veux pas de validation, tu veux une autopsie. Le biais ne s'arrête pas aux idées : à l'écriture, un modèle qui trouve ton premier jet très bon t'enferme dans ta première intuition, alors que c'est justement le jet à retravailler en profondeur. Thomas et Erin Ptacek en tirent la règle : refuse l'éloge, demande-lui ce qui ne va pas, jamais ce qui va.
Forces
- Gratuit et permanent : une instruction posée dans les préférences s'applique à toutes tes conversations sans y repenser
- Attrape les failles avant l'engagement : tu vois les trois plus gros risques avant d'investir du temps ou du budget
- Recadre l'IA comme outil de décision, pas comme miroir flatteur
Limites
- Réglée trop fort, l'instruction produit du contrarianisme automatique : l'IA cherche le défaut même quand il n'y en a pas
- Une instruction glissée dans un seul message ne tient pas : sans persistance (préférences, style), le réflexe complaisant revient au tour suivant
Pour qui
- Quiconque relit à la main chaque sortie de l'IA avant de s'en servir, et voudrait qu'elle arrive déjà relue
- Un founder ou PM qui pressure-test ses idées avec une IA et veut une critique honnête, pas un applaudissement
- Un designer ou DS-manager qui demande un avis sur un parti pris et reçoit toujours un « excellente idée » suspect
- Un PO qui fait relire ses specs par une IA et veut qu'elle pointe les trous, pas qu'elle valide pour faire plaisir