Black-Box AI Drift
Pattern d'anti-pattern documenté par Stack Overflow blog (avril 2026) : dérive silencieuse causée par des agents AI qui shipent du code sans surfacer leurs décisions. L'agent choisit une couleur, un padding, un composant, mais ne dit pas pourquoi. Sur 100 PRs, on accumule 100 micro-décisions invisibles qui compoundent en dérive marque, dette de cohérence, et perte de connaissance équipe. Opposé à `glass-box-ai`.
Forces
- Vocabulaire qui rend visible un problème invisible, précieux pour défendre le budget review
- Symétrique avec glass-box-ai, la paire offre un cadre conceptuel complet pour parler IA + DS
Limites
- Concept critique seul : sans glass-box-ai pattern proposé en alternative, peut sonner anti-AI
Pour qui
- Design system manager qui doit défendre la review humaine sur PRs AI auprès d'un management 'tout-AI'
- Équipe qui voit ses cohérence DS s'éroder PR après PR sans cause unique identifiable