Hallucination
Quand un LLM invente des faits avec confiance, des citations qui n'existent pas, des URLs mortes, des fonctions d'API qui n'ont jamais existé. Pas un bug : une propriété fondamentale des modèles de complétion.
Forces
- Connaître ce risque est le premier pas pour l'atténuer efficacement
Limites
- Impossible à éliminer complètement, même les meilleurs modèles hallucinent
Pour qui
- Tout utilisateur qui veut utiliser des LLMs de façon responsable en production