Guardrails (garde-fous d'un système LLM)

Les contrôles posés autour du modèle pour empêcher une sortie inacceptable de partir en production : filtrage de l'entrée, vérification de la sortie contre un schéma, refus des sujets hors périmètre, détection d'injection de prompt. Le modèle n'est pas le garde-fou de lui-même : c'est la couche autour de lui qui décide de ce qui passe et de ce qui est bloqué.

Forces

Limites

Pour qui

Site officiel

Voir sur Coeurdar