Guardrail

Règle ou filtre encadrant entrées et sorties pour bloquer les cas non conformes.

Un garde-fou est un contrôle placé autour du modèle pour interdire certains comportements : sujets proscrits, format invalide, données sensibles, ton hors charte. Il agit en entrée comme en sortie et peut bloquer, filtrer ou déclencher une régénération.

C'est la brique qui rend une chaîne de génération sûre et prévisible — condition d'un service white-label où l'on répond de chaque sortie. Les garde-fous encadrent aussi bien la conformité éditoriale que la sécurité face à une prompt injection.

En pratique, on combine plusieurs couches : contraintes dans le système de prompt, validation par response schema, filtres de sortie et QA scorée. On journalise les blocages pour repérer les cas récurrents et affiner les règles au fil de l'usage.