Hallucination

Affirmation fausse ou inventée produite avec assurance par un modèle.

Une hallucination est une sortie qui présente comme factuel un contenu erroné, inexistant ou non étayé par les sources. Le modèle l'affirme avec la même assurance qu'un fait vérifié, ce qui rend l'erreur d'autant plus difficile à repérer pour l'utilisateur.

Pour une agence, le risque n'est pas seulement d'exactitude : une hallucination peut produire une fausse attribution, prêtant à une marque une offre, un chiffre ou un propos qui ne lui appartiennent pas. C'est un enjeu de réputation autant que de qualité de réponse.

On en réduit la fréquence par le grounding et par des sources claires et cohérentes, que le RAG peut ancrer. On la surveille en lisant régulièrement les réponses produites sur son périmètre, pour détecter et corriger les affirmations infondées avant qu'elles ne se propagent.