Quand un modèle d’IA génère une information fausse mais présentée avec assurance, comme si elle était vraie. C’est le défaut majeur des LLM : ils ne « savent » pas qu’ils inventent. Le RAG est une technique pour réduire ce problème.
Hallucination
Une hallucination survient quand un modèle d'IA génère une information fausse mais la présente avec assurance, comme si elle était vraie. C'est le défaut majeur des LLM : ils ne « savent » pas qu'ils inventent. Des techniques comme le RAG, qui ancre les réponses dans des documents, réduisent ce problème.