Définition
Le RAG est une technique qui consiste à rechercher des passages pertinents dans une base de documents avant de demander à un modèle de langage de rédiger une réponse à partir de ces passages.
RAG : comment ça fonctionne ?
Le RAG se déroule en deux temps. D'abord, la récupération : la question de l'utilisateur est comparée aux documents indexés, généralement grâce à des embeddings stockés dans une base vectorielle, et les passages les plus pertinents sont sélectionnés. Ensuite, la génération : le modèle de langage reçoit la question et ces passages, et rédige une réponse en s'appuyant sur eux, souvent en citant ses sources. Le RAG évite de réentraîner un modèle sur les données de l'entreprise.
RAG : un exemple concret
Un conseiller bancaire demande « quel est l'apport minimum pour un crédit auto ? ». L'assistant retrouve l'article de la procédure interne et répond en citant le document et la section.
RAG : pourquoi est-ce important pour une entreprise ?
Le RAG réduit fortement les hallucinations, garde les réponses à jour quand les documents changent et permet de respecter les droits d'accès. Les moteurs génératifs utilisent une logique proche pour choisir les sites qu'ils citent.