On vous explique le RAG : la mécanique invisible derrière chaque source citée par une IA

Ouvrez Claude, cliquez sur le petit bouton « + » à côté de la zone de texte.

Recherche web, fichiers, connecteurs Google Drive, project knowledge : chacune de ces options fait, au fond, exactement la même chose. Elle dit au modèle « voici une source externe, va la consulter avant de répondre ».

Cette mécanique a un nom : le RAG, pour Retrieval-Augmented Generation.

Cette appellation un peu barbare, on la doit, selon toute vraisemblance, à un laboratoire londonien de Meta, encore Facebook, à l’époque. En 2020, Patrick Lewis, doctorant à University College London, planche avec son équipe sur un problème simple à énoncer, complexe à résoudre : comment faire en sorte qu’un modèle de langage réponde avec des connaissances précises, sans avoir à tout stocker dans ses paramètres ?

Le fruit de ce travail, « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks », publié le 12 avril 2021, propose de coupler un système de génération de texte à un index de récupération, de quoi produire n’importe quelle réponse textuelle voulue, à condition d’aller la chercher au bon endroit.

Le problème que le RAG est venu résoudre

Pour comprendre pourquoi cette problématique compte autant, il faut d’abord comprendre la limite qu’elle vise à résoudre. Un modèle de langage (LLM) classique répond uniquement avec ce qu’il a « en tête », soit les connaissances figées au moment de son entraînement.

Deux conséquences directes en découlent. D’une part, il ignore tout de ce qui s’est passé après sa date de coupure. D’autre part, il n’a strictement aucune idée de vos documents privés, de la base de connaissances de votre entreprise, ou de l’actualité du jour.

Le RAG répond à ce problème avec une idée simple : au lieu de laisser le modèle répondre seul, on lui donne d’abord de quoi vérifier. Un processus que l’on peut résumer en trois étapes, R.A.G :

• Récupération. Quand vous posez une question, le système ne l’envoie pas directement au modèle. Il va d’abord chercher, dans une base de documents (un moteur de recherche web, une base interne, des PDF) les passages les plus pertinents par rapport à votre requête.
• Augmentation. Ces passages trouvés sont injectés dans le prompt, comme contexte, juste avant de soumettre votre question au chatbot.
• Génération. Le modèle rédige sa réponse en s’appuyant sur ces documents fournis, plutôt que sur sa seule mémoire interne.

Le RAG à l’épreuve du réel

Pendant deux ans, le RAG reste une affaire de chercheurs. Le grand public en fait la découverte avec Perplexity AI, lancé fin 2022, dont toute la promesse repose sur cette mécanique : répondre avec des sources cliquables plutôt que des affirmations sorties de nulle part.

Quelques mois plus tard, en février 2023, Microsoft généralise l’approche à l’échelle industrielle avec Bing Chat (devenu Copilot), qui couple GPT-4 à une recherche web en temps réel. Le RAG devient alors, en quelques mois, un standard que chaque grand acteur du secteur cherche à intégrer.

Car à l’époque, le RAG tente également de répondre à une problématique particulièrement pointée du doigt dans les premières versions grand public des LLM : quand on lui demande une source précise, un modèle sans RAG génère une réponse plausible à partir de sa mémoire d’entraînement, qui peut s’avérer floue, incomplète, ou tout simplement fausse. Il produit alors une référence qui sonne crédible, sans jamais être en mesure de justifier d’où elle sort.

Bien qu’il limite ce risque d’hallucination, le RAG n’est pas pour autant un remède miracle. Le modèle peut toujours mal interpréter un document, en déformer le sens ou mélanger plusieurs sources. Et la technique vient surtout ajouter un risque qui lui est propre : l’échec dès l’étape de récupération. La recherche des passages pertinents reste probabiliste, et peut tout simplement rater la bonne information, sans que rien ne le signale. Le modèle répond alors honnêtement à partir de ce qu’on lui a transmis, un phénomène que les chercheurs appellent la « silent failure », l’échec silencieux.

L’avenir du RAG

Aujourd’hui, le RAG est omniprésent, mais il ne représente plus la solution unique pour élargir le contexte d’un LLM. Le procédé s’est imposé à une époque où les modèles ne pouvaient ingérer que quelques milliers de mots à la fois. Depuis, les fenêtres de contexte ont explosé : certains modèles avalent aujourd’hui plusieurs centaines de milliers de mots d’un coup.

De quoi questionner l’utilité même du RAG ? Pas tout à fait. Le procédé garde l’avantage sur les données massives et reste plus économe. Surtout, il demeure incontournable dès qu’il s’agit d’actualité ou de recherche web : aucune fenêtre de contexte, aussi vaste soit-elle, ne peut contenir à l’avance une information qui n’existe pas encore au moment où le modèle répond.

Toute l'actu tech en un clin d'œil

Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !

Installer Numerama