Un agentic RAG est un RAG dans lequel le modèle pilote lui-même la recherche documentaire. Il décide s'il faut chercher, réécrit la requête, choisit la source, juge les passages récupérés et relance une recherche quand ils ne suffisent pas. Dans un RAG classique, ces décisions sont figées dans le code : on cherche une fois, on colle les résultats dans le prompt, on répond. Notre position, après avoir branché de la recherche documentaire dans des agents conversationnels et dans un agent vocal qui décroche de vrais appels, tient en une phrase. La plupart des équipes qui veulent « passer à l'agentic RAG » ont d'abord un problème de recherche, et une boucle d'agent posée sur un index qui trouve mal multiplie la facture sans corriger la réponse. Cet article s'adresse aux développeurs et aux équipes produit qui ont déjà un RAG en place. Il montre où passe la frontière, comment monter en autonomie par paliers, et donne le squelette d'une boucle bornée qui tient en production.
Agentic RAG ou RAG classique : ce que l'agent change vraiment
L'agent change une seule chose de fond : la recherche devient une décision du modèle au lieu d'une étape fixe du pipeline. Dans un RAG classique, chaque question déclenche la même séquence. Le texte est transformé en vecteur, la base renvoie les passages les plus proches, le modèle rédige avec ce qu'il a reçu. Si le premier tirage est mauvais, personne ne s'en aperçoit avant le lecteur. Si vous partez de zéro, notre article sur le fonctionnement d'un RAG en entreprise pose ces bases.
La documentation officielle de LangGraph, dans son tutoriel d'agent de recherche, résume la bascule avec une phrase utile : le système devient agentique parce que la recherche ne s'exécute que lorsque le modèle la demande. Une salutation ne coûte donc aucun appel à la base, et une question pointue peut en déclencher plusieurs. La revue académique Agentic Retrieval-Augmented Generation: A Survey on Agentic RAG range ces comportements sous quatre motifs de conception : la réflexion, la planification, l'usage d'outils et la collaboration entre plusieurs agents.
Concrètement, un agentic RAG sait faire trois choses qu'un pipeline figé ne fait pas. Il reformule une question vague ou pleine de pronoms avant de chercher (« et pour l'autre contrat ? » devient « délai de résiliation du contrat de maintenance »). Il choisit entre plusieurs sources, par exemple la base documentaire, une table SQL de commandes ou une API métier. Il juge enfin ce qu'il a récupéré et recommence si les passages ne répondent pas. Ce troisième point est le plus coûteux et le plus mal compris. Une boucle de réflexion qui tourne sans plafond peut enchaîner dix recherches pour une question à laquelle la base ne contient tout bonnement aucune réponse. Si vous voulez revoir comment un modèle décide d'appeler un outil, notre article sur l'architecture d'un agent LLM détaille la mécanique de l'appel de fonction.
Avant de rendre votre RAG agentique, réparez la recherche
Un agent qui interroge un index médiocre trois fois obtient trois fois des passages médiocres, pour le triple du prix. La première chose à vérifier quand un RAG répond mal est donc la qualité du tirage lui-même. Les chiffres publiés par Anthropic dans son étude sur la Contextual Retrieval donnent l'ordre de grandeur de ce qu'on gagne sans aucun agent. Sur leurs jeux de test, le taux d'échec de récupération dans les 20 premiers passages part de 5,7 %. Selon la même étude, ajouter à chaque passage une courte phrase de contexte sur le document d'origine le fait tomber à 3,7 %, soit 35 % d'échecs en moins. Combiner ces passages enrichis avec une recherche lexicale BM25 le réduit de 49 %. Avec un reranker en plus, la baisse atteint 67 %, à 1,9 %.
Ces trois leviers relèvent de l'ingénierie de recherche classique. La recherche hybride, qui fusionne un score sémantique et un score lexical, est disponible nativement dans plusieurs bases vectorielles : la documentation de Qdrant décrit par exemple la fusion par Reciprocal Rank Fusion, qui favorise les documents bien classés dans les deux listes. Le lexical rattrape ce que les vecteurs ratent souvent en entreprise : références produit, numéros d'article de contrat, sigles internes.
La même publication d'Anthropic rappelle un seuil qu'on oublie trop vite. Si la base de connaissances fait moins de 200 000 tokens, soit environ 500 pages, on peut l'envoyer en entier dans le prompt, sans RAG du tout. Avec la mise en cache du prompt, le coût de cette approche reste raisonnable. Sur une FAQ produit, des conditions générales et une grille tarifaire, c'est souvent la bonne réponse.
Sur les projets que nous reprenons, les réponses fausses viennent le plus souvent du découpage des documents (un tableau tarifaire coupé en deux passages, un titre de section séparé de son contenu) et de métadonnées absentes qui empêchent de filtrer par produit ou par date. Ces défauts se corrigent en quelques jours et profitent à toutes les questions, simples ou complexes. Une boucle d'agent ne les répare pas : elle les contourne parfois, à coups de reformulations, et facture chaque tentative.
Les quatre niveaux d'autonomie d'un agentic RAG
Un agentic RAG se construit en quatre niveaux d'autonomie : la recherche comme outil, l'évaluation avec reformulation, le routage entre plusieurs sources, puis plusieurs agents en parallèle. Chaque niveau ajoute au moins un appel au modèle par question, et beaucoup plus au dernier. On monte d'un cran seulement quand le précédent a montré sa limite sur des questions réelles.
Monter en autonomie, un niveau à la fois
Ce que chaque niveau ajoute, et la question qui justifie de le franchir
- Niveau 1 : la recherche devient un outil
Toutes les questions ont-elles besoin de la base ?
Le modèle décide d'appeler l'outil de recherche et rédige lui-même la requête.
Un appel de modèle en plus, requêtes mieux formulées
- Niveau 2 : évaluer et reformuler
Les passages trouvés répondent-ils à la question ?
Un petit modèle note les passages ; s'ils sont insuffisants, la requête est réécrite, avec un nombre de tours plafonné.
Moins de réponses inventées sur les questions mal posées
- Niveau 3 : router entre plusieurs sources
La réponse est-elle dans un document, une table ou une API ?
L'agent choisit la base documentaire, une requête SQL ou un appel métier selon la question.
Réponses qui croisent texte et données à jour
- Niveau 4 : plusieurs agents en parallèle
La question exige-t-elle d'explorer plusieurs pistes indépendantes ?
Un agent principal découpe la recherche et délègue chaque piste à un sous-agent.
Couverture large, coût en tokens très supérieur
Sources : documentation LangGraph, articles CRAG et Self-RAG, publication d'Anthropic sur son système de recherche multi-agents, consultées le 16/11/2026
Le niveau 2 s'inspire de travaux de recherche précis. L'article Corrective Retrieval Augmented Generation (CRAG) ajoute un évaluateur léger qui attribue un degré de confiance aux documents récupérés et déclenche une action différente selon ce score, y compris une recherche web quand la base ne suffit pas. Self-RAG entraîne le modèle à produire des jetons de réflexion qui décident quand chercher et critiquent sa propre réponse. En production, on n'entraîne presque jamais un modèle pour cela : on reproduit l'idée avec un prompt d'évaluation et une sortie JSON.
Le niveau 4 a un cas d'usage bien documenté. Anthropic décrit un système où un agent principal lance trois à cinq sous-agents en parallèle, et indique dans sa publication sur son système de recherche multi-agents que cette architecture a surpassé un agent unique de 90,2 % sur son évaluation interne de recherche. Ce gain concerne des questions larges, du type « liste tous les membres des conseils d'administration des entreprises d'un secteur ». Pour « quel est le délai de rétractation sur une commande en ligne ? », un seul tirage bien fait suffit. Notre article sur les systèmes multi-agents en IA détaille quand cette orchestration se justifie.
Construire une boucle agentique bornée, étape par étape
Une boucle agentique fiable tient en trois briques : un outil de recherche bien décrit, un évaluateur à sortie structurée et un budget de tours codé en dur. Les prérequis sont modestes. Il faut un modèle qui gère l'appel de fonctions, une base qui fait de la recherche hybride et un outil de traçage pour relire chaque décision de l'agent après coup.
La première brique est la description de l'outil, car c'est elle que le modèle lit pour décider. Une description vague (« cherche dans la base de connaissances ») produit des appels inutiles sur les salutations et des oublis sur les vraies questions. Une bonne description dit ce que la base contient, ce qu'elle ne contient pas et comment formuler la requête :
{
"type": "function",
"function": {
"name": "chercher_documentation",
"description": "Cherche dans la documentation interne : conditions générales, grille tarifaire en vigueur, procédures SAV. À utiliser pour toute question sur un tarif, un délai ou une garantie. Ne contient ni les commandes clients ni les stocks.",
"parameters": {
"type": "object",
"properties": {
"requete": {
"type": "string",
"description": "Question reformulée avec les termes des documents, sans pronoms."
}
},
"required": ["requete"]
}
}
}
La deuxième brique est l'évaluateur. Un modèle plus petit et moins cher que celui qui rédige suffit, avec une consigne courte et une réponse en JSON : {"suffisant": true|false, "manque": "ce qui manque, en une phrase"}. Le champ « manque » sert à la reformulation suivante, ce qui évite de relancer la même requête mot pour mot. La troisième brique est le budget. Notre squelette de départ s'écrit sans framework, pour que la logique reste lisible :
MAX_TOURS = 3 # un tour de recherche + deux reformulations, jamais plus
def repondre(question: str) -> str:
# Niveau 1 : le modèle décide s'il faut chercher, et avec quelles requêtes
decision = appeler_modele(question, outils=[CHERCHER_DOCUMENTATION])
if not decision.appels_outils: # salutation, question hors périmètre
return decision.texte
requetes = [appel.arguments["requete"] for appel in decision.appels_outils]
# Niveau 2 : recherche, évaluation et reformulation bornées
passages, deja_tentees = [], []
for tour in range(MAX_TOURS):
deja_tentees += requetes
for requete in requetes: # le modèle peut demander plusieurs recherches d'un coup
nouveaux = recherche_hybride(requete, k=8) # dense + BM25, fusion RRF
passages += [p for p in nouveaux if p not in passages] # on cumule, sans doublon
verdict = evaluer(question, passages) # petit modèle, sortie JSON
if verdict["suffisant"]:
return rediger(question, passages, citer_sources=True)
if tour < MAX_TOURS - 1: # pas de reformulation inutile au dernier tour
requetes = [reformuler(question, deja_tentees, verdict["manque"])] # sans répéter une requête
# Budget épuisé : on répond avec ce qu'on a et on le dit
return rediger(question, passages, citer_sources=True, signaler_lacune=True)
Deux détails de ce squelette évitent les pièges les plus fréquents. Les passages se cumulent d'un tour à l'autre : la reformulation cherche ce qui manquait, et une question qui croise un tarif et un délai de résiliation a besoin des deux documents à la fois. Et la boucle ne démarre que si le modèle a appelé l'outil, donc un « bonjour » ou une question sur une commande ne coûte aucune recherche.
La dernière ligne compte autant que la boucle. Quand le budget est épuisé, l'agent doit dire qu'il n'a pas trouvé, au lieu de broder sur des passages faibles. C'est ce comportement que les utilisateurs jugent, bien plus que la finesse du routage. Il se teste en priorité : posez à l'agent dix questions dont la réponse n'existe pas dans la base et comptez combien de fois il l'admet.
Coût et latence : là où l'agentic RAG se paie
L'agentic RAG se paie en tokens et en secondes, et la facture grimpe vite avec le niveau d'autonomie. Anthropic l'écrit sans détour dans sa page Building effective agents : les systèmes agentiques échangent de la latence et du coût contre de la performance, et il faut chercher la solution la plus simple possible avant d'ajouter de la complexité. Dans sa publication sur son système de recherche, l'éditeur chiffre l'écart sur ses propres données : un agent consomme environ 4 fois plus de tokens qu'une conversation, un système multi-agents environ 15 fois plus.
Ce qu'un agent consomme par rapport à une conversation
Multiplicateur moyen de tokens, base 1 pour une conversation simple
Source : anthropic.com/research/multi-agent-research-system, consulté le 16/11/2026
Toujours selon Anthropic, sur le banc d'essai BrowseComp, qui teste la capacité d'un agent à dénicher une information difficile à trouver sur le web, la quantité de tokens consommés explique à elle seule 80 % des écarts de performance. Autrement dit, une bonne part du gain des systèmes agentiques vient du fait qu'ils lisent davantage. C'est utile sur une recherche large, beaucoup moins sur une question dont la réponse tient dans un paragraphe.
La latence est la contrainte que nous connaissons le mieux, parce que notre agent vocal Tala répond au téléphone. Au téléphone, chaque appel supplémentaire au modèle s'entend comme un silence. Nous en avons tiré une architecture volontairement au niveau 1. La recherche documentaire est un seul outil que le modèle décide d'appeler et dont il rédige la requête. Un seul vecteur est calculé, puis toutes les bases documentaires de l'organisation sont interrogées en parallèle, avec un délai maximal de 2 secondes au-delà duquel la recherche est abandonnée. Le seuil de similarité est bas pour privilégier le rappel, et le contexte renvoyé au modèle est plafonné à 2 000 caractères. Le modèle peut relancer une recherche s'il le juge utile, mais nous n'ajoutons aucune étape d'évaluation séparée : elle coûterait un aller-retour de plus pendant que l'appelant attend.
À l'écrit, sur un assistant interne ou un outil d'analyse, le calcul change : quelques secondes de plus pour une réponse juste sont acceptables. Le budget de tours reste pourtant indispensable, et il se pilote comme n'importe quelle dépense. Notre article sur la maîtrise des coûts LLM en entreprise montre comment poser des plafonds par usage et suivre la dépense par fonctionnalité.
Mesurer avant d'ajouter de l'autonomie
La décision de rendre un RAG agentique se prend sur un jeu de questions réelles, mesuré avant et après. Sans ce jeu, chaque modification se juge à l'impression, et l'impression favorise toujours la version la plus récente. Nous constituons un jeu de 50 à 100 questions tirées des vrais usages (tickets de support, recherches internes, messages clients), avec pour chacune la réponse attendue et le document qui la contient.
Ce jeu se découpe en deux familles. Les questions directes trouvent leur réponse dans un seul passage : un délai, un tarif, une procédure. Les questions composées exigent de croiser plusieurs documents ou de passer par une donnée chiffrée : « quel contrat coûte le moins cher pour un site de plus de 50 salariés avec astreinte ? ». Un agentic RAG n'apporte presque rien sur la première famille et peut transformer la seconde. Si les questions composées représentent une petite minorité de votre trafic, la bonne architecture est un routage : le pipeline classique par défaut, la boucle agentique seulement pour les questions classées complexes. C'est l'idée de l'article de recherche Adaptive-RAG, qui utilise un petit classifieur pour estimer la complexité de chaque question et choisir la stratégie de recherche.
Pour chaque version, quatre mesures suffisent à trancher : le taux de questions où le bon document figure dans les passages récupérés, la justesse de la réponse finale, la latence au 95e centile et le coût moyen par question. La justesse se note à grande échelle avec un modèle évaluateur calibré sur quelques dizaines de réponses notées à la main ; notre article pour évaluer les réponses avec un LLM juge détaille la méthode et ses biais. Enfin, tracez chaque décision de l'agent : la requête réécrite, la source choisie, le verdict de l'évaluateur. Sans ces traces, une boucle qui tourne trois fois pour rien reste indétectable.
Si vos documents sont sensibles et doivent rester sur une infrastructure européenne, les choix d'embeddings et d'hébergement se posent avant l'agent : nous les détaillons dans notre guide du RAG hébergé en France. Et si vous voulez faire auditer votre chaîne de recherche sur vos propres questions avant d'investir dans une boucle agentique, notre agence spécialisée en agents IA part toujours de cette mesure.
FAQ sur l'agentic RAG
Faut-il un framework comme LangGraph pour faire de l'agentic RAG ?
Non. Un niveau 1 ou 2 s'écrit en une centaine de lignes avec n'importe quel modèle qui gère l'appel de fonctions, comme le montre le squelette de cet article. Un framework devient utile quand le graphe de décision grossit : plusieurs sources, reprise après erreur, validation humaine au milieu du parcours. Commencer sans framework a un avantage concret, car vous voyez chaque appel au modèle et son coût, ce qui facilite le réglage du budget de tours.
Un agentic RAG réduit-il les hallucinations ?
Il les réduit sur un cas précis : quand le premier tirage ramène des passages hors sujet, l'évaluateur les rejette et la reformulation trouve mieux. Il ne les supprime pas, et peut même en créer si la boucle n'a pas de sortie honnête. La protection la plus efficace reste une consigne explicite de répondre « je n'ai pas trouvé » quand le budget est épuisé, plus des citations de sources que l'utilisateur peut vérifier.
Combien de tours de recherche autoriser par question ?
Trois tours au maximum couvrent la grande majorité des questions métier : une recherche initiale et deux reformulations. Au-delà, l'agent reformule souvent la même idée avec d'autres mots, parce que la réponse n'existe pas dans la base. Mesurez sur votre jeu de test le taux de questions résolues à chaque tour : si le troisième tour ne récupère presque rien, ramenez le plafond à deux et économisez la latence correspondante.
L'agentic RAG convient-il à un assistant vocal ?
Avec prudence. Au téléphone, chaque appel supplémentaire au modèle s'entend comme un silence, donc les boucles d'évaluation coûtent cher en expérience. Nous restons au niveau 1 : le modèle décide de chercher et rédige sa requête, la recherche interroge toutes les bases en parallèle avec un délai maximal de 2 secondes, et le contexte renvoyé reste court. Les niveaux 2 et plus conviennent mieux à l'écrit, où l'utilisateur tolère quelques secondes d'attente.