Newsletter

Votre RAG, ce n'est pas un chantier technique

Didier Sampaolo Didier Sampaolo
Recevez la prochaine édition

Un mardi sur deux, un conseil actionnable pour améliorer votre performance opérationnelle.

Gratuit. Une seule édition tous les 15 jours. Désinscription en un clic.

Un commercial vous a fait une démo : vous posez une question à un chatbot, l'IA fouille dans des documents et répond, de manière précise et sourcée.

Il est en train de vous vendre une baguette magique : "on branche vos fichiers, et ça répond à tout". Belle promesse.

Mais dans le vrai monde, ça va être un peu plus compliqué. Si vous achetez sa solution, le travail n'est pas terminé, il commence. Mais ça, il a "oublié" de vous en parler.

Quand vous brancherez vos vrais documents, vous allez vite comprendre dans quoi vous avez mis les pieds.

Le concept de la semaine : la knowledge base, un RAG

Un RAG (Retrieval-Augmented Generation) permet à une IA d'accéder à vos documents. Quand vous lui posez une question, elle va d'abord chercher les passages pertinents dans votre base de connaissances, puis elle formule sa réponse en s'appuyant dessus.

Sous le capot, deux mécanismes

  • Le chunking : vos documents sont découpés en petits morceaux de quelques phrases, parce qu'une IA ne va pas relire un PDF de 80 pages à chaque question.
  • L'embedding : chaque morceau est transformé en un vecteur, une suite de nombres qui capture son sens, une sorte de coordonnée dans une carte des idées. Quand vous posez une question, elle est convertie de la même façon, et l'outil récupère les morceaux les plus proches sur la carte. D'où une conséquence directe : un document mal structuré est mal découpé, donc mal retrouvé. La propreté de la base commence dès la mise en forme de vos fichiers.

Tout se joue dans la base

Côté technique, monter un proto de RAG aujourd'hui, c'est l'affaire de quelques heures.

Dès qu'on veut un jeu de questions pour l'assurance qualité, embarquer des documents hétérogènes, et ajouter proprement un agent conversationnel par-dessus, on entre dans le vrai travail. Ça va quand même demander un peu d'huile de coude...

Et vous allez être mis à contribution ! Un RAG ne vaut que ce que valent ses documents. Et une base documentaire n'est pas un stock de fichiers qu'on empile une fois pour toutes. Ça demande de l'entretien : les docs périment, et finissent par se contredire.

Toute la difficulté est là. Elle tient à vos documents, à vos process et aux gens qui les tiennent, et ça, ça restera votre responsabilité.

Le test central : "suis-je tranquille ?"

Avant d'ajouter un document dans la base, posez-vous une seule question : "si l'IA répond en s'appuyant sur ce document, est-ce que je suis tranquille ?"

Si la réponse n'est pas un oui franc, le document doit rester dehors.

Ce test tranche d'un coup deux pièges classiques : le document périmé qu'on a oublié dans un coin du drive, et les deux procédures qui se contredisent sans que rien n'indique laquelle fait foi.

Une seule question, et vous savez quoi garder.

Comment on s'y prend

Monter une base propre n'est pas une tâche d'une semaine, c'est un chantier, dont voici une roadmap possible. Remarquez : aucun des points soulevés n'est une histoire de code.

  1. Listez les questions auxquelles l'outil doit répondre : Au pluriel, et sans tricher. "Tout" n'est pas une réponse valide : ce sont vos questions qui définissent le périmètre.
  2. Inventoriez ce qui existe : Vous allez vous rendre compte que le savoir est éclaté entre le serveur, les boîtes mail, quelques classeurs, et surtout la tête de deux ou trois personnes.
  3. Triez par autorité : Appliquez le test. Décidez ce qui fait foi, écartez ce qui est périmé, et quand deux documents se contredisent, tranchez lequel gagne. À la main. Aucun outil ne pourra le faire pour vous.
  4. Comblez les trous : Le savoir critique qui n'est écrit nulle part doit être produit. Il faut décider quoi documenter, et surtout qui s'en charge et quand.
  5. Nommez un propriétaire de la base : Une personne, avec un prénom. Pas "l'équipe", pas "nous deux". Une base sans responsable finira par moisir. Responsable de la connaissance de l'entreprise, ça peut être un poste à part entière.
  6. Fixez la cadence de rafraîchissement : Quand met-on à jour, et comment ? Sans réponse claire, la base se dégrade en silence, et l'IA se met à répondre faux avec la même assurance qu'avant. Si c'est nécessaire (ça dépend de la vélocité de création d'information chez vous), il peut être utile de bloquer carrément des créneaux, genre "le premier jeudi de chaque mois".
  7. Décidez des accès : Une base contient vite de la paie, du RH, du confidentiel. Qui peut interroger quoi ? Techniquement, cela se règle avec un système de permissions, parfois branché sur votre annuaire existant via SSO (Single Sign-On, l'authentification unique déjà en place dans l'entreprise). Mais la mise en place se fera après la décision : vous devez décider et acter ces règles. Le prestataire qui monte votre RAG ne peut pas les deviner à votre place.

Comment on améliore la situation

Quelques réflexes qui font la différence entre un RAG efficace et le n-ième gadget IA sans ROI :

  • Tout mettre, c'est tout casser : Doublons, vieilles versions et procédures contradictoires font halluciner l'outil. Le vrai travail, c'est de décider ce qu'on ne met pas.
  • Un document, une source de vérité : Si deux fichiers disent l'inverse l'un de l'autre, l'IA ne sait pas lequel croire. À vous de trancher qui fait autorité.
  • Le RAG est un miroir : Il rend visible le désordre documentaire. Si rien n'est écrit, c'est ici que vous l'apprendrez.
  • Un propriétaire nommé, toujours : Même logique qu'une tâche : "l'équipe" égale personne. Une base a besoin d'un responsable unique.

Pour aller plus loin : quand l'agent passe à l'action

Une fois que vous aurez posé des bases saines pour votre gestion documentaire, on pourra élargir le spectre : vous pouvez brancher vos outils existants sur l'agent, votre CRM par exemple, via des standards comme MCP (Model Context Protocol) ou de simples API (les interfaces qui permettent à deux logiciels de se parler).

L'agent accède alors à vos données en temps réel, et plus seulement à une base figée. En bonus, il peut agir : éditer un devis, créer une fiche client, mettre à jour une commande.

Ce travail de mise à plat, c'est exactement ce qu'on fait chez nos clients : transformer un tas de documents en une base sur laquelle une IA peut vraiment s'appuyer. Le pipeline technique, c'est presque la partie facile. Le reste, cette remise en ordre de votre propre savoir, demande des arbitrages que vous êtes seul à pouvoir rendre. C'est là qu'on vous accompagne, et c'est là qu'est la valeur.