RAG expliqué : créer un chatbot IA qui répond avec les données de votre entreprise

Imaginez un assistant capable de répondre instantanément aux questions de vos clients ou de vos équipes, en s'appuyant sur vos documents internes : procédures, contrats, catalogues produits, FAQ, rapports techniques. Un chatbot classique entraîné sur des données génériques ne peut pas faire cela : il ne connaît pas vos documents. C'est précisément le problème que le RAG (Retrieval-Augmented Generation) vient résoudre.

Le RAG permet à un modèle de langage (LLM) de s'appuyer sur des informations pertinentes extraites d'une source externe avant de formuler sa réponse. Plutôt que de tout mémoriser dans ses paramètres, le modèle consulte une base documentaire à la volée. Dans cet article, vous allez comprendre ce qu'est le RAG IA, comment fonctionne un chatbot basé sur cette approche, pourquoi elle est devenue incontournable pour les entreprises, et comment en implémenter une version concrète en Python.

1. Qu'est-ce que le RAG en intelligence artificielle ?

RAG signifie Retrieval-Augmented Generation, que l'on traduit en français par « génération augmentée par récupération d'informations ». C'est une architecture qui combine deux briques : un modèle de langage (LLM) capable de générer du texte, et un système de recherche documentaire capable de retrouver les passages pertinents dans une base de connaissances.

Le principe est simple : au lieu de demander au LLM de répondre directement à une question, on lui fournit d'abord le contexte utile, extrait de vos documents, puis on lui demande de formuler une réponse basée sur ce contexte.

1.1. Chatbot classique vs chatbot RAG

• Source de connaissance : paramètres du modèle (figés) vs documents externes (actualisables)
• Mise à jour : réentraînement nécessaire vs simple mise à jour des documents
• Traçabilité : faible vs citation des sources possible
• Risque d'hallucination : élevé sur des sujets spécifiques vs réduit si le contexte est pertinent
• Coût de démarrage : élevé (fine-tuning) vs modéré (indexation + API)

2. Comment fonctionne un chatbot RAG ?

Un chatbot RAG suit un pipeline en sept étapes. Voici le déroulement complet, de la préparation des documents jusqu'à la réponse finale.

1. Collecte des données : PDF, documents Word, fichiers texte, pages web, documentation interne
2. Découpage des documents (chunking) : segments de 500 à 1 000 tokens avec chevauchement
3. Création des embeddings : transformation de chaque segment en vecteur numérique
4. Stockage vectoriel : enregistrement des vecteurs et métadonnées dans une base adaptée
5. Recherche des passages pertinents : la question est encodée puis comparée aux vecteurs
6. Injection du contexte : les passages récupérés sont ajoutés au prompt du LLM
7. Génération de la réponse : le LLM formule une réponse fondée sur le contexte fourni

2.1. Schéma du fonctionnement du RAG

Question utilisateur
    ↓
Encodage en embedding
    ↓
Recherche dans la base vectorielle
    ↓
Récupération des passages pertinents
    ↓
Contexte + question → LLM
    ↓
Réponse fondée sur les sources

3. Pourquoi utiliser le RAG pour les données d'une entreprise ?

3.1. Les avantages

• Exploiter les documents internes sans réentraîner le modèle
• Faciliter l'accès à une base documentaire volumineuse
• Actualiser les informations en mettant à jour les documents sources
• Améliorer la pertinence des réponses lorsque les documents récupérés sont adaptés
• Référencer les sources utilisées dans les réponses

3.2. Les limites à connaître

• Qualité des documents : un document obsolète ou mal rédigé produit de mauvaises réponses
• Erreurs de récupération : si le mauvais passage est récupéré, la réponse sera incorrecte
• Hallucinations résiduelles : le RAG réduit les erreurs, mais ne les élimine pas totalement
• Coûts : appels API au LLM, stockage vectoriel, infrastructure
• Confidentialité et contrôle d'accès : il faut s'assurer qu'un utilisateur ne puisse pas accéder à des documents interdits

4. Comment créer un chatbot RAG : tutoriel pratique

4.1. Pile technique retenue

• Python : langage principal
• LangChain : orchestration du pipeline RAG
• OpenAI API : modèle de langage (GPT) et embeddings
• ChromaDB : base de données vectorielle légère et locale
• FastAPI : exposition du chatbot via une API HTTP

4.2. Prérequis et installation

python -m venv venv
source venv/bin/activate   # ou venv\Scripts\activate sous Windows

pip install langchain langchain-openai langchain-community \
            chromadb fastapi uvicorn python-dotenv pypdf

Créez ensuite un fichier .env à la racine du projet avec votre clé API :

OPENAI_API_KEY=sk-votre-cle-ici

4.3. Chargement et indexation des documents

from langchain_community.document_loaders import PyPDFLoader
          from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_openai import OpenAIEmbeddings
from langchain_community.vectorstores import Chroma

# 1. Charger les documents
loader = PyPDFLoader("documents/manuel_produit.pdf")
documents = loader.load()

# 2. Découper en chunks
splitter = RecursiveCharacterTextSplitter(
    chunk_size=800,
    chunk_overlap=100,
)
chunks = splitter.split_documents(documents)

# 3. Créer les embeddings et stocker dans Chroma
embeddings = OpenAIEmbeddings(model="text-embedding-3-small")
vectorstore = Chroma.from_documents(
    documents=chunks,
    embedding=embeddings,
    persist_directory="./chroma_db",
)
vectorstore.persist()

print(f"{len(chunks)} segments indexés.")

4.4. Recherche des passages pertinents

question = "Comment réinitialiser le mot de passe administrateur ?"
          resultats = vectorstore.similarity_search(question, k=4)

          for i, doc in enumerate(resultats):
          print(f"--- Passage {i+1} ---")
          print(doc.page_content[:300])

4.5. Génération de la réponse avec le contexte

from langchain_openai import ChatOpenAI
from langchain.chains import RetrievalQA

llm = ChatOpenAI(model="gpt-4o-mini", temperature=0)

qa_chain = RetrievalQA.from_chain_type(
    llm=llm,
    retriever=vectorstore.as_retriever(search_kwargs={"k": 4}),
    return_source_documents=True,
)

reponse = qa_chain.invoke({"query": question})
print("Réponse :", reponse["result"])
print("\nSources :")
for doc in reponse["source_documents"]:
print("-", doc.metadata.get("source"))

4.6. Exemple de question / réponse attendue

Question : « Comment réinitialiser le mot de passe administrateur ? »

Pour réinitialiser le mot de passe administrateur, accédez à l'interface de gestion, cliquez sur « Paramètres », puis sur « Utilisateurs ». Sélectionnez le compte administrateur, cliquez sur « Réinitialiser le mot de passe » et suivez les instructions affichées à l'écran. Source : manuel_produit.pdf, page 12.

— Réponse générée par le chatbot RAG

4.7. Comment tester le résultat

1. Posez une question dont la réponse figure explicitement dans un document indexé
2. Vérifiez que la réponse correspond bien au contenu du document
3. Posez une question hors périmètre : le chatbot doit indiquer qu'il ne dispose pas de l'information
4. Ajoutez un nouveau document, relancez l'indexation, vérifiez que le chatbot en tient compte

5. Quelles technologies choisir pour un projet RAG ?

5.1. Modèle de langage

• OpenAI (GPT-4o, GPT-4o-mini) : excellent rapport qualité/prix, API simple
• Anthropic (Claude) : bon pour les contextes longs
• Mistral, Llama : alternatives open source, hébergement possible en local

5.2. Embeddings

• OpenAI text-embedding-3-small : rapide, économique, très bon en français
• Cohere Embed : multilingue performant
• Modèles open source (Sentence-Transformers) : usage 100 % local

5.3. Base de données vectorielle

• ChromaDB : idéale pour prototyper
• Pinecone, Weaviate, Qdrant : production à grande échelle
• pgvector (PostgreSQL) : si vous avez déjà une base Postgres

5.4. Framework de récupération

• LangChain : le plus répandu, riche en intégrations
• LlamaIndex : orienté indexation documentaire avancée

6. Bonnes pratiques pour un chatbot RAG fiable et sécurisé

• Qualité des documents : n'indexez que des sources fiables, à jour et validées
• Mise à jour régulière : réindexez dès qu'un document change
• Taille des segments : 500 à 1 000 tokens, avec 10 à 20 % de chevauchement
• Pertinence de la recherche : testez différentes valeurs de k, ajoutez un re-ranking si besoin
• Limitation des réponses : si aucun passage pertinent n'est trouvé, le chatbot doit le dire clairement
• Citation des sources : affichez le document et la page utilisés
• Protection des données : chiffrez les documents sensibles, ne loguez pas les données personnelles
• Gestion des permissions : filtrez les documents récupérés selon le rôle de l'utilisateur
• Évaluation continue : mesurez régulièrement la qualité des réponses sur un jeu de questions de référence

7. Conclusion

Le RAG IA n'est pas une mode : c'est aujourd'hui la méthode la plus efficace pour faire parler un modèle de langage sur vos données, sans réentraînement coûteux et avec un niveau de contrôle élevé. Un chatbot RAG bien conçu peut transformer la manière dont vos équipes accèdent à l'information interne et dont vos clients interagissent avec vos services.

Mais un RAG réussi ne se résume pas à brancher un LLM sur une base vectorielle. Il repose sur une architecture soignée, des documents de qualité, un pipeline de récupération testé et une politique de sécurité claire.