RAG (pour débutants)
RAG = Retrieval-Augmented Generation. Avant de répondre, le LLM « lit » des documents pertinents dans votre base. Résultat : il répond à partir de VOS données, pas de sa mémoire d'entraînement. La chaîne de base tient en sept gestes, détaillés par [Bashiri Smith](https://www.instagram.com/reel/Dd9QONJlGEG/) : partir des documents (PDF, docs internes) ; en extraire le texte et réparer la mise en forme cassée (Unstructured) ; découper en passages courts (les découpeurs de texte de LangChain) ; transformer chaque passage en liste de nombres qui porte son sens, avec un modèle d'embedding (Cohere) ; ranger ces vecteurs à côté du texte dans une base vectorielle (Pinecone, Weaviate, ou pgvector si tu es déjà sur Supabase) ; à la question, la vectoriser elle aussi et chercher les passages au sens proche ; envoyer ces passages et la question d'origine au LLM, qui rédige. Le piège qui casse tout sans bruit : la question doit être vectorisée avec le même modèle que les documents, sinon la comparaison ne mesure plus rien.
Forces
- Pas de fine-tuning, mise à jour des données instantanée, pas de réentraînement
Limites
- La qualité dépend du chunking et du modèle d'embedding
Pour qui
- Tout projet qui doit répondre à partir d'une base de connaissance privée