Embeddings
La transformation d'un texte en vecteur numérique qui capture son sens sémantique. Deux textes similaires ont des vecteurs proches dans l'espace d'embedding. La fondation de RAG et de la recherche sémantique. Le vecteur sort d'un modèle d'embedding dédié, pas du LLM qui répond : Cohere et OpenAI en proposent en API, comme le rappelle [Bashiri Smith](https://www.instagram.com/reel/Dd9QONJlGEG/). Une règle ne pardonne pas : la question de l'utilisateur doit passer par le même modèle que les documents indexés. Deux modèles différents produisent deux espaces qui ne se comparent pas, et la recherche renvoie quand même des résultats, juste les mauvais. Corollaire : changer de modèle d'embedding, c'est revectoriser toute la base, pas seulement les nouveaux documents.
Forces
- Recherche par sens plutôt que par mots-clés, résultats bien plus pertinents
Limites
- Coût de génération : chaque texte doit être vectorisé via API (OpenAI, Voyage, etc.)
Pour qui
- Comprendre comment fonctionne la recherche sémantique et le RAG