Embeddings et RAG : brancher l'IA sur vos données

Comment une IA peut-elle répondre à partir de vos documents, le droit interne de votre boîte, vos notes, les articles d'un site, sans être ré-entraînée ? Réponse : embeddings + RAG, le duo derrière la plupart des « IA d'entreprise »… et derrière Mnémosyne, l'assistante de ce site.

Les embeddings : le sens transformé en nombres

Un embedding convertit un texte en une longue liste de nombres (un vecteur) qui capture son sens. Propriété magique : deux textes proches par le sens ont des vecteurs proches par la géométrie. « Comment résilier mon abonnement ? » et « Je veux annuler mon contrat » n'ont presque aucun mot commun, leurs vecteurs sont voisins. La recherche cesse d'être une affaire de mots-clés pour devenir une affaire de sens.

Le RAG : chercher puis répondre

Le RAG (Retrieval-Augmented Generation, génération augmentée par récupération) enchaîne trois temps :

• 1. Indexer, vos documents sont découpés en passages, chacun converti en embedding, le tout stocké dans une base vectorielle.
• 2. Récupérer, à chaque question, on cherche les passages dont le sens est le plus proche.
• 3. Générer, ces passages sont glissés dans le contexte du LLM avec la consigne : « réponds à partir de ces extraits ».

Pourquoi c'est partout

Le RAG réduit les hallucinations (le modèle s'appuie sur des sources réelles), permet de citer ces sources, reste à jour en changeant simplement les documents, sans ré-entraîner quoi que ce soit. Ses limites : si la recherche remonte les mauvais passages, la réponse sera mauvaise ; la qualité du découpage et de l'index fait tout.