Imaginez une carte où chaque mot occupe une position. Les mots de sens proche sont voisins : chat tout près de chien, docteur collé à médecin, et tracteur à l'autre bout de la carte. Sauf que cette carte n'a pas deux dimensions, elle en a plusieurs centaines. Un embedding, c'est simplement les coordonnées d'un mot ou d'un texte sur cette carte. Et une fois qu'on a des coordonnées, on peut mesurer des distances.
C'est l'un des concepts les plus utiles à comprendre pour saisir ce que les IA font vraiment, et il est rarement expliqué clairement. Il est aussi au coeur de presque tous les assistants documentaires déployés en entreprise. Décortiquons-le.
La définition simple
Un embedding (parfois traduit par plongement) est la transformation d'un texte en une liste de nombres, généralement plusieurs centaines, qui encode son sens. Chaque nombre est une coordonnée dans un espace mathématique, et la position globale résume ce que le texte veut dire.
La propriété remarquable, c'est que cette position n'est pas arbitraire : elle est apprise de telle sorte que les textes de sens proche obtiennent des coordonnées proches. Le mot docteur et le mot médecin, qui ne partagent aucune lettre, se retrouvent voisins. La phrase "mon ordinateur ne démarre plus" et la phrase "impossible d'allumer mon PC" aussi.
Cela change tout, parce qu'on passe d'une comparaison de caractères à une comparaison de sens. Un moteur de recherche classique cherche des mots identiques. Un moteur fondé sur les embeddings cherche des significations proches.
Comment on s'en sert vraiment
Le cas d'usage dominant s'appelle la recherche par similarité, et elle fonctionne en trois temps.
D'abord, on découpe tous ses documents en morceaux et on calcule l'embedding de chacun. On stocke ces coordonnées dans une base spécialisée, appelée base vectorielle. Ensuite, quand un utilisateur pose une question, on calcule l'embedding de sa question. Enfin, on cherche dans la base les morceaux dont les coordonnées sont les plus proches de celles de la question, et on les remonte.
C'est exactement le mécanisme qui alimente le RAG, cette technique qui permet à une IA de répondre en s'appuyant sur vos documents plutôt que sur sa mémoire d'entraînement. Les embeddings trouvent les passages pertinents, le modèle de langage rédige la réponse à partir de ces passages.
Prenons un cas concret. Un salarié cherche la procédure de remboursement de ses frais de déplacement, et tape "comment me faire rembourser mon train". Le document interne s'intitule "Note de frais : transports et mobilité professionnelle". Aucun mot commun, à part une préposition. Une recherche classique ne trouve rien. Une recherche par embeddings remonte le document immédiatement, parce que les deux textes occupent des positions voisines sur la carte du sens. C'est cette différence qui rend les assistants documentaires réellement utilisables.
Les limites, qu'il faut connaître
La proximité n'est pas la pertinence. Deux textes peuvent être sémantiquement proches et pourtant l'un seul répond à la question. Une recherche par embeddings remonte ce qui ressemble, pas nécessairement ce qui répond. C'est pourquoi les systèmes sérieux combinent les embeddings avec d'autres méthodes, y compris la bonne vieille recherche par mots-clés, qui reste imbattable pour trouver une référence exacte comme un numéro de contrat.
Le découpage est déterminant. Si vous coupez vos documents au milieu d'un raisonnement, chaque morceau perd son sens et son embedding devient trompeur. La qualité d'un système de ce type dépend souvent davantage de la manière dont on a découpé les documents que du modèle utilisé.
Les embeddings héritent des biais. La carte du sens est apprise sur des textes humains, avec leurs associations implicites. Les positions relatives des mots reflètent donc aussi les préjugés du corpus, ce qui rejoint le problème que nous explorions dans notre article sur la neutralité des IA.
Ce qu'il faut retenir
Un embedding transforme du sens en géométrie. C'est une idée d'une élégance rare : en attribuant à chaque texte une position dans un espace, on rend le sens mesurable, et donc calculable par une machine.
Si vous entendez parler de base vectorielle, de recherche sémantique ou de similarité cosinus, vous saurez désormais que tout repose sur cette même intuition : des coordonnées, et des distances entre elles. C'est aussi le concept qui explique pourquoi une IA peut vous retrouver le bon document sans que vous ayez trouvé le bon mot. Elle ne cherche pas votre mot, elle cherche votre sens.