Technique Mis à jour 2026-04

Embedding

Definition

Un embedding est une représentation numérique (vecteur) d'un texte ou d'une donnée, capturant son sens sémantique.

Questions fréquentes

A quoi servent les embeddings ?
Ils mesurent la similarité sémantique entre textes. Deux phrases avec le même sens auront des vecteurs proches. C'est la base du RAG.
Embedding et token, c'est pareil ?
Non. Un token est un morceau de texte brut. Un embedding est sa traduction en vecteur numérique dans un espace mathématique.
Qu'est-ce qu'un embedding, en termes simples ?
Un embedding transforme un texte, une image ou d'autres données en une liste de nombres (un vecteur) qui capture leur sens. Les éléments de sens proche se retrouvent côte à côte dans cet espace vectoriel, ce qui permet à une machine de les comparer mathématiquement. C'est ainsi qu'une IA comprend que « voiture » et « automobile » sont liés malgré des mots différents.
Qu'est-ce qu'un word embedding exactement ?
Un word embedding est un vecteur qui représente le sens d'un seul mot, appris à partir de la façon dont il apparaît dans de grandes quantités de texte. Les premiers modèles comme Word2Vec et GloVe produisaient un vecteur fixe par mot. Les systèmes modernes utilisent des embeddings contextuels : un même mot reçoit un vecteur différent selon la phrase qui l'entoure.
Quel est un exemple d'embedding ?
La recherche sémantique en est l'exemple classique. On transforme une requête comme « comment réinitialiser mon mot de passe » et un article d'aide en vecteurs, puis on récupère l'article dont le vecteur est le plus proche. Le même mécanisme alimente les pipelines RAG, les recommandations de produits et la détection de doublons. Des outils comme Perplexity et NotebookLM s'appuient sur les embeddings pour trouver les passages pertinents avant de répondre.
Comment crée-t-on un embedding ?
Un réseau de neurones entraîné sur de grands jeux de données convertit chaque entrée en un vecteur, généralement de quelques centaines à quelques milliers de nombres. En pratique, vous appelez un modèle d'embedding, comme text-embedding-3 d'OpenAI, Cohere Embed ou un modèle open source de Hugging Face, et il renvoie le vecteur de n'importe quel texte envoyé. Aucun travail manuel sur les features n'est nécessaire.
Où sont stockés les embeddings ?
Les embeddings sont généralement conservés dans une base de données vectorielle comme Pinecone, Weaviate, Qdrant ou pgvector. Ces systèmes indexent des millions de vecteurs et effectuent des recherches rapides du plus proche voisin pour renvoyer les éléments les plus similaires en quelques millisecondes. Une base vectorielle est la couche de stockage standard derrière la recherche sémantique et les applications RAG.
Les embeddings peuvent-ils aussi représenter des images et du son ?
Oui. Le même principe s'applique aux images, à l'audio et à la vidéo. Des modèles multimodaux comme CLIP placent images et texte dans un espace vectoriel partagé, de sorte qu'une requête textuelle peut retrouver les images correspondantes. C'est ce qui rend possibles les fonctions de « recherche par description » et les outils de similarité d'images dans les produits IA modernes.
Comment mesure-t-on la similarité entre deux embeddings ?
La métrique la plus courante est la similarité cosinus, qui mesure l'angle entre deux vecteurs indépendamment de leur longueur. Un score proche de 1 indique des éléments quasi identiques en sens, tandis qu'un score proche de 0 indique qu'ils n'ont aucun rapport. La distance euclidienne et le produit scalaire sont aussi utilisés, selon le modèle et la base vectorielle.