Les embeddings comme type de données : vecteurs de longueur fixe, fonction de distance, et ce dont une colonne de vecteurs a besoin

Ce que c'est

Un modèle d'embedding fait correspondre une entrée (texte, image, code) à un vecteur de longueur fixe. Le vecteur n'a pas de sens en lui-même ; il est utile parce que la distance entre deux vecteurs issus du même modèle approche une similarité pour laquelle le modèle a été entraîné. Le guide des métriques par paires de scikit-learn définit la similarité cosinus comme le produit scalaire normalisé de deux vecteurs. Le README de pgvector illustre concrètement la vision « type de données » : une colonne déclarée vector(3) a une dimension fixe, les requêtes ordonnent les lignes selon un opérateur de distance (parmi eux la distance L2, le produit scalaire négatif et la distance cosinus), et par défaut l'extension effectue une recherche exacte du plus proche voisin avec un rappel parfait, tandis qu'un index HNSW ou IVFFlat bascule vers une recherche approximative qui échange une part de rappel contre de la vitesse et peut renvoyer des résultats différents.

Pourquoi c'est important

Les équipes stockent les embeddings sous forme de tableaux de flottants opaques et ne peuvent plus dire ensuite quel modèle les a produits, si deux tables sont comparables, ou pourquoi la qualité de recherche a chuté après une mise à niveau de modèle. Traiter le vecteur comme une valeur typée avec sa provenance évite ces trois problèmes.

Comment l'appliquer

• Stocker à côté de chaque vecteur, ou par table, l'identifiant et la version du modèle d'embedding, la dimension, la fonction de distance attendue par le modèle, et tout prétraitement (troncature, normalisation, découpage) appliqué à l'entrée.
• Ne jamais comparer des vecteurs issus de modèles ou de versions différents ; une mise à niveau de modèle est un ré-embedding de tout le corpus, idéalement dans une nouvelle colonne ou table avec une bascule contrôlée.
• Normaliser les vecteurs si le modèle attend une similarité cosinus et que le stockage utilise le produit scalaire, et documenter lequel est utilisé.
• Décider entre recherche exacte et approximative selon la taille du corpus et l'exigence de rappel ; en cas d'index approximatif, mesurer le rappel face à la recherche exacte sur un échantillon de requêtes.
• Conserver l'entrée d'origine (ou une référence à celle-ci) qui a produit le vecteur, afin que le ré-embedding et le débogage restent possibles.

Pièges

Stocker les vecteurs en texte JSON coûte de l'espace, perd la dimension fixe et ne peut pas utiliser d'index vectoriel. Une colonne de vecteurs sans version de modèle consignée devient inutilisable après la première mise à niveau. Les scores de similarité ne sont pas des probabilités calibrées et ne sont pas comparables d'un modèle à l'autre.