Embeddings als Datentyp: Vektoren fester Länge, eine Distanzfunktion und was eine Spalte davon braucht

Worum es geht

Ein Embedding-Modell bildet eine Eingabe (Text, Bild, Code) auf einen Vektor fester Länge ab. Der Vektor hat für sich genommen keine Bedeutung; er ist nützlich, weil die Distanz zwischen zwei Vektoren desselben Modells eine Ähnlichkeit annähert, auf die das Modell trainiert wurde. Der scikit-learn-Leitfaden zu paarweisen Metriken definiert Kosinus-Ähnlichkeit als das normalisierte Skalarprodukt zweier Vektoren. Das pgvector-README zeigt die Sichtweise als Datentyp konkret: Eine als vector(3) deklarierte Spalte hat eine feste Dimension, Abfragen ordnen Zeilen nach einem Distanzoperator (darunter L2-Distanz, negatives inneres Produkt und Kosinus-Distanz), und standardmässig führt die Erweiterung eine exakte Nächste-Nachbarn-Suche mit perfektem Recall durch, während ein HNSW- oder IVFFlat-Index zu einer approximierten Suche wechselt, die etwas Recall gegen Geschwindigkeit eintauscht und andere Ergebnisse liefern kann.

Warum es wichtig ist

Teams speichern Embeddings als undurchsichtige Fliesskomma-Arrays und können später nicht mehr sagen, welches Modell sie erzeugt hat, ob zwei Tabellen vergleichbar sind, oder warum die Suchqualität nach einem Modell-Upgrade gesunken ist. Den Vektor als typisierten Wert mit Herkunftsangabe zu behandeln, vermeidet alle drei Probleme.

So wird es angewendet

• Neben jedem Vektor oder pro Tabelle den Bezeichner und die Version des Embedding-Modells, die Dimension, die vom Modell erwartete Distanzfunktion und jede auf die Eingabe angewandte Vorverarbeitung (Kürzung, Normalisierung, Chunking) speichern.
• Nie Vektoren aus unterschiedlichen Modellen oder Versionen vergleichen; ein Modell-Upgrade ist ein erneutes Einbetten des gesamten Korpus, idealerweise in eine neue Spalte oder Tabelle mit einem Umschaltzeitpunkt.
• Vektoren normalisieren, wenn das Modell Kosinus-Ähnlichkeit erwartet, der Speicher aber das Skalarprodukt verwendet, und dokumentieren, welches davon verwendet wird.
• Exakte versus approximierte Suche anhand der Korpusgrösse und der Recall-Anforderung entscheiden; bei Verwendung eines approximierten Index den Recall an einer Stichprobe von Abfragen gegen die exakte Suche messen.
• Die ursprüngliche Eingabe (oder eine Referenz darauf), die den Vektor erzeugt hat, aufbewahren, damit erneutes Einbetten und Debugging möglich sind.

Stolpersteine

Vektoren als JSON-Text zu speichern kostet Platz, verliert die feste Dimension und kann keinen Vektorindex nutzen. Eine Vektorspalte ohne erfasste Modellversion ist nach dem ersten Upgrade unbrauchbar. Ähnlichkeits-Scores sind keine kalibrierten Wahrscheinlichkeiten und sind über Modelle hinweg nicht vergleichbar.