Эмбеддинги как тип данных: векторы фиксированной длины, функция расстояния и требования к столбцу

Что это такое

Модель эмбеддингов отображает входные данные (текст, изображение, код) в вектор фиксированной длины. Сам по себе вектор не имеет смысла; он полезен потому, что расстояние между двумя векторами одной модели приближённо отражает сходство, на котором модель обучалась. Руководство scikit-learn по попарным метрикам определяет косинусное сходство как нормализованное скалярное произведение двух векторов. README pgvector наглядно показывает подход с точки зрения типа данных: столбец, объявленный как vector(3), имеет фиксированную размерность, запросы упорядочивают строки по оператору расстояния (среди них расстояние L2, отрицательное скалярное произведение и косинусное расстояние), а по умолчанию расширение выполняет точный поиск ближайших соседей со стопроцентной полнотой выдачи. Индекс HNSW или IVFFlat переключает его на приближённый поиск, который жертвует частью полноты ради скорости и может возвращать другие результаты.

Почему это важно

Команды хранят эмбеддинги как непрозрачные массивы чисел с плавающей точкой, а позже не могут сказать, какая модель их создала, сопоставимы ли две таблицы или почему после обновления модели упало качество поиска. Отношение к вектору как к типизированному значению с данными о происхождении позволяет избежать всех трёх проблем.

Как применять

• Храните рядом с каждым вектором или на уровне таблицы идентификатор и версию модели эмбеддингов, размерность, ожидаемую моделью функцию расстояния и все виды предварительной обработки входа (усечение, нормализация, разбиение на фрагменты).
• Никогда не сравнивайте векторы разных моделей или версий; обновление модели означает повторное построение эмбеддингов всего корпуса, в идеале в новом столбце или таблице с последующим переключением.
• Нормализуйте векторы, если модель ожидает косинусное сходство, а хранилище использует скалярное произведение, и документируйте, какой вариант применяется.
• Выбирайте точный или приближённый поиск в зависимости от размера корпуса и требований к полноте; при использовании приближённого индекса измеряйте полноту относительно точного поиска на выборке запросов.
• Сохраняйте исходные входные данные, породившие вектор, или ссылку на них, чтобы можно было повторно построить эмбеддинги и проводить отладку.

Подводные камни

Хранение векторов как текста JSON расходует место, теряет фиксированную размерность и не позволяет использовать векторный индекс. Столбец векторов без записанной версии модели становится непригодным после первого обновления. Оценки сходства не являются калиброванными вероятностями и не сопоставимы между моделями.