LumenSearch Reranker v2
новый кросс-энкодер для поисковых систем
2 мин чтения
Модель LumenSearch Reranker v2 представляет собой второе поколение кросс-энкодер (модель для оценки релевантности пары запрос-документ) реранкера, созданного для поискового стека LumenSearch. Она пересчитывает оценки лучших кандидатов, полученных на первом этапе поиска, помогая точнее ранжировать результаты. Модель построена на базе encoder-архитектуры lumen-ai/lumen-encoder-base-110m и обучена на англоязычных поисковых запросах. Она отличается улучшенными метриками качества по сравнению с первой версией и пригодится разработчикам поисковых систем и систем поиска информации.
Ключевые особенности
- Построена на базе модели
lumen-ai/lumen-encoder-base-110mс использованием библиотеки sentence-transformers. - Улучшенные метрики качества на фиксированном наборе данных
heldout_v2по сравнению с v1. - Предназначена для оценки коротких веб-фрагментов размером до 512 токенов.
- Выдает оценку релевантности для повторного упорядочивания списка кандидатов.
Что можно сделать
- Интегрировать модель в поисковый пайплайн для улучшения ранжирования результатов на втором этапе.
- Использовать для пересчета релевантности документов в поисковых запросах на английском языке.
- Применять в кастомных системах поиска и извлечения информации (RAG-пайплайнах).
Пример
Модель используется для оценки пары «запрос — документ» и выдает числовую оценку релевантности. Подробнее о запуске через библиотеку sentence-transformers смотрите в документации репозитория.
Подробнее
Бенчмарки на heldout_v2: nDCG@10 составляет 0.731 (прирост +0.029), MRR@10 — 0.688 (прирост +0.027), Recall@50 — 0.874 (прирост +0.025), MAP@10 — 0.641 (прирост +0.034).Ограничения: не обучена для суммаризации длинных документов, ответов на вопросы по таблицам и мультиязычного поиска.
Не является самостоятельной поисковой моделью и не имеет собственного индекса документов.










Комментарии