Qwen3-Reranker-4B
мультиязычный реранкер на 4B параметров
2 min readupdated
Модель оценивает релевантность пары «запрос — документ» и помогает точнее отсортировать результаты поиска. Она относится к серии Qwen3 Embedding, построена на базе плотной (dense) модели Qwen3-4B-Base (4.02B параметров, 36 слоёв) и работает с длинными фрагментами текста до 32k токенов. В отличие от обычных эмбеддинг-моделей, реранкер (модель переранжирования кандидатов после первичного поиска) принимает на вход сразу запрос и документ вместе с пользовательской инструкцией под конкретную задачу. Пригодится разработчикам поисковых движков, RAG-систем (поиска по базе знаний для ответов LLM) и инструментов навигации по коду.
Ключевые особенности
- Поддерживает более 100 языков, включая языки программирования, а также кросс-языковой поиск.
- Понимает пользовательские инструкции (Instruction Aware): добавление описания задачи под запрос повышает точность поиска на 1–5%.
- Работает с контекстом до 32k токенов, что позволяет оценивать длинные документы целиком.
- Легко комбинируется с эмбеддинг-моделями линейки Qwen3-Embedding (0.6B, 4B и 8B) в двухэтапном поиске.
Что можно сделать
- Встроить вторым этапом в RAG-пайплайн через
sentence_transformers,transformersилиvLLMдля пересортировки топ-кандидатов. - Построить поиск по технической документации и репозиториям с исходным кодом на нескольких языках.
- Задавать кастомные инструкции под классификацию или тематическую фильтрацию документов вместо стандартного веб-поиска.
Пример
from sentence_transformers import CrossEncoder
model = CrossEncoder("Qwen/Qwen3-Reranker-4B")
pairs = [("What is the capital of China?", "The capital of China is Beijing.")]
scores = model.predict(pairs)
print(scores)Подробнее
Метрики (поверх топ-100 от Qwen3-Embedding-0.6B): MTEB-R — 69.76, MMTEB-R — 72.74, MTEB-Code — 81.20, FollowIR — 14.84.Для запуска через transformers требуется версия >= 4.51.0, для vLLM — версия >= 0.8.5; рекомендуется FlashAttention 2.
Авторы советуют писать кастомные инструкции на английском языке, так как модель обучалась преимущественно на англоязычных инструкциях.










Comments