sid1-qwen3-4b
поисковый агент на базе Qwen3
2 мин чтенияобновлено
Модель sid1-qwen3-4b представляет собой специализированный файнтюн базовой модели Qwen/Qwen3-4B (4 миллиарда параметров), обученный с помощью обучения с подкреплением по методу GRPO. Модель не отвечает на вопросы напрямую, а выступает в роли поискового агента: она ищет нужные документы в базе с помощью семантического и ключевого поиска, совершает несколько шагов поиска и возвращает ранжированный список идентификаторов документов. Разработка основана на концепте SID-1 и адаптирована для работы с тремя датасетными бенчмарками.
Ключевые особенности
- Обучение с подкреплением (GRPO) без учителя, где наградой выступает метрика NDCG ранжированного списка документов.
- Использование четырех инструментов: семантический поиск, поиск по ключевым словам (BM25), чтение документа и финальный отчет.
- Повышенные показатели NDCG и полноты (recall) по сравнению с базовой моделью Qwen3-4B.
- Высокая доля корректных вызовов инструментов (99.9%) и завершения отчетом.
Что можно сделать
- Интегрировать модель в качестве поискового шага (retrieval step) в системы вопрос-ответ (QA) для сложных многошаговых запросов.
- Использовать демо-пространство на Hugging Face Spaces для тестирования агента и просмотра записанных запусков поиска.
- Изучать код обучающего цикла и референсного агента для собственных экспериментов с поисковыми агентами.
Пример
import json, re, torch
from transformers import AutoTokenizer, AutoModelForCausalLM
repo = "masterofaudio2077/sid1-qwen3-4b"
tok = AutoTokenizer.from_pretrained(repo)
model = AutoModelForCausalLM.from_pretrained(repo, dtype=torch.bfloat16, device_map="auto").eval()
SYSTEM_PROMPT = (
"You are a retrieval agent. You are given a question. Do not answer it. Find the documents in the collection that are needed to answer it "
"and report their ids, most relevant first."
)
msgs = [{"role": "system", "content": SYSTEM_PROMPT},
{"role": "user", "content": "When did the luxury division of the maker of the Toyopet Master change the RX 350 body style?"}]
prompt = tok.apply_chat_template(msgs, add_generation_prompt=True, enable_thinking=True, tokenize=False)
Подробнее
Бенчмарки: NDCG 0.684 (1 сэмпл), 0.729 (4 сэмпл-фьюжн)Требования к железу: пиковое потребление VRAM при обучении составляло 32.6 GiB
Ограничения: ранняя остановка на 175 шаге из запланированных 400, работает только с английским языком и конкретной схемой инструментов
Лицензия: Apache 2.0










Комментарии