Prospector-4B

Prospector-4B — крупнейшая из трёх policy в статье Prospector: компактная LLM, посттренированная отвечать на вопросы по научному графу знаний. Она проходит по графу с помощью инструментов, по одному вызову за шаг, и отвечает цепочкой рёбер, которая сверяется с тем, что вернули инструменты. В основе — Qwen3.5-4B; в репозитории лежит один чекпойнт на 4,66 млрд параметров с тремя слитыми LoRA-адаптерами.

⚙ Ключевые особенности

• 🔧 Инструментальный обход: модель делает один tool call за шаг и использует ответ инструмента для следующего.
• 📚 Обучена на графе, построенном по литературе о полупроводниковом производстве.
• 🔄 С замороженными весами переносится на графы из трёх других областей.
• 💎 Три LoRA-адаптера уже merged в языковую модель; чекпойнт сохраняет layout Qwen3.5-4B.
• ⚠ Без harness модель пишет один tool call и останавливается — нужен цикл с инструментами.

🖥 Пример

git clone https://github.com/lamm-mit/Prospector && cd Prospector
uvx --from huggingface_hub hf download lamm-mit/Prospector --local-dir . --include 'data/raw/*'
uvx --from huggingface_hub hf download lamm-mit/Prospector-4B example.py --local-dir .
python example.py

Подробнее

Параметров: 4,66 млрд; база — Qwen3.5-4B; три LoRA-адаптера слиты в один чекпойнт.
Первый запуск скачивает около 9 ГБ; протокол статьи — 20 tool calls, 1024 токена на ход, greedy.
Обучение — на одном графе по полупроводниковому производству; перенос проверен на графах ещё трёх областей.
Ограничение: без harness модель не ведёт многошаговый диалог с инструментами.