BotPsy-0.8B
маленький агент для вызова инструментов
1 мин чтенияобновлено
BotPsy-0.8B — компактная LLM на 0.8B параметров от Tether AI Research для function calling и агентных сценариев. Построена на Qwen3.5-0.8B, сохраняет архитектуру Qwen3.5 и рассчитана на запуск на устройстве. Лучше всего подходит для простых и средних задач: календарь, почта, поиск, файлы, управление устройством.
Ключевые особенности
- Примерно вдвое обгоняет базовую Qwen3.5-0.8B-Think на агентных бенчмарках: BFCL v4 44.0, ACEBench 58.7, τ-bench 51.5.
- Лучший результат среди протестированных моделей до 1.2B на всех шести tool-use бенчмарках.
- Умеет не вызывать инструмент, когда подходящего нет: BFCL v4 hallucination — 86.1.
- Следование инструкциям выросло: IFEval 90.8, IFBench 55.9.
- Есть BF16 safetensors и GGUF BF16/Q8_0/Q4_K_M для llama.cpp и QVAC SDK.
Пример
vllm serve qvac/BotPsy-0.8B --language-model-only --enable-auto-tool-choice --tool-call-parser qwen3_xml --reasoning-parser qwen3
Подробнее
BFCL v4: 44.0 против 23.4 у базы; ACEBench: 58.7 против 30.1; τ-bench: 51.5 против 23.2.Thinking включается через
enable_thinking=True; есть GGUF BF16, Q8_0 и Q4_K_M.Обучение: SFT, multi-teacher on-policy distillation и два раунда RL.
Основной язык — английский; на русском и хинди качество заметно ниже. Не для safety-critical и решений с деньгами или персданными.










Комментарии