WINGMAN-OPENW.2.6-4B
компактная модель на 4B для кода и агентов
2 мин чтения
WINGMAN-OPENW.2.6-4B от Wingman LLC — это небольшая языковая модель на 4 миллиарда параметров, созданная для программирования, вызова функций и работы в составе ИИ-агентов. В репозитории выложена готовая 4-битная сборка в формате GGUF (сжатый формат для локального запуска через llama.cpp), которая помещается на обычное пользовательское железо. По заявленным авторами тестам модель заметно обходит более крупные решения вроде Qwen3.5-9B и Gemma4-12B в задачах разработки ПО, работе с протоколом MCP (Model Context Protocol — стандарт подключения инструментов к моделям) и веб-браузинге. Подойдёт разработчикам и энтузиастам, которым нужен быстрый локальный ассистент для написания кода и автоматизации действий.
Ключевые особенности
- Специализация на разработке: модель заточена под задачи программной инженерии и написание кода на локальном устройстве.
- Поддержка инструментов и MCP: умеет выполнять function calling (вызов внешних функций), работать с MCP-серверами и веб-поиском.
- Готовый GGUF-файл: доступна в 4-битной квантизации
Q4_1для запуска на GPU или только на CPU черезllama.cpp. - Открытая лицензия: распространяется под лицензией Apache-2.0, что допускает свободное использование в проектах.
Что можно сделать
- Локальный ассистент программиста: поднять OpenAI-совместимый API-сервер через
llama-serverи подключить его к редактору кода для генерации и разбора функций. - Автономный MCP-агент: встроить модель в пайплайны с подключением внешних утилит и MCP-инструментов для автоматизации рутинных задач.
- Агент для веб-браузинга: использовать для сценариев навигации по сайтам и сбора информации без отправки данных в облако.
Пример
# Запуск OpenAI-совместимого сервера через llama.cpp
llama-server -hf wingmanllc/WINGMAN-OPENW.2.6-4B:Q4_1 --jinja -ngl 99 -c 8192Подробнее
Бенчмарки (по данным карточки): SWE Pro — 54.3 (против 33.8 у Qwen3.5-9B), BFCL-V4 — 71.8, MCP-Atlas — 62.4, BrowseComp — 53.1, PAgentBench — 74.1.Требования и запуск: свежая сборка llama.cpp; для запуска только на CPU уберите флаг
-ngl 99, при нехватке памяти уменьшите контекст -c; обязательно указывайте --jinja для корректного шаблона чата.Ограничения: из-за размера 4B возможны фактические ошибки, сгенерированный код рекомендуется проверять перед запуском.










Комментарии