К содержимому
Другое

LFM2.5-24B-A2B-opencode

адаптер для агента OpenCode с экономией вызовов

2 мин чтения

LFM2.5-24B-A2B-opencode от команды harness-hub — это LoRA-адаптер (компактная надстройка над базовой нейросетью) для модели LiquidAI/LFM2.5-24B-A2B, обученный с помощью RL (обучения с подкреплением) для работы внутри кодинг-агента OpenCode. В ходе тренировки модель запускали в изолированной песочнице с реальными файлами: она читала условие, писала код на Python или shell-команды, а верификатор оценивал точность ответа и поощрял за экономию действий. В итоге адаптер справляется с задачами по анализу данных на том же уровне точности, что и базовая модель, но тратит на 30% меньше вызовов инструментов. Разработка пригодится тем, кто разворачивает локальных ИИ-агентов для автоматизации работы с таблицами и данными.

Ключевые особенности

  • На 30% меньше вызовов инструментов: на задачах анализа данных адаптер достигает цели за заметно меньшее число итераций, что ускоряет работу агента.
  • Обучение в реальной среде: тренировка проходила через асинхронный GRPO в TRL на полных сессиях OpenCode в песочницах Hugging Face с проверкой безопасности вызовов через safeagents.
  • Готовность к локальному запуску: адаптер легко подключается к базовой модели через vLLM, а также доступна его GGUF-версия для llama.cpp.
  • Честная оценка с ограничениями: автор открыто отмечает, что прирост подтверждён именно в связке с OpenCode и на задачах анализа данных, тогда как на сложных репозиториях из traj2envs результат остаётся на уровне базы.

Что можно сделать

  • Подключить адаптер к локальному OpenCode через vLLM или llama.cpp, чтобы автоматизировать анализ CSV-таблиц и локальных наборов данных.
  • Использовать конфигурацию обучения из примера async_grpo_harbor в библиотеке TRL как шаблон для дообучения собственных моделей под агентские задачи.

Пример

vllm serve LiquidAI/LFM2.5-24B-A2B \
    --enable-lora --max-lora-rank 32 \
    --lora-modules lfm2.5-harbor-opencode=harness-hub/LFM2.5-24B-A2B-opencode \
    --enable-auto-tool-choice --tool-call-parser lfm2 --reasoning-parser qwen3 \
    --max-model-len 131072
ПодробнееБенчмарк SmolDataEnvs (150 задач): 84.0% против 82.7% у базовой модели (+1.3 ± 4.5 п.п.) при снижении числа вызовов инструментов на 30%.
Бенчмарк traj2envs (40 сложных задач по репозиториям): 20.0% против 25.0% у базы (-5.0 ± 13.9 п.п., в пределах погрешности).
Детали обучения: шаг 160 из 200, AsyncGRPO, LoRA (r=32, alpha=64, все линейные слои), контекст до 131 072 токенов, обучение на 4× NVIDIA H200.
Ограничения: заточен строго под промпты и инструменты OpenCode; в других агентах качество может оказаться на уровне базы или ниже.
Обсудить 1 5

Запустится ли?

Запустится в 4-bit

Полная точность не влезет, но сжатая версия поместится — качество почти не страдает до 8 бит, заметнее на 4 битах.

  • BF16веса 45 GB · готовые файлы50 GB
  • FP8 / INT8рекомендуемвеса 22 GB25 GB
  • 4-bitвеса 13 GB14 GB

Совет: берите 8-bit.FP8 / INT8 почти не отличается по качеству от полной точности (разница в пределах процента), а памяти занимает вдвое меньше и на RTX 40/50, H100 работает быстрее. Полную точность есть смысл брать только для дообучения.

Это LoRA: вместе с базовой моделью LFM2.5-24B-A2B.

Оценка: веса плюс рабочая память. Длинные ролики, высокое разрешение и большой контекст требуют больше.

Запуск на Massed Compute

Скрипт скачает модель на арендованную машину. Как её запустить — в карточке модели.

  1. 1. Арендуйте машину с подходящей видеокартой

    Открыть Massed Compute
  2. 2. Вставьте скрипт в терминал машины

    Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.

    HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.

    # harness-hub/LFM2.5-24B-A2B-opencode
    # ===== Токены: вставьте свои между кавычками =====
    export HF_TOKEN=""        # huggingface.co/settings/tokens — для закрытых моделей
    # ==========================================
    mkdir -p ~/models
    curl -LsSf https://astral.sh/uv/install.sh | sh
    source "$HOME/.local/bin/env"
    uv tool install "huggingface_hub[cli]"
    hf download LiquidAI/LFM2.5-24B-A2B --local-dir ~/models/LFM2.5-24B-A2B
    hf download harness-hub/LFM2.5-24B-A2B-opencode --local-dir ~/models/LFM2.5-24B-A2B-opencode
    # Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).
    Добавить ещё LoRA к LFM2.5-24B-A2B
  3. 3. Пользуйтесь

    Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).

Не забудьте остановить машину в панели, когда закончите: оплата идёт поминутно, пока она включена.

Как ускорить

Подобрано под тип модели. Выберите своё железо в блоке выше — покажем то, что подходит именно вам.

  • FlashAttention 44.0.0b40от 18 ноября 2026новая версия

    самое быстрое точное внимание на B200

    Ядра для Blackwell (пока бета). Точное внимание без квантования — подходит для всего, включая LLM.

    Как включить: pip install flash-attn-4; vLLM и SGLang подхватывают сами.

    Предыдущие поколения (2)
    • FlashAttention 3 — Версия для Hopper (H100/H200) с FP8.
    • FlashAttention 2 — Стандарт для RTX 30/40/50 и A100: точное внимание без лишней памяти на длинных контекстах.
  • torch.compile2.15.0от 28 октября 2026новая версия

    10–30% бесплатно

    Компилирует модель под вашу видеокарту. Первый запуск дольше, дальше быстрее.

    Как включить: model = torch.compile(model); в ComfyUI — узел TorchCompileModel.

Семья модели

Нужна базовая модель

LiquidAI/LFM2.5-24B-A2B

Эта модель — LoRA / адаптер. Сначала скачайте базовую модель, затем подключите к ней эту.

  1. LFM2.5-24B-A2B-Baseоснова семьи
  2. LFM2.5-24B-A2B
  3. LFM2.5-24B-A2B-opencode

Новые посты про версии LFM2.5-24B-A2B-Base — сжатые, дообучения, LoRA — появятся в колокольчике.

Дообучения 5Все на Hugging Face

О модели

harness-hub/LFM2.5-24B-A2B-opencode
Автор
harness-hub
Категория
Другое
Дата выхода
На сайте

На сайте

Hugging Face

51

Спросить нейросеть об этой модели

Отвечает Gemini 4 · переписка хранится только в этой вкладке

Комментарии