Octopus-Qwen3.5-4B

Octopus-Qwen3.5-4B — Rank-64 LoRA-адаптер (v45, 1 эпоха recursive DAG-GRPO) от Tommysha для исследовательского проекта Octopus. Базовая модель — Qwen/Qwen3.5-4B с 24 слоями Gated DeltaNet и 8 слоями Gated Full-Attention. Адаптер управляет многоветочными multi-agent эпизодами через radix DAG и примитивы fork, rewind, read_thread, wait и done.

⚡ Ключевые особенности

• 🧩 LoRA с r=64 и alpha=64 покрывает 10 линейных проекций: attention, SwiGLU MLP и Gated DeltaNet.
• 🏆 На BrowseComp-Plus (830 запросов, sparse BM25) — 49.6%: +17.5 пункта к single-agent GRPO (32.1%) и +23.6 к 32K ReAct (26.0%).
• ⚡ Отключение fork на тех же весах роняет paired accuracy с 50.8% до 29.1% (−21.7), то есть прирост даёт именно живое multi-agent исполнение.
• 🧊 read_thread монтирует KV только в 8 full-attention слоёв: сохраняет 92.2% информации ответа, снижает cross-branch hijacking в 21 раз (57.9% → 2.7%) и не добавляет KV-страниц.
• 🌐 На OpenResearcher validation (500 запросов) — 51.2% при D_max=1 и 46.6% при D_max=inf (57.2% на completed trees).
• ⚙ Обучение — только бинарные 0/1 outcome rewards и sparse BM25, без process shaping.

💡 Пример

Запуск через SGLang после применения патчей Octopus:

python3 -m sglang.launch_server \
  --model-path Qwen/Qwen3.5-4B \
  --lora-paths octopus-v45=Tommysha/Octopus-Qwen3.5-4B \
  --max-lora-rank 64 \
  --lora-target-modules all \
  --disable-radix-cache false

Подробнее

BrowseComp-Plus: 49.6% на 830 запросах, +17.5 к single-agent GRPO и +23.6 к 32K ReAct.
OpenResearcher val: 51.2% при D_max=1, 46.6% при D_max=inf.
Нужны runtime Octopus и патчи SGLang; VRAM в карточке не указан.
Обучение: 1 эпоха recursive DAG-GRPO, бинарные rewards, sparse BM25.