LoCo-7B

LoCo-7B — reasoning-compressed версия DeepSeek-R1-Distill-Qwen-7B от MuyaoYuan. Модель на 7.62B параметров локально находит состояния overthinking в chain of thought и заменяет их более короткими проверенными продолжениями. Через DPO на парах, обусловленных состоянием, она учится вовремя останавливать рассуждение.

👀 Ключевые особенности

• 👉 Сжимает chain of thought самой модели: определяет overthinking и использует короткие verified continuations из тех же состояний.
• 💪 Обучение через DPO на state-conditioned парах — модель учится, когда прекращать «думать».
• 👀 На математике длина completion снижается на 41.7–45.4%, на коде — на 23.4–36.3%.
• 😌 Точность сохраняется или улучшается по данным карточки.
• 🐱 База — DeepSeek-R1-Distill-Qwen-7B, 7.62B параметров, лицензия MIT.

😉 Пример

from vllm import LLM, SamplingParams

model = LLM(model="MuyaoYuan/LoCo-7B", max_model_len=36864, dtype="bfloat16")
tok = model.get_tokenizer()
prompt = tok.apply_chat_template([{"role": "user", "content": "Your math problem here. Please reason step by step."}], tokenize=False, add_generation_prompt=True)
out = model.generate([prompt], SamplingParams(temperature=0.6, top_p=0.95, max_tokens=32768))
print(out[0].outputs[0].text)

Подробнее

Сокращение длины ответа: 41.7–45.4% на математике и 23.4–36.3% на коде.
По карточке точность сохраняется или улучшается.
Запуск: vLLM, max_model_len=36864, dtype=bfloat16, max_tokens=32768.
Лицензия MIT; код данных, обучения и оценки — в GitHub-репозитории.