Minico M1 1105

Minico M1 1105 — полный релиз Minico M1, файнтюн LiquidAI/LFM2.5-350M на 350M параметров. Это одна из первых reasoning-моделей меньше 400M с пятью уровнями усилия: off, low, medium, high, max. Доступны GGUF, MLX и ONNX-сборки.

➕ Ключевые особенности

• 1⃣ Пять уровней reasoning: off, low, medium, high, max; уровень задаётся через chat template.
• 2⃣ «Думает один раз»: рассуждение закрывается </think>, затем идёт один ответ; loop rate 0% против 18.8% у Preview.
• 3⃣ Лидирует среди протестированных sub-400M по среднему: 49.8; у LFM2.5 350M base — 47.0.
• 4⃣ Tool calling: 100% корректных вызовов в тесте, у base LFM2.5-350M — 54.8%.
• 5⃣ Запускается на ноутбуке: ~229 MB в Q4_K_M и 371 tokens/s на fanless MacBook Air с llama.cpp.

🟰 Пример

from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "Mincofficial/Minico-M1-1105"
tok = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, dtype="auto")
messages = [{"role": "user", "content": "What is 5 + 5 x 5?"}]
inputs = tok.apply_chat_template(messages, add_generation_prompt=True, reasoning_effort="low", return_tensors="pt", return_dict=True)
out = model.generate(**inputs, max_new_tokens=640)
print(tok.decode(out[0][inputs["input_ids"].shape[1]:], skip_special_tokens=False))

Подробнее

Бенчмарки: средний 49.8; IFEval 72.5, MMLU-Pro 18.8, Multi-turn 99; GSM8K 39.8. У Preview средний был 33.8.
Железо: ~229 MB в Q4_K_M; 371 tokens/s на fanless MacBook Air с llama.cpp. Обучение шло локально на 32 GB MacBook Air с MLX.
Ограничения: 350M ошибается в фактах и сложной математике; thinking пока не повышает GSM8K выше off (37 против 39.8); тестировался только английский; с доступными tools иногда вызывает их без необходимости.
Лицензия: LFM Open License v1.0; коммерческое использование разрешено организациям ниже порога выручки из лицензии.