Temper-2-Sapient
сильная 7B-модель для кода на Rust с поддержкой русского
2 min readupdated
Старшая модель в линейке Temper 2 от maylore-ai, созданная специально для написания кода на языке Rust. Она построена на базе Qwen2.5-Coder-7B-Instruct (7.62B параметров) и дообучена на синтетических задачах, прошедших проверку компилятором и тестами. В профильных бенчмарках по Rust модель обходит открытые аналоги размером до 14B параметров включительно. Понимает запросы на русском и английском языках, поэтому подойдёт разработчикам для локального ассистирования.
Ключевые особенности
- Лидерство среди компактных моделей: на бенчмарках HumanEval-RS и MBPP-RS обходит
Qwen2.5-Coder-14B-Instruct,Qwen3.5-9BиSeed-Coder-8B-Instruct. - Глубокое покрытие Rust: обучалась на задачах с лайфтаймами, трейтами, ассоциированными типами, многопоточностью,
async/await, макросами и обработкой ошибок. - Двуязычность: принимает инструкции и описания задач на русском и английском языках.
- Готовность к локальному запуску: помимо весов для
transformers, доступна GGUF-версия дляllama.cpp, LM Studio и Ollama.
Что можно сделать
- Развернуть локально в Ollama или LM Studio как специализированного чат-помощника для генерации и отладки Rust-кода.
- Использовать для написания модулей работы с сетью, файлами, базами данных и парсинга форматов по ТЗ на русском языке.
- Встроить в пайплайны автоматической генерации и тестирования кода благодаря лицензии Apache 2.0.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
name = "maylore-ai/Temper-2-Sapient"
tokenizer = AutoTokenizer.from_pretrained(name)
model = AutoModelForCausalLM.from_pretrained(name, dtype="auto", device_map="auto")
messages = [{"role": "user", "content": "Write a Rust function that returns the n-th Fibonacci number."}]
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_dict=True, return_tensors="pt").to(model.device)
out = model.generate(**inputs, max_new_tokens=1000)
Подробнее
Бенчмарки (pass@1 / pass@10): HumanEval-RS — 83.3% / 87.2% (против 72.4% у базовой модели), MBPP-RS — 73.7% / 77.7%, Temper Bench v2 — 52.0%.Обучение: датасет очищен от пересечений с тестовыми наборами по тексту и смыслу; рекомендуемая температура генерации — 0.2.
Ограничения: не обучена для fill-in-the-middle (автодополнение внутри строки в IDE) и уступает более крупным моделям в живом диалоге.










Comments