Brittain 2.5 XS
ультракомпактная языковая модель для программирования
2 мин чтенияобновлено
Brittain 2.5 XS — это разговорная модель на 412M параметров от Brittain AI, обученная с нуля на собственном токенизаторе и датасете. Она создана для запуска на обычном ноутбуке и помощи в повседневных задачах по программированию на Python, JavaScript, TypeScript, Java, C# и SQL. Модель основана на архитектуре Qwen3 с контекстом на 16 384 токена и отлично справляется с написанием коротких функций и объяснением базовых концепций. Она пригодится разработчикам, которым нужен локальный помощник для простых задач прямо на устройстве.
Ключевые особенности
- 412M параметров с архитектурой Qwen3 и контекстом 16k токенов.
- Обучена с нуля на корпусе из 19.5B токенов (в основном код и технические тексты).
- Поддержка форматов GGUF для запуска через Ollama и llama.cpp.
- Прошла этапы претрейна, аннинга, SFT и обучения с подкреплением (GRPO).
Что можно сделать
- Писать небольшие функции и решать задачи по программированию локально через Python.
- Запустить модель в терминале с помощью Ollama для быстрых ответов по коду.
- Интегрировать модель в локальные сценарии разработки благодаря поддержке transformers.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
repo = "brittain-ai/Brittain-2.5-XS"
tok = AutoTokenizer.from_pretrained(repo)
model = AutoModelForCausalLM.from_pretrained(repo, dtype="auto")
messages = [{"role": "user", "content": "Write a Python function that checks if a number is prime."}]
ids = tok.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt")
out = model.generate(ids, max_new_tokens=1024)
print(tok.decode(out[0, ids.shape[1]:], skip_special_tokens=True))
Подробнее
Бенчмарки: HumanEval (complete) — 26.2, MBPP (complete) — 33.5.Доступны GGUF-версии: Q8_0 (440 MB) и BF16 (826 MB).
Ограничения: нет поддержки системных промптов, слабая кратковременная память, работает только на английском языке.
Лицензия: CC BY-NC 4.0 (только для исследований и личного использования).










Комментарии