Neuron-27B-Thinking
рассуждающая LLM на 27 млрд параметров с длинным контекстом
2 min readupdated
Neuron-27B-Thinking — большая языковая модель (LLM) от команды Neura Tech AI, ориентированная на пошаговые рассуждения и работу на множестве языков, включая русский. Она построена на базе семейства Qwen3.8 (в карточке также упоминается оптимизация от Qwen3-27B), имеет 27,32 млрд параметров и поддерживает контекстное окно до 262 тысяч токенов. От обычных диалоговых моделей она отличается нативным режимом размышлений с тегами , в которых фиксируется ход её мыслей перед финальным ответом. Модель подойдёт разработчикам и исследователям для задач, требующих сложной логики и анализа больших объёмов текста.
Ключевые особенности
- Режим рассуждений: поддерживает структурированный вывод мыслей в блоках
для прозрачного решения многошаговых задач. - Широкая мультиязычность: оптимизирована для работы с десятками языков, среди которых русский, английский, китайский, хинди, арабский и европейские языки.
- Большой контекст: окно в 262K токенов позволяет загружать в один запрос длинные документы или сложные многоуровневые инструкции.
- Совместимость: использует формат ChatML и поставляется в точности BF16 под открытой лицензией Apache-2.0.
Что можно сделать
- Решать комплексные логические, математические и многошаговые задачи с проверкой цепочки рассуждений модели.
- Генерировать структурированные технические тексты, подробные объяснения и документацию на русском и других языках.
- Встраивать модель в ассистентов и пайплайны через библиотеку
transformersдля точного следования сложным инструкциям.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
model_id = "Neura-Tech-AI/Neuron-27B-Thinking"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.bfloat16, device_map="auto")
inputs = tokenizer.apply_chat_template([{"role": "user", "content": "Who are you?"}], tokenize=True, add_generation_prompt=True, return_tensors="pt").to(model.device)
print(tokenizer.decode(model.generate(inputs, max_new_tokens=512)[0][inputs.shape[-1]:], skip_special_tokens=True))
Подробнее
Архитектура: Causal Language Model на базе Qwen3.8-27B (27,32B параметров)Контекстное окно: 262K токенов, формат диалогов ChatML
Точность весов: BF16 (Bfloat16)
Лицензия: Apache-2.0 (с соблюдением условий оригинальной лицензии Qwen)










Comments