OnyX-9B
агентная модель для работы с терминалом и тулзами
2 мин чтения
OnyX-9B от компании Ajelix — это агентная языковая модель на 9.47 миллиарда параметров, созданная на базе Qwen3.5-9B. Она обучена для многошаговых сессий с использованием инструментов и терминала, включая рассуждения, вызов функций, анализ ответа и повторные действия. Модель сохраняет способность отвечать на прямые вопросы коротко и поддерживает нативный контекст до 262 тысяч токенов. Она пригодится разработчикам и инженерам для автоматизации задач в терминале, отладки кода и работы с репозиториями.
Ключевые особенности
- Базируется на архитектуре Qwen3.5-9B с сохранением встроенного визуального энкодера.
- Обучена для взаимодействия через вызовы bash-команд и генерацию разметки рассуждений.
- Поддерживает нативную работу с инструментами по стандарту чат-шаблонов Qwen.
- Распространяется в виде объединенного чекпоинта для Transformers и vLLM, а также в виде отдельного PEFT-адаптера (LoRA, небольшая надстройка над базовой моделью).
Что можно сделать
- Запустить локально через Transformers для выполнения текстовых запросов и работы со скриптами.
- Развернуть бэкенд модели с помощью vLLM для высокопроизводительной генерации.
- Использовать PEFT-адаптер поверх базовой модели Qwen/Qwen3.5-9B.
- Интегрировать модель в конвейеры автоматизации системного администрирования и отладки.
Пример
from transformers import AutoTokenizer, AutoModelForCausalLM
model_id = "AjelixAI/Onyx-9B"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, dtype="bfloat16", device_map="auto")
tools = [{
"type": "function",
"function": {
"name": "bash",
"description": "Run shell commands in the container and return terminal output.",
"parameters": {
"type": "object",
"properties": {
"command": {
"type": "string"
},
"required": ["command"],
},
},
},
}]
messages = [{"role": "user", "content": "List the files in /app."}]
text = tokenizer.apply_chat_template(
messages, tools=tools, tokenize=False, add_generation_prompt=True, enable_thinking=True
)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
out = model.generate(**inputs, max_new_tokens=1024, do_sample=False)
print(tokenizer.decode(out[0, inputs["input_ids"].shape[1]:], skip_special_tokens=True))
Подробнее
Бенчмарки: официальные результаты пока не опубликованы.Требования к железу: объединенный чекпоинт весит 18.8 ГБ (требуется поддержка bfloat16).
Ограничения: обучена преимущественно на инструменте bash, безопасность выполнения деструктивных команд не проверялась.
Лицензия: Apache-2.0.










Комментарии