Kanata-S1-3B
компактная агентская LLM для кода на базе Granite 4.1
2 мин чтения
Команда K-Ai (Kortex AI) выпустила компактную языковую модель на 3,4 млрд параметров, заточенную под программирование и работу в роли ИИ-агента. В основе лежит ibm-granite/granite-4.1-3b-base, дообученная методом SFT (контролируемое дообучение на примерах) с использованием QLoRA (квантованный адаптер для экономии памяти при обучении). В отличие от базовой версии, модель научили вызывать внешние инструменты (tool calling), строить пошаговые планы и работать сразу с тремя языками: английским, японским и индонезийским. Подойдёт разработчикам, которым нужна лёгкая локальная модель для экспериментов с агентскими пайплайнами и генерацией кода.
Ключевые особенности
- Программирование и отладка: фокусируется на Python, JavaScript и TypeScript, а часть обучающих задач проверялась через юнит-тесты прямо при генерации датасета.
- Агентские сценарии: обучена на синтетических диалогах с реальным выполнением Python-кода, включая исправление багов, рефакторинг, исследование репозитория и честный отчёт при сбое инструмента.
- Вызов инструментов: использует формат чата Granite с тегами ролей и вызывает функции в стиле Hermes через конструкцию
. - Открытая лицензия: модель распространяется под лицензией Apache-2.0, при этом авторы рекомендуют отдельно проверить лицензии исходных датасетов перед коммерческим использованием.
Что можно сделать
- Встроить в локального ИИ-агента или скрипт на Python для автоматического рефакторинга, поиска багов и запуска тестов через внешнюю среду исполнения.
- Использовать как лёгкий кодинг-ассистент для генерации функций на Python, JS и TS на английском, японском или индонезийском языках.
- Взять за основу для дальнейшего дообучения под свои агентские задачи с помощью библиотеки
transformers.
Пример
import torch
from transformers import AutoTokenizer, AutoModelForCausalLM
tok = AutoTokenizer.from_pretrained("Keanualfahd/Kanata-S1-3B")
model = AutoModelForCausalLM.from_pretrained("K-Ai-Official/Kanata-S1-3B", torch_dtype="auto", device_map="auto")
prompt = "<|start_of_role|>user<|end_of_role|>Write a Python function to reverse a string<|end_of_text|>\n<|start_of_role|>assistant<|end_of_role|>"
ids = tok(prompt, return_tensors='pt', add_special_tokens=False).to(model.device)
out = model.generate(**ids, max_new_tokens=300, eos_token_id=tok.convert_tokens_to_ids("<|end_of_text|>"))
Подробнее
Внутренний мини-тест кода: 5 из 6 пройденных задач на Python (EN/ID/JA).Тест tool calling на малой выборке (n=4 на язык): 25% валидных вызовов на EN и ID, 0% на JA — модель экспериментальная и может ошибаться в формате инструментов.
Обучение: QLoRA 4-bit NF4 (rank 32), длина контекста 1280, 2476 примеров, 45,9 минут на NVIDIA T4.
Индонезийский язык официально не поддерживается базовой Granite и не проходил глубокого тестирования.










Комментарии