Slonik

Slonik — семейство LLM от Postgres Professional для агентного кодинга: исследования кода, генерации патчей и отладки. Доступны Slonik-27B и Slonik-9B в BF16; модели обучены на разработке движка PostgreSQL и сохраняют архитектуру qwen3_5. Лицензия Apache 2.0.

🔤 Ключевые особенности

• ➖ Два размера: 27B на базе Qwen3.8-27B и 9B на базе Qwen3.5-9B; это разные семейства бэкбонов.
• ➖ Тренировка включает continued pretraining, SFT на 725 агентных диалогах и RL DAPO на 494 задачах.
• ➖ Среда обучения — PostgreSQL: source-level repair, встроенные C-функции и расширения с executable feedback.
• ➖ Запуск через Transformers 5.9.0 или vLLM с tool-calling; есть chat template и токенизатор.
• ➖ Оценка переноса: PG17, PG18, Apache AGE, SWE-bench Verified subset и Terminal-Bench 2.0 subset.

➕ Пример

import torch
from transformers import AutoTokenizer, AutoModelForImageTextToText
mid, sub = 'dglhf/Slonik', '27B'
tok = AutoTokenizer.from_pretrained(mid, subfolder=sub)
model = AutoModelForImageTextToText.from_pretrained(mid, subfolder=sub, dtype=torch.bfloat16, device_map='auto')
msgs = [{'role': 'user', 'content': 'Explain PostgreSQL MVCC visibility.'}]
prompt = tok.apply_chat_template(msgs, tokenize=False, add_generation_prompt=True, enable_thinking=False)
out = model.generate(**tok(prompt, return_tensors='pt').to(model.device), max_new_tokens=512)

Подробнее

PG17: 55,6% pass@1 у Slonik-27B; SWE-bench Verified subset: 73,3%.
27B прошёл около 54 часов RL на 8× NVIDIA H200; веса — BF16.
PG17 использовали для отбора модели, поэтому перенос проверяли отдельно; успех в тестах не равен готовности к production-правкам БД.