Gomoku

Это специализированная модель для гомоку на базе LlamaForCausalLM. Она получает полное состояние доски и генерирует координату хода; всего 10 809 984 параметра в F32 без квантизации. Поддерживает Transformers и нативный Ollama, но не является универсальным чат-ботом или шахматной моделью.

⌨ Ключевые особенности

• 🤓 3 слоя, hidden 128, 4 головы внимания, FFN 2048, контекст 2048 токенов.
• ⌨ В комплекте веса safetensors, GGUF F32, Modelfile для Ollama и терминальный клиент.
• 👍 На тесте Dense даёт 153/224 целевых попаданий и 222/224 легальных хода.
• 🏃‍♂ Dense против MoE: 9–7 в прямых партиях; медиана в Ollama — 174 мс против 104 мс.
• 🙅‍♂ Модель не вызывает движок, не ищет и не фильтрует нелегальные ходы — ошибки возможны.

⌨ Пример

from transformers import AutoModelForCausalLM, AutoTokenizer
from pointer_protocol import messages

tok = AutoTokenizer.from_pretrained('.', local_files_only=True)
model = AutoModelForCausalLM.from_pretrained('.', local_files_only=True).eval()
prompt = tok.apply_chat_template(messages([0] * 225), tokenize=False, add_generation_prompt=True)
inputs = tok(prompt, add_special_tokens=False, return_tensors='pt')
out = model.generate(**inputs, max_new_tokens=4, do_sample=False)
print(tok.decode(out[0, inputs['input_ids'].shape[1]:], skip_special_tokens=True))

Подробнее

Тест: 153/224 попаданий в цель и 222/224 легальных хода у Dense; у MoE — 151/224 и 222/224.
Прямые партии Dense vs MoE: 9–7. Медиана в Ollama на CPU, 2 потока, F32: 174 мс и 104 мс.
Это экспериментальная модель: не гарантирует легальный ход и не заменяет поиск или движок.
Обучение — смесь reward и supervised, 256 шагов; лицензия Apache-2.0.