smollm2-135m-tictactoe
крошечная LLM для крестиков-ноликов
2 min readupdated
Это SmolLM2-135M-Instruct, дообученная через LoRA и затем слитая с базовыми весами, поэтому загружается как обычная transformers-модель без зависимости от PEFT. Модель играет за O, человек — за X и ходит первым: на каждом ходу она повторяет ход игрока, отвечает своим и перерисовывает доску. Это узкая модель на 135M параметров, не для общего чата.
Ключевые особенности
- Играет за O; человек — X и делает первый ход.
- LoRA rank 32, alpha 64, без dropout, на все attention/MLP-проекции; около 9,8M обучаемых параметров, после обучения адаптер слит с базой.
- Обучена на синтетических диалогах из игр против rule-based соперника, включая self-play и проверки позиций.
- Рекомендуется greedy decoding; полную историю ходов нужно держать в
msgs. - В ответах есть теги причины хода — например,
(center),(corner),(block); модель объявляет результат и просит другой номер, если клетка занята.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
repo = "Sexyparabola/smollm2-135m-tictactoe"
tok = AutoTokenizer.from_pretrained(repo)
model = AutoModelForCausalLM.from_pretrained(repo)
msgs = [{"role": "system", "content": "You are a tic-tac-toe game. The player is X and moves first; you are O."}, {"role": "user", "content": "hi"}]
ids = tok.apply_chat_template(msgs, add_generation_prompt=True, return_tensors="pt")
out = model.generate(ids, max_new_tokens=200, do_sample=False)
print(tok.decode(out[0][ids.shape[1]:], skip_special_tokens=True))
Подробнее
Обучение: LoRA на все attention/MLP-проекции, 747 шагов batch size 8 (1 эпоха на ~2 985 диалогах), затем дообучение под новый формат доски — 187 шагов при LR 1e-4 и ещё 374 при LR 1.5e-4.Ограничения: модель на 135M параметров заточена под одну задачу и плохо подходит для общего чата; работает только с указанным system prompt и форматом доски, может ошибаться — например, не блокировать очевидный ход.
Лицензия Apache-2.0, унаследована от базовой модели.










Comments