DivCenterer
крошечная модель, которая пишет CSS для центрирования div
1 мин чтения
DivCenterer — decoder-only Transformer на 1,1 млн параметров, обученный с нуля генерировать CSS для центрирования одного div через Grid или Flexbox. В модели 4 decoder-слоя, ширина 144, 4 головы внимания и SwiGLU шириной 384. Это не стандартный checkpoint Transformers AutoModel, а собственная реализация с кастомным byte-BPE токенизатором на 768 токенов.
Ключевые особенности
- Всего 1 107 216 параметров — модель действительно крошечная.
- Обучена с нуля на детерминированном синтетическом датасете, без скачанного корпуса и предобученных весов.
- Собственный tokenizer и реализация в
model.py; веса лежат вmodel.safetensors. - Greedy exact-CSS: 980/980 на полном синтетическом eval-наборе.
- Лицензия MIT — можно использовать и модифицировать.
Пример
import json
from safetensors.torch import load_file
from model import DivCentererLM, ModelConfig
config = ModelConfig(**json.load(open("config.json", encoding="utf-8")))
model = DivCentererLM(config)
model.load_state_dict(load_file("model.safetensors"))
model.eval()
Подробнее
Метрики: exact-CSS 980/980 на синтетическом наборе — validation 410/410, held-out pairs 410/410, unseen values 64/64, held-out phrasing 96/96.Обучение: с нуля с BF16 autocast и PyTorch SDPA на AMD Radeon RX 9070 XT.
Ограничение: одна задача — центрирование div; оценки считаются по каноническим CSS-ответам сгенерированного набора.
Лицензия MIT.










Комментарии