onegin-1
детерминированная модель для воспроизведения «Евгения Онегина»
2 мин чтенияобновлено
Специализированная N-граммная модель (модель, предсказывающая следующий символ по последовательности предыдущих), которая посимвольно воспроизводит посвящение и восемь глав романа А. С. Пушкина. Вместо привычного обучения с оптимизацией весов её основу составляет таблица переходов, построенная напрямую по эталонному тексту из Русской виртуальной библиотеки. Модель создана автором sergei-shteiner и служит контрольным примером для оценки моделей в бенчмарке «Онегин по памяти». Пригодится исследователям и разработчикам для тестирования пайплайнов оценки воспроизведения длинных текстов.
Ключевые особенности
- Посимвольно генерирует весь эталонный текст от начального состояния до сигнала конца, включая заголовки, номера строф, переносы строк и авторские отточия.
- Опирается на контекстный хвост длиной до 363 символов — это минимальный порог, позволяющий однозначно определить следующий символ без коллизий.
- Поставляется в двух готовых форматах: как граф с циклом для ONNX Runtime (
onegin-ngram.onnx) и как чекпоинт со слоемEmbeddingдля PyTorch (model.pt). - Работает детерминированно на CPU и при каждом запуске выдаёт идентичный файл в кодировке UTF-8 с проверенной контрольной суммой SHA-256.
Что можно сделать
- Использовать как базовый эталон (baseline) при тестировании языковых моделей на способность дословно воспроизводить длинные русскоязычные тексты в бенчмарке «Онегин по памяти».
- Встроить в автоматические тесты систем оценки и метрик, чтобы проверять корректность подсчёта совпадений стиховых строк и порядка глав.
Пример
import sys
from onnxruntime import InferenceSession
session = InferenceSession("onegin-ngram.onnx", providers=["CPUExecutionProvider"])
[codepoints] = session.run(None, {})
sys.stdout.buffer.write("".join(map(chr, codepoints)).encode("utf-8"))Подробнее
Результат на бенчмарке «Онегин по памяти»: 5 275 из 5 275 стиховых строк в нужной главе и исходном порядке (всего 142 818 символов).Требования к железу: запускается на CPU через ONNX Runtime или PyTorch, GPU не требуется.
Обучение с оптимизацией весов не проводилось — таблица переходов сформирована напрямую по тексту.
Ограничение: модель детерминированно воспроизводит только один заданный текст и не предназначена для генерации произвольных ответов.










Комментарии