rotowire-gemma-4-lora
LoRA-адаптеры для превращения отчётов NBA в таблицы
2 мин чтенияобновлено
Набор из пяти LoRA-адаптеров (небольших настроек над базовой моделью) для семейств Gemma 4 (модели 12B, E4B и E2B), которые превращают текстовый отчёт об игре NBA в две структурированные таблицы со статистикой команд и игроков. Адаптеры обучались на датасете Rotowire с использованием улучшенных разметок от Opus и демонстрируют высокую точность генерации таблиц (до 97.1 F1 по игрокам). Инструмент пригодится разработчикам и исследователям, которым нужно извлекать структурированные данные из спортивных или текстовых репортажей с помощью локальных языковых моделей.
Ключевые особенности
- Специализация на Rotowire: адаптируют текстовые обзоры матчей NBA в табличный формат Team и Player.
- Высокая точность: топовые версии достигают 95.7 (Team) и 97.1 (Player) по метрике cell F1.
- Три размера базы: варианты для моделей Gemma 4 с размерами 12B, E4B и E2B.
- Готовые настройки: включают варианты на основе разных обучающих разметок (Opus relabels и Wu et al.).
Что можно сделать
- Запуск через vLLM: развернуть модель локально с поддержкой LoRA-модулей для обработки запросов.
- Генерация бокс-скоров: автоматически конвертировать текстовые репортажи спортивных матчей в готовые Markdown-таблицы.
- Сравнение подходов: тестировать разницу между версиями адаптеров, обученными на разных разметках данных.
Пример
from pathlib import Path
from openai import OpenAI
client = OpenAI(base_url="http://127.0.0.1:8000/v1", api_key="-")
reply = client.chat.completions.create(
model="e4b-teacher-r32",
temperature=0,
max_completion_tokens=1536,
messages=[
{"role": "system", "content": Path("schema-v1-prompt.txt").read_text()},
{"role": "user", "content": "Report:\n" + report_text},
],
)
print(reply.choices[0].message.content)Подробнее
Бенчмарки: до 95.7 (Team) и 97.1 (Player) cell F1 на тестовом сете Rotowire.Обучение: LoRA rank 32, alpha 32, dropout 0.05 на внимании и MLP-проекциях, 2 эпохи.
Ограничения: протестировано только на одном домене (репортажи NBA) и фиксированном наборе из 47 колонок. Требует строгого соблюдения шаблона промпта и декодирования через vLLM.










Комментарии