Qwen2.5-Coder-3B NFL Text-to-SQL LoRA
генерация SQL-запросов для статистики NFL
2 мин чтенияобновлено
Эта модель представляет собой LoRA-адаптер (компактную надстройку для дообучения без изменения весов всей нейросети), который переводит вопросы на естественном языке в PostgreSQL-запросы к базе данных по американскому футболу (схема nfl). Адаптер создан автором sonnyhuang на базе квантованной модели mlx-community/Qwen2.5-Coder-3B-Instruct-8bit для работы через фреймворк MLX. В отличие от базовой модели, он заточен под конкретную структуру таблиц проекта NFL Text-to-SQL Agent и обучался с проверкой выполнения каждого сгенерированного запроса. Решение пригодится разработчикам, запускающим локальных SQL-агентов на компьютерах Apple Silicon.
Ключевые особенности
- Адаптер собран под библиотеку
mlxдля локального запуска на устройствах Apple Silicon с использованием 8-битной базы Qwen2.5-Coder-3B. - Обучение проведено методом LoRA с рангом 16 для всех слоёв внимания (attention) и MLP в верхних 16 блоках модели.
- Модель тренировалась одну эпоху на 3 400 синтетических примерах, каждый из которых предварительно проверялся выполнением в реальной базе данных.
- Функция потерь при обучении рассчитывалась исключительно на самой SQL-генерации (SQL completion), чтобы модель фокусировалась на точности кода.
Что можно сделать
- Встроить адаптер в локального чат-бота для аналитики матчей и статистики игроков NFL по готовой схеме
nflиз проекта NFL Text-to-SQL Agent. - Объединить модель с RAG (поиском по контексту и документации), чтобы повысить точность генерации запросов на нестандартных вопросах.
- Использовать как референс для создания собственных компактных Text-to-SQL агентов на базе Qwen2.5-Coder под локальные базы PostgreSQL.
Пример
from mlx_lm import load
model, tokenizer = load(
"mlx-community/Qwen2.5-Coder-3B-Instruct-8bit",
adapter_path=""
)
Подробнее
Точность выполнения (execution accuracy): 94.5% на отложенных шаблонных вопросах (98.2% в связке с RAG) и 63.4% на вопросах, написанных вручную (67.0% с RAG).Формат промптов: требуется системный промпт и компактное описание схемы базы по шаблону проекта (
src/nflsql/agent/prompts.py).Лицензия: Qwen Research License Agreement — разрешено только некоммерческое использование (исследования и тестирование); датасет основан на nflverse (CC BY 4.0).










Комментарии