Qwen3-1.7B Text-to-SQL LoRA

LoRA-адаптер от Delinev для генерации SQL по английскому вопросу и схеме базы данных. Базовая модель — Qwen3-1.7B; использовать её chat template с enable_thinking=False. Адаптер обучен через SFT.

📝 Ключевые особенности

• 📝 Генерирует SQL из английского вопроса и схемы БД.
• 👍 Работает поверх Qwen3-1.7B как PEFT/LoRA-адаптер.
• 🤔 SFT: 2 эпохи, learning rate 1e-4, LoRA rank 16, alpha 32, dropout 0.05, target modules all-linear.
• 😎 Оценка на 999 held-out примерах; SQLGlot-нормализация в MySQL-диалекте.

📝 Пример

Сценарий: подайте английский вопрос и схему БД в chat template Qwen3-1.7B с enable_thinking=False — адаптер должен вернуть SQL-запрос. Готовый SQL стоит проверить перед выполнением.

Подробнее

Normalized exact match: 25,23% у базовой модели → 77,98% с адаптером.
SQL parse rate: 99,80% в обоих случаях.
Ограничения: может добавлять лишние условия, пропускать нужные фильтры или неверно обрабатывать NULL.
Данные: отфильтрованное подмножество sql-create-context (CC BY 4.0), происходит от WikiSQL и Spider.