Qwen3.5-9B Text-to-SQL

Это файнтюн Qwen/Qwen3.5-9B от EuricoGVP для генерации одного SQLite-запроса по схеме БД, необязательной подсказке и вопросу. 9B-модель обучена в non-thinking режиме; LoRA-адаптер уже влит в веса, поэтому PEFT не нужен, а артефакты совместимы с Transformers и vLLM.

🤔 Ключевые особенности

• 👍 Выше execution accuracy: BIRD dev plain — 57.17%, BIRD dev desc — 59.32%, Spider dev — 82.01%.
• 📝 Схема с описаниями колонок повышает EX на BIRD dev с 57.17% до 59.32%.
• ⌨ Меньше ошибок выполнения: 48 против 143 на BIRD plain, 60 против 136 на BIRD desc, 14 против 18 на Spider dev.
• 🤝 Обучение: LoRA rank/alpha 16, 1 эпоха, bf16, 17 132 примера; адаптер влит в веса.
• 👌 Рекомендуются greedy decoding, temperature=0 и enable_thinking=False.

📝 Пример

# messages: system prompt + schema + Hint: None + question
from vllm import LLM, SamplingParams
llm = LLM(model="EuricoGVP/Qwen3.5-9b_text2sql", max_model_len=8192,
          language_model_only=True)
sampling = SamplingParams(temperature=0, max_tokens=2048)
outputs = llm.chat([messages], sampling,
                   chat_template_kwargs={"enable_thinking": False})
print(outputs[0].outputs[0].text)

Подробнее

Execution accuracy: BIRD dev plain — 57.17% (база 51.11%), BIRD dev desc — 59.32% (52.09%), Spider dev — 82.01% (77.27%).
Веса около 19 ГБ; обучение на 17 132 примерах, max training length 4096, оценка на 8192 токенах.
Модель только для SQLite и английского; большие схемы свыше 4096 токенов не тестировались.
Запросы лучше выполнять в read-only соединении: модель не запускает и не проверяет SQL. Большинство неверных запросов выполняется без ошибки: 609 из 657 на BIRD plain.