Qwen2.5-1.5B-openjev

LoRA-SFT файнтюн Qwen2.5-1.5B от iromu для typed-decision задач из корпуса Open-Jev: на входе состояние, вопрос и набор опций, на выходе — одна буква-метка. Это именно модель выбора, а не tool-calling: она принимает решение, но не формирует вызов инструмента. База — Qwen2.5-1.5B, параметров — 1,54 млрд, язык карточки — английский.

✨ Ключевые особенности

• ⭐ Отвечает одним токеном-меткой (A, B, …) и завершает ход на EOS.
• 🔥 LoRA SFT: 1191 шаг, один epoch, global batch 64, около 75 624 строк.
• 🧃 Данные Open-Jev: float-цель сводится к argmax, опции перемешиваются; строки с ничьей исключены из loss.
• 💻 Есть GGUF-сборки (BF16 / Q4_K_M / Q5_K_M / Q8_0) и NVFP4 для TensorRT-LLM.
• 🪐 SFT only, без GRPO: RL-цепочка поддерживается, но для этой модели не запускалась.

💻 Пример

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('iromu/Qwen2.5-1.5B-openjev', dtype='bfloat16', device_map='auto')
tok = AutoTokenizer.from_pretrained('iromu/Qwen2.5-1.5B-openjev')
messages = [{'role': 'system', 'content': 'Answer with a single letter.'}, {'role': 'user', 'content': '<state + question + options>'}]
prompt = tok.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
out = model.generate(tok(prompt), max_new_tokens=8, do_sample=False)
print(tok.decode(out[0], skip_special_tokens=True).strip())

Подробнее

JevBench: overall 38.5; REP 59.2, LOG 67.9, MEA 14.5, CHO 19.4.
Validation (n=3495): emitted 100%, correct 85.2% против 0.5% у базовой Qwen2.5-1.5B.
Ограничение: вероятностный readout плохо калиброван, metamorphic coherence ниже, чем у Qwen3-0.6B-openjev (44.5).
Запуск: BF16 и автоматическое распределение по устройству; max_new_tokens=8 достаточно — модель выдаёт один токен и останавливается.