qwen3b-rlcr-hotpot-0.25-0.75-final
RL-файнтюн Qwen2.5-3B на HotpotQA
Это файнтюн Qwen/Qwen2.5-3B-Instruct на 3,09 млрд параметров от автора yuxuanw8, дообученный на датасете mehuldamani/hotpot_qa для text-generation. Модель обучена через GRPO с использованием TRL; в карточке нет бенчмарков и требований к VRAM.
📝 Ключевые особенности
- 👌 База — Qwen/Qwen2.5-3B-Instruct, датасет — mehuldamani/hotpot_qa.
- 🤝 Обучение через GRPO — метод из DeepSeekMath, реализация на TRL.
- 📝 Задача — text-generation, библиотека transformers.
- 🙃 Версии: TRL 1.11.0.dev0, Transformers 4.57.6, PyTorch 2.10.0, Datasets 5.0.1.
⌨ Пример
from transformers import pipeline
question = "If you had a time machine, but could only go to the past or the future once and never return, which would you choose and why?"
generator = pipeline("text-generation", model="yuxuanw8/qwen3b-rlcr-hotpot-0.25-0.75-final", device="cuda")
output = generator([{"role": "user", "content": question}], max_new_tokens=128, return_full_text=False)[0]
print(output["generated_text"])
Подробнее
Бенчмарков в карточке нет.Требования к VRAM и железу не указаны.
Обучение: GRPO, датасет HotpotQA, база Qwen2.5-3B-Instruct.
В примере карточки стоит
model="None" — используйте фактический repo id.







Комментарии