QwQen 0.5B UwU
мини-LLM с uwu-характером
1 min read
QwQen-0.5b-UwU — файнтюн Qwen2.5-0.5B-Instruct от Verrucktekatze333: LoRA на uwu-диалогах и GGUF Q4_K_M на 397 МБ. Модель отвечает в игривом uwu-стиле, но заявлена как корректная и краткая. Контекст — 32 768 токенов.
Ключевые особенности
- База — Qwen2.5-0.5B-Instruct; дообучение через LoRA на кастомном uwu-датасете.
- Квантование GGUF Q4_K_M, размер файла — 397 МБ.
- Контекстное окно — 32 768 токенов.
- Встроенный system prompt: uwu-стиль, w вместо l/r и мягкие окончания вроде ~ или :3.
- Запуск через Ollama, llama.cpp или Transformers.
Пример
ollama pull Verrucktekatze333/QwQen-0.5b-UwU
ollama run QwQen-0.5b-UwU
Подробнее
Бенчмарков в карточке нет: это стилевой LoRA-файнтюн на 0.5B.GGUF Q4_K_M занимает 397 МБ; отдельных требований к VRAM не указано.
Рекомендуемые параметры: temperature 0.8, top-p 0.9, stop « User:».
Лицензия Apache 2.0 унаследована от Qwen2.5.










Comments