simplixity-title-0.8b

Это файнтюн Qwen3.5-0.8B от stneric для self-hosted ассистента Simplixity. По первому сообщению диалога на английском или немецком модель пишет английский заголовок не длиннее шести слов. Параметров — 0.87B, формат — transformers, лицензия Apache 2.0.

💻 Ключевые особенности

• 📚 Понимает английский и немецкий на входе, но заголовок всегда на английском.
• 🎙 Обучена под один фиксированный промпт: первое сообщение обрезается до 1 000 символов, генерация — до 24 токенов при temperature 0.2.
• 🏃‍♀ Быстрая: медиана на RTX 3070 Ti — 0.04–0.05 с на заголовок.
• 💻 Есть отдельные GGUF-файлы для Ollama, LM Studio и llama.cpp.
• 🔥 LoRA rank 16, alpha 320; v4 — чекпойнт 250 примерно после 1.1 эпохи, обучение на CUDA через PEFT.

📱 Пример

ollama create simplixity-title:0.8b-v4-q8_0 -f Modelfile --quantize q8_0

Подробнее

На holdout из 60 сообщений (30 DE / 30 EN) v4 Q8_0 соблюдает все правила формата в 91% случаев против 77% у v1.
Для немецких сообщений английский заголовок получается в 88% случаев против 68% у v1.
Ограничение: незнакомые немецкие слова могут искажаться, а примерно 1 из 16 немецких сообщений всё ещё получает заголовок на немецком.
Данные: 1 874 очищенных синтетических примера; лицензия Apache 2.0.