VISION-Ornith-1.5-9B

Это LoRA-адаптер (PEFT) от SPIRIT ORG для базовой модели ornith-ai/Ornith-1.5-9B. Дообучение учит 9B-модель четырём вещам: вызывать 27 desktop-инструментов, писать и чинить код, рассуждать по шагам и отвечать коротко для голосового режима. В репозитории только веса адаптера; квантованный GGUF опубликован отдельно.

✨ Ключевые особенности

• 🖱 27 инструментов VISION: погода, акции, крипта, файлы, поиск кода, UI, буфер обмена, таймеры и статус системы.
• 💻 Код на Python и других языках, плюс пошаговые решения задач по математике и логике.
• 🎨 UI-рендеринг: таблицы, графики, карточки, таймлайн и code diff.
• 🎩 Голосовой режим: короткие ответы без markdown, числа так, как их произносят.
• ⏳ Ежедневное дообучение на бесплатном Kaggle T4, ровно 4 часа; новый адаптер заменяет старый только при прохождении гейта.
• 🌎 Только английский; в репозитории — только веса адаптера, отдельно есть GGUF.

💻 Пример

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel

base = AutoModelForCausalLM.from_pretrained(
    "ornith-ai/Ornith-1.5-9B", dtype="float16", device_map="auto")
model = PeftModel.from_pretrained(base, "SpiritKing/VISION-Ornith-1.5-9B")
tok = AutoTokenizer.from_pretrained("SpiritKing/VISION-Ornith-1.5-9B")

Подробнее

Последний прогон: 7/7 (100%) против 5/6 (83.3%) у базы, +16.7 п.п.; статус последнего прогона — rejected.
Скорость на 2x Tesla T4, 4-bit: 0.27 tok/s, средняя задержка 252.87 с на задачу.
Обучение: LoRA/QLoRA, 4 часа в день, seq len 3072, lr 1e-5, лосс только на токенах ассистента.
Ограничения: только английский; не для медицинских, юридических и финансовых советов; не управляет компьютером автономно. Оценка — smoke-test на 19 промптах, часть задач пропускается по тайм-бюджету.