GGUF-кванты Uraion-Cyber-V1.0
визуальная модель в imatrix-сборке
1 мин чтения
mradermacher выложил weighted/imatrix GGUF-кванты модели UraionLabs/Uraion-Cyber-V1.0. Карточка называет её vision-моделью; кванты предназначены для локального запуска через GGUF-совместимые инструменты. Язык модели — английский.
Ключевые особенности
- Доступны imatrix-кванты и отдельный imatrix-файл для создания собственных квантов.
- Это vision-модель: mmproj-файлы, если они есть, лежат в static-репозитории.
- В списке есть варианты от Q2_K до Q4_K_S; Q4_K_S на 20.5 GB назван оптимальным по размеру, скорости и качеству.
- Статические кванты выложены отдельно от imatrix-версий.
- Бенчмарки и детали обучения в карточке не указаны.
Пример
Сценарий: выбрать GGUF-квант, при необходимости скачать mmproj из static-репозитория и запустить vision-модель в GGUF-совместимом раннере, подав изображение с вопросом на английском. Готового кода запуска в карточке нет.
Подробнее
Размеры: i1-Q2_K — 13.3 GB, i1-IQ3_M — 15.9 GB, i1-Q4_K_S — 20.5 GB.Q4_K_S помечен как оптимальный по размеру, скорости и качеству.
mmproj для vision-режима и статические кванты — в static-репозитории.
Бенчмарков и требований к VRAM в карточке нет.










Комментарии