h3-vlm-omni-heretic

Это файнтюн Qwen3-Omni-30B-A3B-Thinking от GloriaWang23 на 31,72 млрд параметров. Он наследует omni-архитектуру Qwen3-Omni, а в основе — Thinking-вариант с chain-of-thought; по карточке модель принимает аудио, видео и текст, а отвечает текстом. Главное отличие — heretic-настройка, снижающая отказы.

✨ Ключевые особенности

• ❌ Отказы: 7/100 против 99/100 у оригинальной Qwen3-Omni-30B-A3B-Thinking.
• ✅ KL divergence к базовой модели — 0,003563: изменения поведения точечные.
• 🔥 31,72B параметров, MoE-архитектура Qwen3-Omni и режим Thinking.
• 🎧 По карточке базовой модели: аудио, видео и текст на входе; текст на выходе.
• 🌎 Базовая Qwen3-Omni заявляет 119 текстовых языков, 19 языков речи на входе и 10 на выходе.

💻 Пример

Подготовка окружения из карточки базовой модели:

pip install git+https://github.com/huggingface/transformers
pip install accelerate
pip install qwen-omni-utils -U
pip install -U flash-attn --no-build-isolation

Подробнее

KL divergence: 0,003563 к оригиналу.
Отказы: 7/100 против 99/100 у базы.
Размер: 31,72B параметров; task — any-to-any, library — transformers.
Это heretic-файнтюн, а не официальная модель Qwen; оценка только по таблице карточки.