H3-Tiny-17B-Pruned
уменьшенная версия MiniMax H3 для генерации видео и аудио
1 мин чтенияобновлено
Модель представляет собой результат структурного прунинга (удаления части весов) трансформера MiniMax H3 Ref2VA с уменьшением количества параметров с 33B до 17.07B. Она создана для совместной генерации видео и аудио по текстовому запросу и опорным изображениям (reference images) без необходимости дополнительного дообучения. Чекпоинт содержит только трансформер в формате diffusers, используя текстовый энкодер и VAE от оригинального MiniMax H3. Модель пригодится исследователям и разработчикам, которым требуется более лёгкая версия мультимодального генератора для запуска на менее требовательном железе.
Ключевые особенности
- 17.07 миллиардов параметров в трансформере вместо исходных 33.12B.
- Метод прунинга (структурное удаление 8 из 50 блоков трансформера) без тренировки.
- Поддержка совместной генерации видео и аудио из текста и картинок.
- Полная совместимость с экосистемой diffusers для загрузки весов.
Что можно сделать
- Сгенерировать видеоролик со звуком по текстовому промпту и опорным изображениям.
- Запустить инференс с помощью предоставленного скрипта командной строки.
- Интегрировать трансформер в пайплайн обработки через Python-код.
Пример
from h3tiny.pipeline import load_pipeline
pipe = load_pipeline("ckpt/H3-Tiny-17B-Pruned", "/models/MiniMax-H3", device="cuda")
Подробнее
Параметры трансформера: 17.07BАрхитектура: получена из MiniMax H3 Ref2VA с AdaLN rank 8 и удалением 8 из 50 блоков
Шаги семплирования: 50
Обучение: отсутствует (training-free checkpoint)














Комментарии