MiniMax H3 INT4 ConvRot
запуск на 12 ГБ VRAM
1 min read
Полная квантизованная версия модели MiniMax H3 от автора MM744, переведённая в формат INT4 ConvRot (сжатие весов до 4 бит с сохранением архитектуры). Конвертация значительно уменьшает размер файлов и снижает нагрузку на видеопамять и оперативную память без потери основных возможностей оригинала. Модель ориентирована на владельцев видеокарт с 12 ГБ VRAM, которым не хватает ресурсов для запуска полноразмерного чекпоинта.
Ключевые особенности
- Сжатие весов в формат INT4 ConvRot при сохранении исходной архитектуры MiniMax H3.
- Существенное снижение требований к объёму VRAM (от 12 ГБ) и оперативной памяти.
- Уменьшенный объём передачи данных в памяти, что ускоряет загрузку и инференс на совместимом железе.
- Возможны незначительные отличия в качестве генерации по сравнению с полноразмерной версией.
Что можно сделать
- Запустить генерацию на базе MiniMax H3 локально на потребительских видеокартах с 12 ГБ VRAM.
- Сократить время загрузки чекпоинта и ускорить работу пайплайнов на совместимых GPU.
- Использовать как облегчённую альтернативу оригиналу для тестов и повседневных задач без апгрейда железа.
Пример
Загрузите чекпоинт MiniMax H3 INT4 ConvRot в совместимый локальный интерфейс для генерации на базе MiniMax H3 на системе с 12 ГБ VRAM — триггер-слова для активации не требуются.
Подробнее
Рекомендованный объём видеопамяти: 12 ГБ VRAM.Формат квантизации: INT4 ConvRot.
Базовая модель: MiniMax H3.














Comments