andreafanfani/gemma-4-12B-it-uncensored
uncensored-версия мультимодальной модели
2 мин чтенияобновлено
Эта модель представляет собой полностью раскодированную версию официальной мультимодальной LLM Google DeepMind — google/gemma-4-12B-it. С помощью метода ARA (Arbitrary-Rank Ablation) создатели убрали излишние ограничения и отказы на спорные или сложные запросы, сохранив при этом высокое качество оригинальной генерации. Модель работает с текстом, изображениями и аудио без отдельных громоздких энкодеров. Полезно разработчикам и исследователям, которым нужна гибкая нейросеть для локального запуска без цензуры.
Ключевые особенности
- Снижение отказов: показатель отказов на стандартных тестах уменьшился с 99% до 10% по сравнению с базовой версией.
- Мультимодальность: нативная поддержка анализа текстов, картинок и аудиозаписей напрямую в локальной среде.
- Эффективная архитектура: encoder-free подход позволяет обрабатывать данные без промежуточных конвертаций, экономя VRAM.
- Инструмент Heretic: модель собрана с использованием утилиты Heretic v2.1.0 для точной настройки поведения слоев.
Что можно сделать
- Запуск локально: развернуть мощную модель на потребительской видеокарте с библиотекой transformers.
- Анализ мультимедиа: обрабатывать и распознавать аудиофайлы и изображения в одном диалоговом окне.
- Исследование поведения: тестировать генерацию ответов без жестких ограничений и встроенных фильтров безопасности.
Пример
from transformers import AutoProcessor, AutoModelForMultimodalLM
MODEL_ID = "andreafanfani/gemma-4-12B-it-uncensored"
# Load model
processor = AutoProcessor.from_pretrained(MODEL_ID)
model = AutoModelForMultimodalLM.from_pretrained(
MODEL_ID,
dtype="auto",
device_map="auto"
)
Подробнее
• Базовая модель: google/gemma-4-12B-it• Параметры: 11.96B (12B)
• Метрики: Рефьюзалы (Refusals) снижены до 10/100 против 99/100 у оригинала; KL divergence составляет 0.1835
• Лицензия: Apache 2.0










Комментарии