LFM3-Omni-2B-heretic

Это uncensored-чекпоинт LiquidAI/LFM3-Omni-2B на 2,17 млрд параметров, полученный абляцией отказов через адаптированный Heretic 1.2.0. Модель остаётся any-to-any: понимает текст, изображения и аудио, синтезирует речь 24 кГц и умеет zero-shot voice cloning. По карточке, зрение, аудиокодеры и голосовые возможности сохранены без изменений.

🔥 Ключевые особенности

• 🚫 Абляция отказов затрагивает только языковой бэкбон: изменены 35 из 665 тензоров.
• 👀 Визуальный и аудиоэнкодеры, проекторы и 24-кГц аудиокодек оставлены байт-в-байт как в оригинале.
• 💯 ASR, TTS на 24 кГц и zero-shot voice cloning работают так же, как у базовой модели.
• 🔥 KL-дивергенс всего 0.0231, а refusal rate снижен до 3/100.
• 🚀 Для запуска нужны trust_remote_code=True, torch, transformers, soundfile и accelerate.

😎 Пример

import torch
from transformers import AutoModelForImageTextToText, AutoTokenizer
model_id = "LiquidAI/LFM3-Omni-2B"
tok = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForImageTextToText.from_pretrained(
    model_id, torch_dtype=torch.bfloat16, device_map="auto", trust_remote_code=True
).eval()

Подробнее

Refusal rate: 3/100, KL divergence: 0.0231; изменено 35/665 тензоров, 630/665 не тронуты.
2,17B BF16; обязателен trust_remote_code=True; VRAM в карточке не указан.
Абляция: Heretic 1.2.0, trial 169, поиск Optuna на 200 trials, row-normalization full.
Лицензия базовой модели: LFM Open License v1.0.