LFM3-1.7B Heretic Abliterated

Это abliterated-вариант LFM3-1.7B от Liquid AI: причинная языковая модель на tri-hybrid архитектуре, ~1.73B параметров и контекстом 262 144 токена. Сборка от Vortecks убирает направления отказов в activation space, поэтому модель позиционируется как uncensored и шире следует промптам, чем базовый instruction-tuned релиз. Ориентирована на локальных агентов, tool calling, структурированные ответы и edge-деплой.

💻 Ключевые особенности

• 🔥 Abliterated: отказы снижены до 3/100 против 92/100 у базовой модели.
• 💻 Tri-hybrid архитектура: 24 слоя — 13 gated short convolutions, 5 sliding-window attention и 6 global attention.
• 📚 Контекст 262 144 токена — под длинные документы и агентные сценарии.
• 🌎 Поддержка 16 языков, включая русский.
• ✅ Требуется trust_remote_code=True из-за кастомного кода архитектуры.
• 🐱 Есть GGUF-кванты для llama.cpp, Ollama и LM Studio.

💻 Пример

from transformers import pipeline
generator = pipeline("text-generation", model="Vortecks/LFM3-1.7B-Heretic-Abliterated", trust_remote_code=True)
messages = [{"role": "user", "content": "Who are you?"}]
output = generator(messages, do_sample=True, temperature=0.1, top_k=50, repetition_penalty=1.1, max_new_tokens=2048)
print(output[0]["generated_text"][-1]["content"])

Подробнее

Бенчмарки heretic: отказы 3/100 против 92/100 у базовой модели; KL divergence 0.0094.
Контекст 262 144 токена, ~1.73B параметров.
Для запуска нужен trust_remote_code=True; GGUF-кванты доступны для llama.cpp, Ollama и LM Studio.
Это uncensored-сборка: модерацию и safety должен обеспечивать деплойер.