LFM2.5-24B-A2B-uncensored-fiction-nblora-merged2

Модель от electroglyph — дообученная версия electroglyph/LFM2.5-24B-A2B-uncensored. По метаданным, около 23.97B параметров; задача — text-generation. Это merged-вариант output-fiction2-nblora, обученный через TRL.

🔤 Ключевые особенности

• ➖ База: electroglyph/LFM2.5-24B-A2B-uncensored.
• ➕ Обучение: SFT через TRL 1.18.0.dev0.
• ▶ Назначение: генерация художественной прозы в uncensored-режиме.
• 🔜 Формат: merged-вариант output-fiction2-nblora, версия merged2.
• *⃣ Стек: Transformers 5.22.1, PyTorch 2.15.0, Datasets 5.1.0.

▶ Пример

from transformers import pipeline

question = 'If you had a time machine, but could only go to the past or the future once and never return, which would you choose and why?'
generator = pipeline('text-generation', model='electroglyph/LFM2.5-24B-A2B-uncensored-fiction-nblora-merged2', device_map='auto')
output = generator([{'role': 'user', 'content': question}], max_new_tokens=128, return_full_text=False)[0]
print(output['generated_text'])

Подробнее

Бенчмарков в карточке нет — оценка качества не приведена.
Обучение: SFT через TRL 1.18.0.dev0; Transformers 5.22.1, PyTorch 2.15.0.
Базовая модель: electroglyph/LFM2.5-24B-A2B-uncensored.
Требования к VRAM в карточке не указаны.