OLMo-2-1124-7B-Instruct SFT mathfisher
дообученная языковая модель для математических задач
1 мин чтенияобновлено
Модель представляет собой файнтюн (настроенную версию) базовой модели allenai/OLMo-2-1124-7B-Instruct с размером 7.3 миллиарда параметров. Дообучение проводилось с использованием библиотеки TRL (библиотека для обучения языковых моделей с подкреплением и контролируемой доводки). Новинка ориентирована на решение задач, требующих рассуждений и работы с математикой, сохраняя возможности базовой архитектуры от AllenAI.
Ключевые особенности
- На основе allenai/OLMo-2-1124-7B-Instruct
- Использование фреймворка TRL (Transformers Reinforcement Learning)
- SFT (контролируемое дообучение) для улучшения навыков рассуждений
- Объём параметров 7.3B для запуска на потребительских GPU
Что можно сделать
- Интегрировать в Telegram-боты или локальные ассистенты для помощи с вычислениями
- Использовать для генерации текстов и ответов на технические вопросы
- Проводить эксперименты с математическими промптами и бенчмарками
Пример
from transformers import pipeline
question = "If you had a time machine, but could only go to the past or the future once and never return, which would you choose and why?"
generator = pipeline("text-generation", model="Neelectric/OLMo-2-1124-7B-Instruct_SFT_mathfisher_v00.01_s43", device="cuda")
output = generator([{"role": "user", "content": question}], max_new_tokens=128, return_full_text=False)[0]
print(output["generated_text"])Подробнее
Базовая модель: allenai/OLMo-2-1124-7B-InstructМетод обучения: SFT
Версии библиотек: TRL 1.1.0.dev0, Transformers 4.57.6, Pytorch 2.9.0










Комментарии