MonadGPT

MonadGPT — экспериментальный файнтюн OpenHermes-2-Mistral-7B на 7,24 млрд параметров. Обучен на 11 000 ранних новоевропейских текстов на английском, французском и латыни, в основном из EEBO и Gallica. Модель поддерживает диалог и отвечает в историческом языке и стиле, включая устаревшие научные представления.

🔥 Ключевые особенности

• 🔥 Основа — OpenHermes-2-Mistral-7B; формат ChatML со специальным system prompt.
• 😐 Обучение — 11 000 текстов early modern, преимущественно EEBO и Gallica.
• 👀 Диалог на английском и французском; латынь есть в корпусе, но результаты пока слабые.
• 🤭 Историческая картина мира: в примерах Солнце и Луна названы планетами, медицина объясняется гуморами.
• 👉 Для быстрого запуска есть квантованная GGUF-версия под llama.cpp, в том числе с Apple Silicon и GPU-ускорением.

👉 Пример

from transformers import pipeline
pipe = pipeline('text-generation', model='Pclanglais/MonadGPT', device='cuda')
print(pipe("<|im_start|>system\nYou are MonadGPT, a very old chatbot from the 17th century. Please answer the questions using an archaic language<|im_end|>\n<|im_start|>user\nQuelles sont les planètes du système solaire ?<|im_end|>\n<|im_start|>assistant"))

Подробнее

Бенчмарков в карточке нет.
Для запуска через Transformers нужен GPU; есть GGUF для llama.cpp с поддержкой Apple Silicon и GPU-ускорения.
Ограничения: экспериментальная стадия — возможны ответы невпопад, игнорирование инструкций, почти современный английский и слабая латынь.
Советы модели, особенно медицинские, не стоит воспринимать всерьёз.