gulliver-1.0

gulliver-1.0 от Metalloid Labs — экспериментальный LoRA-адаптер для Qwen/Qwen3.8-27B, обученный на английском литературном корпусе с conditioning по автору. Это не отдельный 27B-чекпойнт и не instruction-tuned ассистент: адаптер предназначен для продолжения прозы в стиле выбранного автора. Метод — rank-8 QLoRA, один полный epoch.

🔥 Ключевые особенности

• 📚 21 автор: Jane Austen, Charles Dickens, Mark Twain, Edgar Allan Poe, Arthur Conan Doyle, H. G. Wells и другие.
• 🎙 Author-conditioned next-token prediction: промпт начинается с префикса Author: {author}.
• 💻 Rank-8 QLoRA, NF4 4-bit с double quantization; обучение на 4× NVIDIA L40S.
• 📖 38,3 млн training tokens / 357 records; held-out — 5,87 млн tokens / 48 records.
• ❌ Не instruction-tuned: оригинальность и точность авторского стиля системно не оценены.

💻 Пример

from peft import PeftModel
from transformers import AutoModelForImageTextToText, AutoTokenizer, BitsAndBytesConfig
base_id = 'Qwen/Qwen3.8-27B'; rev = '1d4bf0f2ff6012fd82039f2fa52739d0dd7c60c0'
tok = AutoTokenizer.from_pretrained(base_id, revision=rev)
base = AutoModelForImageTextToText.from_pretrained(base_id, revision=rev, quantization_config=BitsAndBytesConfig(load_in_4bit=True, bnb_4bit_quant_type='nf4'), device_map={'': 0})
model = PeftModel.from_pretrained(base, 'metalloidlabs/gulliver-1.0').eval()
prompt = 'Author: Jane Austen\n\nIt was not the arrival of the letter that unsettled Clara...'
inputs = tok(prompt, return_tensors='pt', add_special_tokens=False).to('cuda'); print(tok.decode(model.generate(**inputs, max_new_tokens=384)[0], skip_special_tokens=True))

Подробнее

Loss на фиксированном held-out subset (128 sequences / 128 712 tokens): Qwen 2.6316 → Gulliver 2.5115; это не оценка качества письма.
Для quantized serving использовали одну L40S 48 GB; требования зависят от длины последовательности и софта.
Возможны повторы обучающего текста; нет гарантии оригинальности, фактологии и book-length coherence.
Лицензия Apache 2.0; базовые веса и токенизатор в релиз не входят.