Llama-3-8B LoRA Collection
коллекция из 10 адаптеров под разные задачи
2 мин чтенияобновлено
Коллекция из 10 готовых LoRA-адаптеров (небольших настроек поверх базовой модели), обученных на базе meta-llama/Meta-Llama-3-8B на популярных открытых датасетах. Каждый адаптер решает свою задачу: от общих инструкций и мультидиалогов до математики, рассуждений и написания кода. Набор будет полезен исследователям и разработчикам, которым нужно быстро протестировать модель в конкретных сценариях без самостоятельного обучения.
Ключевые особенности
- 10 адаптеров под разные домены: Alpaca, Dolly, OpenAssistant, UltraChat, WizardLM, OpenOrca, GSM8K, MetaMath, CodeAlpaca и Magicoder.
- Проверенное обучение на популярных SFT-датасетах с фиксированным числом эпох и замером eval loss.
- Широкий охват от общих чатов до специализированного программирования и школьной математики.
- Единый формат промптов для всех адаптеров из-за отсутствия встроенного чат-шаблона у базовой модели.
Что можно сделать
- Применить для кода: использовать адаптеры CodeAlpaca или Magicoder для генерации программ на разных языках программирования.
- Решать математические задачи: подключить адаптеры GSM8K или MetaMath для точных пошаговых вычислений.
- Настроить чат-бота: применить UltraChat или Guanaco для качественных многошаговых диалогов.
- Тестировать мульти-LoRA: развернуть сразу несколько модулей в сервисах вроде vLLM.
Пример
import torch
from transformers import AutoTokenizer, AutoModelForCausalLM
from peft import PeftModel
repo = "Jianshu001/Llama-3-8B-LoRA-Collection"
tok = AutoTokenizer.from_pretrained("meta-llama/Meta-Llama-3-8B")
base = AutoModelForCausalLM.from_pretrained("meta-llama/Meta-Llama-3-8B", torch_dtype=torch.bfloat16, device_map="auto")
model = PeftModel.from_pretrained(base, repo, subfolder="llama3-8b-lora-gsm8k")
prompt = "<|begin_of_text|>### User:\nWhat is 15% of 240?\n\n### Assistant:\n"
ids = tok(prompt, return_tensors="pt", add_special_tokens=False).to(model.device)
out = model.generate(**ids, max_new_tokens=256, do_sample=False)
print(tok.decode(out[0][ids.input_ids.shape[1]:], skip_special_tokens=True))
Подробнее
• Архитектура: LoRA (r=16, alpha=32, ~42M обучируемых параметров)• Обучение: AdamW, lr 2e-4, bf16 на NVIDIA H200
• Метрики: улучшение eval loss на 8-72% в зависимости от датасета
• Лицензия: Meta Llama 3 Community License плюс лицензия исходного датасета










Комментарии