Llama-3.1-8B-Neutral-Task-Decomposer-LoRA

Это QLoRA-адаптер для meta-llama/Llama-3.1-8B-Instruct, обученный на японских данных для нейтральной структуризации мыслей и декомпозиции задач по зависимостям. Автор — Mt-sea; поведение дистиллировано от google/gemma-4-31b-it, без эмоциональной эмпатии и морализаторства.

🔎 Ключевые особенности

• 🧭 Держит нейтральный тон даже при панике или жалобах: без «сочувствую» и «успокойтесь».
• 🔎 Разделяет объективные факты и субъективные эмоции в запросе.
• 🗂 Строит задачи в порядке логических зависимостей и добавляет ориентировочное время.
• 🔄 Поддерживает Temporal RAG: сравнивает теги [日付: YYYY-MM-DD] и берёт самую свежую информацию.
• ⚙ Обучен через QLoRA/Unsloth; в target modules входят q/k/v/o и gate/up/down_proj.

💻 Пример

from transformers import AutoTokenizer, AutoModelForCausalLM
from peft import PeftModel

base_id = 'meta-llama/Llama-3.1-8B-Instruct'
adapter_id = 'Mt-sea/Llama-3.1-8B-Neutral-Task-Decomposer-LoRA'
model = PeftModel.from_pretrained(AutoModelForCausalLM.from_pretrained(base_id), adapter_id)
tokenizer = AutoTokenizer.from_pretrained(adapter_id)

Подробнее

На бенчмарке из 20 вопросов: полная нейтральность 100% против 80% у базы, соблюдение структуры 50% против 0%, эмоциональные слова 0 против 10.
Обучение: QLoRA, 850 примеров, r=16, alpha=32, 110 шагов, final loss 0.3217.
Язык данных — японский; оценка ограничена 20 вопросами. Лицензия — Llama 3.1 Community License.