Llama-Garvit-1.0

Llama-Garvit-1.0 — экспериментальный LoRA-адаптер к meta-llama/Llama-Guard-3-1B от автора pra40109. Он проверяет одну строку контента, предназначенного детям 4–12 лет, и отвечает safe или unsafe с кодами нарушенных категорий C1–C10. Это собственная политика детской безопасности, а не встроенные категории Llama Guard S1–S14.

✨ Ключевые особенности

• 🦾 База — Llama-Guard-3-1B (1,51 млрд параметров), адаптер LoRA: rank 16, alpha 32, 11,3 млн обучаемых параметров (0,75%).
• ✅ 10 категорий: личные данные, секреты и незнакомцы, слишком страшное, опасное для повторения, тело и приватность, обидные слова, самоповреждение, деньги и уловки, взрослые темы, тревоги о теле и еде.
• 🔥 Обучение — 2 552 строки (1 665 safe, 887 unsafe) на английском и японском; одна 24-GB GPU, около 6 минут.
• 📉 На 727 отложенных строках catch rate вырос с 51,9% до 99,6%, ложные срабатывания упали с 2,0% до 0,6%.
• 👁 Ограничения: тест из тех же четырёх источников, что и обучение; японских unsafe-примеров не было; C2, C5, C8 и C10 отсутствуют в данных.

🧘 Пример

from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer
BASE, ADAPTER = 'meta-llama/Llama-Guard-3-1B', 'pra40109/Llama-Garvit-1.0'
tok = AutoTokenizer.from_pretrained(BASE)
model = AutoModelForCausalLM.from_pretrained(BASE, device_map='auto')
model = PeftModel.from_pretrained(model, ADAPTER).eval()
ids = tok(prompt, return_tensors='pt', add_special_tokens=False).to(model.device)
print(tok.decode(model.generate(**ids, max_new_tokens=12, do_sample=False)[0, ids['input_ids'].shape[1]:], skip_special_tokens=True))

Подавайте ровно тот prompt, с которым обучался адаптер; в карточке ес��ь полный шаблон и категории.

Подробнее

Бенчмарки: на 727 held-out строках catch rate 99,6% против 51,9% у базы; ложные срабатывания 0,6% против 2,0%; точные C-коды среди пойманных — 81,5% против 0% (база всегда отвечала S1).
Железо: обучение на одной 24-GB GPU (L4 или A10G) на Modal, около 6 минут.
Ограничения: экспериментальный учебный проект, не для защиты реальных детей; тест из тех же источников, что и обучение; японские unsafe-примеры не встречались; C2, C5, C8 и C10 не изучались; модель пишет один код категории на строку.