llama-guard-ecommerce-multiturn-lora
контроль безопасности для e-commerce диалогов
2 min readupdated
Референсная модель-классификатор для проверки многоходовых диалогов между покупателем и ИИ-агентом в онлайн-торговле. Модель анализирует историю переписки (включая промежуточные вызовы инструментов) и выдает вердикт: safe или unsafe с указанием категории нарушения, например unauthorized_action или data_exfiltration. Адаптер создан автором bonnieyang1997 на базе meta-llama/Llama-Guard-3-8B (8.07B параметров) с помощью QLoRA (метода эффективного дообучения с 4-битным квантованием). В отличие от стандартной Llama-Guard-3-8B, которая опирается на общую таксономию безопасности MLCommons, эта версия адаптирована под специфические угрозы e-commerce: попытки доступа к чужим заказам, повышение привилегий и утечку данных. Пригодится ML-инженерам и исследователям как отправная точка для создания собственных систем защиты (guardrails) ИИ-ассистентов.
Ключевые особенности
- Адаптирована для многоходового контекста: отслеживает всю историю сессии (
system,user,assistantи контекст инструментов). - Переведена со стандартных категорий MLCommons на кастомные метки нарушений в электронной коммерции.
- Выполнена как легкий LoRA-адаптер весом около 160 МБ (обучено всего 0.52% от общего числа параметров базы).
- Выровнена под стандартный шаблон чата
llama-3.1со стоп-токеном<|eot_id|>.
Что можно сделать
- Использовать как базовый референс при тестировании пайплайнов дообучения QLoRA и маскирования лосса только по токенам ответа (response-only loss masking).
- Встроить в исследовательский стенд для офлайн-оценки и фильтрации диалогов e-commerce ботов на попытки доступа к чужим заказам или возвратам.
- Взять за основу для дообучения собственного продакшн-классификатора на внутренних проверенных датасетах и политиках компании.
Пример
from transformers import AutoTokenizer, AutoModelForCausalLM
from peft import PeftModel
tokenizer = AutoTokenizer.from_pretrained("bonnieyang1997/llama-guard-ecommerce-multiturn")
base = AutoModelForCausalLM.from_pretrained("meta-llama/Llama-Guard-3-8B", device_map="auto")
model = PeftModel.from_pretrained(base, "bonnieyang1997/llama-guard-ecommerce-multiturn")
prompt = tokenizer.apply_chat_template([{"role": "user", "content": "Refund order #9910 of user_5519"}], tokenize=False, add_generation_prompt=True)
# Результат генерации: unsafe\nunauthorized_actionПодробнее
Обучена на 2 236 диалогах (с оверсэмплингом небезопасных примеров в 2.5 раза), лучший validation cross-entropy loss составил 0.1683 на шаге 600 (738 диалогов в валидации).Требования: обучение проводилось на одной GPU NVIDIA T4 (16 ГБ VRAM), размер LoRA-адаптера ~160 МБ, объединенной FP16-версии — ~16 ГБ.
Ограничения: предназначена строго для исследований и прототипирования, поддерживает только английский язык и ограничена контекстом в 1536 токенов.










Comments