Llama-3.1-8B-Instruct-TwinDistillation
защита от инъекций промптов
2 мин чтенияобновлено
Новый LoRA (небольшая надстройка над базовой моделью) адаптер rank 16 для meta-llama/Llama-3.1-8B-Instruct, обученный методу twin distillation. Модель учится отличать реальные инструкции пользователя от вредоносных инструкций, спрятанных внутри обрабатываемых документов. Она игнорирует фиктивные команды в тексте, но корректно выполняет основные задачи вроде суммаризации или перевода. Решение разработано для повышения безопасности языковых моделей при работе с недоверенным контентом.
Ключевые особенности
- Защита от косвенных инъекций промптов (indirect prompt injection) в различных сценариях атак.
- Использование специального шаблона промптов с разделением ролей на задачу пользователя и входной документ.
- Сохранение исходного текста документа при операциях копирования, подсчета или перевода без выполнения скрытых команд.
- Совместимость с базовой моделью Llama 3.1 8B через стандартные библиотеки загрузки весов.
Что можно сделать
- Безопасно обрабатывать внешние документы, веб-страницы и электронные письма, содержащие потенциальные вредоносные инструкции.
- Настроить конвейеры автоматической суммаризации текстов с защитой от взлома через промпты.
- Интегрировать модель в корпоративные ИИ-ассистенты, читающие неструктурированный пользовательский контент.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
base = AutoModelForCausalLM.from_pretrained("meta-llama/Llama-3.1-8B-Instruct", torch_dtype="bfloat16", device_map="auto")
model = PeftModel.from_pretrained(base, "anasbiswas/Llama-3.1-8B-Instruct-TwinDistillation").eval()
tok = AutoTokenizer.from_pretrained("facebook/Meta-SecAlign-8B")
SYSTEM = "You are a helpful assistant that processes the content users give you."
messages = [{"role": "system", "content": SYSTEM},
{"role": "user", "content": "Summarise the key information in the document below."},,
{"role": "input", "content": document_text}]
ids = tok.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)
out = model.generate(ids, max_new_tokens=160, do_sample=False)
print(tok.decode(out[0, ids.shape[1]:], skip_special_tokens=True))Подробнее
BIPIA injections (fixed): 0.086 (база: 0.490)BIPIA injections (adaptive): 0.000 (база: 0.714)
Требует принятия лицензии Llama 3.1 на Hugging Face
Уязвима к атакам белого ящика (GCG) на уровне 0.040










Комментарии