К содержимому

Датасет · ScaleAI

Многоходовые джейлбрейки для проверки защиты LLM

ScaleAI/mhj

Сборник успешных многоходовых диалогов-атак от ред-тимеров для тестирования безопасности языковых моделей.

Что внутри

Внутри собраны 2 912 промптов, объединённых в 537 многоходовых диалогов на английском языке. Авторы включили только успешные атаки, придуманные специалистами по red teaming, а также добавили метаданные с их комментариями о выборе тактики взлома. В метаданных карточки указана модальность image, но по описанию это текстовые промпты и диалоги.

Что можно сделать

  • Оценка устойчивости LLM к многоходовым джейлбрейкам
  • Обучение или донастройка моделей-классификаторов безопасности (guardrails)
  • SFT или RLHF для повышения защиты языковых моделей от атак
Задачи
Генерация текста
Языки
Английский
Размер
до 1K записей
Скачиваний за месяц
478
Лайков
38
Доступ
по запросу на Hugging Face

Как загрузить

from datasets import load_dataset

ds = load_dataset("ScaleAI/mhj")