К содержимому

Датасет · TrustAIRLab

Джейлбрейк-промпты из реальных источников

TrustAIRLab/in-the-wild-jailbreak-prompts

15 140 джейлбрейк-промптов, собранных в декабре 2022 — декабре 2023.

Что внутри

Датасет содержит 15 140 промптов для обхода ограничений LLM, собранных из реальных источников с декабря 2022 по декабрь 2023 года. Это официальный репозиторий статьи ACM CCS 2024; сбор выполнялся через фреймворк JailbreakHub. Указаны модальности tabular и text, задача — text generation.

Что можно сделать

  • Оценить устойчивость LLM к джейлбрейкам
  • Дообучить классификатор или фильтр вредных промптов
  • Проверить red-team систему
Задачи
Генерация текста
Размер
10K–100K записей
Скачиваний за месяц
3,7 тыс.
Лайков
71

Модели, обученные на нём

Как загрузить

from datasets import load_dataset

ds = load_dataset("TrustAIRLab/in-the-wild-jailbreak-prompts")