К содержимому

Датасет · LibrAI

Набор провокационных промптов для проверки безопасности LLM

LibrAI/do-not-answer

Компактный датасет из менее чем 1000 опасных промптов на английском языке для оценки защитных фильтров языковых моделей.

Что внутри

Датасет содержит менее 1000 текстовых и табличных записей на английском языке, отфильтрованных так, чтобы включать только запросы, на которые ответственная языковая модель должна отказывать в ответе. Помимо ручной разметки, авторы предлагают оценку с помощью дообученной BERT-подобной модели на 600M параметров. Набор создан для недорогой проверки механизмов безопасности LLM.

Что можно сделать

  • Тестирование устойчивости и защитных барьеров (safeguards) языковых моделей
  • Автоматическая оценка безопасности ответов LLM с помощью компактного классификатора
Задачи
Генерация текста
Языки
Английский
Размер
до 1K записей
Скачиваний за месяц
9,5 тыс.
Лайков
60

Модели, обученные на нём

Как загрузить

from datasets import load_dataset

ds = load_dataset("LibrAI/do-not-answer")