Датасет · LibrAI
Набор провокационных промптов для проверки безопасности LLM
LibrAI/do-not-answer
Компактный датасет из менее чем 1000 опасных промптов на английском языке для оценки защитных фильтров языковых моделей.
Что внутри
Датасет содержит менее 1000 текстовых и табличных записей на английском языке, отфильтрованных так, чтобы включать только запросы, на которые ответственная языковая модель должна отказывать в ответе. Помимо ручной разметки, авторы предлагают оценку с помощью дообученной BERT-подобной модели на 600M параметров. Набор создан для недорогой проверки механизмов безопасности LLM.
Что можно сделать
- Тестирование устойчивости и защитных барьеров (safeguards) языковых моделей
- Автоматическая оценка безопасности ответов LLM с помощью компактного классификатора
- Задачи
- Генерация текста
- Языки
- Английский
- Размер
- до 1K записей
- Скачиваний за месяц
- 9,5 тыс.
- Лайков
- 60
Модели, обученные на нём
Как загрузить
from datasets import load_dataset
ds = load_dataset("LibrAI/do-not-answer")