К содержимому

Датасет · nvidia

Размеченный датасет безопасности диалогов от NVIDIA

nvidia/Aegis-AI-Content-Safety-Dataset-1.0

Около 11 тысяч размеченных вручную диалогов для классификации рисков и модерации контента LLM.

Что внутри

Открытый датасет от NVIDIA (лицензия CC-BY-4.0) на английском языке, содержащий примерно 11 000 диалогов между человеком и моделью. Все взаимодействия размечены вручную по таксономии безопасности NVIDIA, включающей 13 критических категорий риска.

Что можно сделать

  • Обучение классификаторов безопасности и фильтров модерации (guardrails) для LLM
  • Оценка уязвимости языковых моделей к генерации опасного контента
Задачи
Классификация текста
Языки
Английский
Размер
10K–100K записей
Скачиваний за месяц
1,6 тыс.
Лайков
63

Модели, обученные на нём

Как загрузить

from datasets import load_dataset

ds = load_dataset("nvidia/Aegis-AI-Content-Safety-Dataset-1.0")