Датасет · nvidia
Размеченный датасет безопасности диалогов от NVIDIA
nvidia/Aegis-AI-Content-Safety-Dataset-1.0
Около 11 тысяч размеченных вручную диалогов для классификации рисков и модерации контента LLM.
Что внутри
Открытый датасет от NVIDIA (лицензия CC-BY-4.0) на английском языке, содержащий примерно 11 000 диалогов между человеком и моделью. Все взаимодействия размечены вручную по таксономии безопасности NVIDIA, включающей 13 критических категорий риска.
Что можно сделать
- Обучение классификаторов безопасности и фильтров модерации (guardrails) для LLM
- Оценка уязвимости языковых моделей к генерации опасного контента
- Задачи
- Классификация текста
- Языки
- Английский
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 1,6 тыс.
- Лайков
- 63
Модели, обученные на нём
- nvidia/Aegis-AI-Content-Safety-LlamaGuard-Defensive-1.0Классификация текста 1,8 тыс.
- nvidia/Aegis-AI-Content-Safety-LlamaGuard-Permissive-1.0Классификация текста 911
- blackmallangcow/nari-decision-4bЭмбеддинги 445
- KucLab/Barist.1Классификация текста 143
- KucLab/Censer.1Классификация текста 120
- KucLab/Barist.2Классификация текста 80
- KucLab/Censer.8Классификация текста 74
- KucLab/Censer.9Классификация текста 57
Как загрузить
from datasets import load_dataset
ds = load_dataset("nvidia/Aegis-AI-Content-Safety-Dataset-1.0")