Датасет · nvidia
Безопасность ответов LLM: 33 тыс. диалогов
nvidia/Aegis-AI-Content-Safety-Dataset-2.0
33 416 размеченных взаимодействий человека и LLM для классификации небезопасного контента.
Что внутри
Датасет содержит 33 416 аннотированных взаимодействий между людьми и LLM. Он разделён на 30 007 обучающих, 1 445 валидационных и 1 964 тестовых примера. Это расширение Nemotron Content Safety Dataset V1; при сборе использовали human preference data с Hugging Face. Язык — английский.
Что можно сделать
- Обучить классификатор безопасности контента
- Оценить модерацию ответов LLM
- Дообучить LLM-модератор на размеченных диалогах
- Задачи
- Классификация текста
- Языки
- Английский
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 24,7 тыс.
- Лайков
- 120
Модели, обученные на нём
- GaleneAI/llama-3.1-nemoguard-8b-content-safety-merged-NVFP4 25,8 тыс.
- jaredpalmer/kev-0.8bКлассификация текста 14,2 тыс.
- jaredpalmer/kev-4bКлассификация текста 12,9 тыс.
- jaredpalmer/kev-9bКлассификация текста 3,4 тыс.
- jaredpalmer/kev-27bКлассификация текста 3,2 тыс.
- vllm-sr/Vela-2.0-0.3BZero-shot классификация 3 тыс.
- vllm-sr/Vela-2.0-0.8BZero-shot классификация 1,9 тыс.
- mradermacher/kev-27b-GGUFmultiple choice 1,8 тыс.
Как загрузить
from datasets import load_dataset
ds = load_dataset("nvidia/Aegis-AI-Content-Safety-Dataset-2.0")