Датасет · mmathys
Тестовый набор OpenAI для модерации нежелательного контента
mmathys/openai-moderation-api-evaluation
Эталонный датасет из статьи OpenAI с разметкой текстов по категориям нарушений для оценки систем модерации.
Что внутри
Внутри находятся текстовые и табличные данные на английском языке, упакованные в архив JSONL (samples-1680.jsonl.gz), общим объёмом от 1 000 до 10 000 примеров. Каждый объект размечен бинарными флагами по таксономии нежелательного контента (например, сексуальный контент и другие категории). Это тестовый набор из научной статьи OpenAI «A Holistic Approach to Undesired Content Detection».
Что можно сделать
- Бенчмаркинг собственных фильтров безопасности и модерации текста
- Оценка качества детекции токсичного и запрещённого контента в LLM-пайплайнах
- Сравнение коммерческих и открытых API модерации на эталонном тесте
- Задачи
- Классификация текста
- Языки
- Английский
- Размер
- 1K–10K записей
- Скачиваний за месяц
- 1,4 тыс.
- Лайков
- 39
Модели, обученные на нём
Как загрузить
from datasets import load_dataset
ds = load_dataset("mmathys/openai-moderation-api-evaluation")