К содержимому

Датасет · mmathys

Тестовый набор OpenAI для модерации нежелательного контента

mmathys/openai-moderation-api-evaluation

Эталонный датасет из статьи OpenAI с разметкой текстов по категориям нарушений для оценки систем модерации.

Что внутри

Внутри находятся текстовые и табличные данные на английском языке, упакованные в архив JSONL (samples-1680.jsonl.gz), общим объёмом от 1 000 до 10 000 примеров. Каждый объект размечен бинарными флагами по таксономии нежелательного контента (например, сексуальный контент и другие категории). Это тестовый набор из научной статьи OpenAI «A Holistic Approach to Undesired Content Detection».

Что можно сделать

  • Бенчмаркинг собственных фильтров безопасности и модерации текста
  • Оценка качества детекции токсичного и запрещённого контента в LLM-пайплайнах
  • Сравнение коммерческих и открытых API модерации на эталонном тесте
Задачи
Классификация текста
Языки
Английский
Размер
1K–10K записей
Скачиваний за месяц
1,4 тыс.
Лайков
39

Модели, обученные на нём

Как загрузить

from datasets import load_dataset

ds = load_dataset("mmathys/openai-moderation-api-evaluation")