Датасет · lmsys
ToxicChat: токсичные промпты
lmsys/toxic-chat
10K промптов из демо Vicuna с разметкой токсичности для классификации.
Что внутри
ToxicChat содержит разметку токсичности для 10K пользовательских промптов, собранных из онлайн-демо Vicuna. Есть версия toxicchat0124, обновлённые результаты OpenAI Moderation API и официальная T5-Large baseline. Язык — английский, модальности — text и tabular.
Что можно сделать
- Обучение классификатора токсичности
- Оценка модерации чат-ботов
- Сравнение с T5-Large baseline
- Задачи
- Классификация текста
- Языки
- Английский
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 11,5 тыс.
- Лайков
- 216
Модели, обученные на нём
- vllm-sr/mmbert32k-jailbreak-detector-mergedКлассификация текста 3,1 тыс.
- nickprock/archai-jev-qwen-1.5bГенерация текста 1,5 тыс.
- OpenSafetyLab/MD-Judge-v0.1Генерация текста 714
- DominicTWHV/Horizon-1-Text-LargeКлассификация текста 159
- DominicTWHV/Constellation-One-TextКлассификация текста 115
- Verm1ion/injection-sentry-xlmrКлассификация текста 89
- opus-research/opus-moderation-4-largeКлассификация текста 67
- 0xdewy/promptscanКлассификация текста 62
Как загрузить
from datasets import load_dataset
ds = load_dataset("lmsys/toxic-chat")