Датасет · allenai
Примеры для обучения безопасных LLM и модерации
allenai/wildguardmix
Набор текстов с разметкой вредных и безопасных запросов и ответов для исследований безопасности LLM.
Что внутри
WildGuardMix содержит примеры, которые могут быть disturbing, harmful or upsetting: дискриминация, насилие, самоповреждение, сексуальный контент, дезинформация и другие рискованные категории. Цель — продвигать исследования по созданию безопасных LLM. Данные на английском, размер — от 10 тыс. до 100 тыс. примеров; модальности — таблицы и текст. Не рекомендуется обучать LLM только на вредных примерах.
Что можно сделать
- Обучить классификатор безопасности запросов и ответов
- Проверить LLM или модератор на harmful-контенте
- Дообучить LoRA для safety-фильтрации
- Задачи
- Классификация текста
- Языки
- Английский
- Размер
- 10K–100K записей
- Скачиваний за месяц
- 9,9 тыс.
- Лайков
- 121
- Доступ
- по запросу на Hugging Face
Модели, обученные на нём
Как загрузить
from datasets import load_dataset
ds = load_dataset("allenai/wildguardmix")