Датасет · unalignment

Крошечный токсичный набор для DPO

unalignment/toxic-dpo-v0.1

Небольшой набор вредных примеров, показывающий, как DPO быстро снимает выравнивание модели.

Что внутри

Датасет состоит из очень токсичных и «вредных» примеров и создан, чтобы показать, как с помощью DPO можно быстро «расцензурить» или снять выравнивание модели на очень небольшом числе примеров. Многие примеры всё ещё содержат предупреждения и дисклеймеры, поэтому данные отчасти отредактированы. Размер — менее 1K записей, модальность — текст. Для использования нужно согласиться с тем, что внутри токсичный контент и ненормативная лексика.

Что можно сделать

Исследование DPO и снятия выравнивания
Красная команда и оценка безопасности
Проверка устойчивости фильтров токсичности

Размер: до 1K записей
Скачиваний за месяц: 72
Лайков: 143

Модели, обученные на нём

Как загрузить

from datasets import load_dataset

ds = load_dataset("unalignment/toxic-dpo-v0.1")

Открыть на Hugging Face