Датасет · PKU-Alignment
Пары вопрос-ответ с разметкой вреда
PKU-Alignment/BeaverTails
100K+ QA-пар с человеческой разметкой 14 категорий вреда для AI safety.
Что внутри
BeaverTails — коллекция датасетов по безопасности ИИ. В репозитории — человеческая разметка пар «вопрос — ответ» с указанием категорий вреда; одна пара может относиться к нескольким категориям. Описаны 14 категорий, включая жестокое обращение с животными. Язык — английский, модальность — текст.
Что можно сделать
- Обучить классификатор вредных ответов
- Проверить safety-фильтр LLM
- Сделать LoRA для отказов на вредные запросы
- Задачи
- Классификация текста
- Языки
- Английский
- Размер
- 100K–1M записей
- Скачиваний за месяц
- 17,2 тыс.
- Лайков
- 118
Модели, обученные на нём
- PKU-Alignment/beaver-dam-7b 4,4 тыс.
- OpenSafetyLab/MD-Judge-v0_2-internlm2_7bГенерация текста 2,6 тыс.
- mradermacher/MD-Judge-v0_2-internlm2_7b-i1-GGUF 1,1 тыс.
- OpenSafetyLab/MD-Judge-v0.1Генерация текста 714
- mradermacher/torchcast-decision-12b-GGUF 534
- mradermacher/Stentor-30M-Instruct-heretic-safety-defiltered-i1-GGUFГенерация текста 463
- mradermacher/MD-Judge-v0_2-internlm2_7b-GGUF 334
- mradermacher/Stentor-30M-Instruct-heretic-safety-defiltered-GGUFГенерация текста 326
Как загрузить
from datasets import load_dataset
ds = load_dataset("PKU-Alignment/BeaverTails")