Датасет · PKU-Alignment
Предпочтения и Q-A для безопасности LLM
PKU-Alignment/PKU-SafeRLHF
Данные для обучения и оценки безопасных ответов: предпочтения, пары вопрос-ответ и промпты на английском.
Что внутри
Датасет содержит данные для исследования безопасности языковых моделей: предпочтения по одному измерению, пары вопрос-ответ и промпты; может включать оскорбительный или вредный контент. Язык — английский, размер — от 100 тыс. до 1 млн записей, формат — табличные и текстовые данные. Автор — PKU-Alignment.
Что можно сделать
- Обучить reward-модель для RLHF
- Дообучить LLM безопасным ответам через SFT
- Проверить фильтры вредного контента
- Задачи
- Генерация текста
- Языки
- Английский
- Размер
- 100K–1M записей
- Скачиваний за месяц
- 16,9 тыс.
- Лайков
- 207
Модели, обученные на нём
- mradermacher/piano-medley-7b-i1-GGUF 3,2 тыс.
- mradermacher/piano-medley-7b-GGUF 1,2 тыс.
- NCSOFT/Llama-3-OffsetBias-RM-8BКлассификация текста 1,2 тыс.
- PKU-Alignment/beaver-7b-v1.0-costОбучение с подкреплением 804
- mradermacher/Llama-3-OffsetBias-8B-GGUF 555
- mradermacher/beaver-7b-v2.0-GGUFОбучение с подкреплением 516
- mradermacher/AmberSafe-i1-GGUF 497
- MaziyarPanahi/piano-medley-7b-Mistral-7B-Instruct-v0.1-GGUFГенерация текста 450
Как загрузить
from datasets import load_dataset
ds = load_dataset("PKU-Alignment/PKU-SafeRLHF")