Датасет · Frontier-AI-Research
Бенчмарк морального выравнивания MORALISE
Frontier-AI-Research/MORALISE
Набор текстовых и визуальных примеров для оценки моральных ориентиров языковых и мультимодальных моделей.
Что внутри
Репозиторий содержит данные и код для проверки морального выравнивания (moral alignment) как текстовых, так и работающих с изображениями нейросетей. Примеры разделены по директориям на морально «правильные» и «неправильные» сценарии. Размер датасета составляет от 1 до 10 тысяч примеров.
Что можно сделать
- Оценка этичности и безопасности ответов открытых и закрытых LLM и VLM
- Сравнение разных моделей по склонности к нарушению моральных норм на тексте и картинках
- Размер
- 1K–10K записей
- Скачиваний за месяц
- 23,6 тыс.
- Лайков
- 0
Как загрузить
from datasets import load_dataset
ds = load_dataset("Frontier-AI-Research/MORALISE")