К содержимому

Датасет · Frontier-AI-Research

Бенчмарк морального выравнивания MORALISE

Frontier-AI-Research/MORALISE

Набор текстовых и визуальных примеров для оценки моральных ориентиров языковых и мультимодальных моделей.

Что внутри

Репозиторий содержит данные и код для проверки морального выравнивания (moral alignment) как текстовых, так и работающих с изображениями нейросетей. Примеры разделены по директориям на морально «правильные» и «неправильные» сценарии. Размер датасета составляет от 1 до 10 тысяч примеров.

Что можно сделать

  • Оценка этичности и безопасности ответов открытых и закрытых LLM и VLM
  • Сравнение разных моделей по склонности к нарушению моральных норм на тексте и картинках
Размер
1K–10K записей
Скачиваний за месяц
23,6 тыс.
Лайков
0

Как загрузить

from datasets import load_dataset

ds = load_dataset("Frontier-AI-Research/MORALISE")