К содержимому

Датасет · ai-safety-institute

Бенчмарк вредоносности LLM-агентов AgentHarm

ai-safety-institute/AgentHarm

Небольшой текстовый бенчмарк для измерения вредоносности действий LLM-агентов.

Что внутри

AgentHarm — бенчмарк для измерения вредности LLM-агентов; в карточке указаны авторы из Gray Swan AI, UK AI Safety Institute и университетов. Датасет текстовый и очень небольшой — меньше 1K примеров. Язык в метаданных не указан.

Что можно сделать

  • Оценка безопасности LLM-агентов
  • Red-teaming агентных систем
  • Проверка guardrails и фильтров
Размер
до 1K записей
Скачиваний за месяц
16 тыс.
Лайков
68

Как загрузить

from datasets import load_dataset

ds = load_dataset("ai-safety-institute/AgentHarm")