Датасет · ai-safety-institute
Бенчмарк вредоносности LLM-агентов AgentHarm
ai-safety-institute/AgentHarm
Небольшой текстовый бенчмарк для измерения вредоносности действий LLM-агентов.
Что внутри
AgentHarm — бенчмарк для измерения вредности LLM-агентов; в карточке указаны авторы из Gray Swan AI, UK AI Safety Institute и университетов. Датасет текстовый и очень небольшой — меньше 1K примеров. Язык в метаданных не указан.
Что можно сделать
- Оценка безопасности LLM-агентов
- Red-teaming агентных систем
- Проверка guardrails и фильтров
- Размер
- до 1K записей
- Скачиваний за месяц
- 16 тыс.
- Лайков
- 68
Как загрузить
from datasets import load_dataset
ds = load_dataset("ai-safety-institute/AgentHarm")