Llama-MCP-Prompt-Guard-2-V3
классификатор для защиты MCP-инструментов от инъекций
1 мин чтенияобновлено
Модель представляет собой дообученную версию классификатора Meta Llama Prompt Guard 2 (86M параметров), оптимизированную специально для анализа описаний инструментов в рамках фреймворка Model Context Protocol (MCP) на английском языке. Она работает как бинарный классификатор, выявляя попытки промпт-инъекций и джейлбрейков в текстах описаний. Модель создана для использования в качестве асинхронного консультативного сигнала (SHADOW advisory signal) и не заменяет основные механизмы безопасности. Подойдет разработчикам, работающим с архитектурой MCP и системами агентных вызовов.
Ключевые особенности
- Базовая модель: доработанный вариант Meta Llama Prompt Guard 2 86M.
- Назначение: классификация текстов на предмет промпт-инъекций и джейлбрейков.
- Область применения: проверка описаний инструментов в экосистеме MCP.
- Лицензия: распространяется под условиями Llama 4 Community License.
Что можно сделать
- Интегрировать модель в качестве вспомогательного фильтра безопасности для проверки входных описаний инструментов в MCP-системах.
- Использовать набор исполняемых файлов (model.safetensors, config.json и др.) с фиксацией коммита и проверкой SHA-256 для безопасного запуска.
- Настроить асинхронную обработку advisory-сигналов для аудита безопасности агентных сред.
Пример
Модель загружается стандартными средствами библиотек Hugging Face для бинарной классификации текста с проверкой хэша SHA-256 файлов весов.
Подробнее
Архитектура: бинарный классификатор на базе 86M параметровЯзык: английский (English MCP tool description)
Лицензия: Llama 4 Community License
Особенности: обучающий датасет и сырые данные не включены в репозиторий










Комментарии