MCApple Guard v1.0 Flash
исходный код и артефакты детектора промпт-инъекций
1 мин чтенияобновлено
Этот репозиторий представляет собой исходный код и публичные артефакты модели для обнаружения промпт-инъекций, обхода защитных механизмов и подделки системных инструкций в тексте. На выходе инструмент определяет статус текста как безопасный (safe) или атакующий (attack), не выполняя саму поданную строку. Основой служит готовый ONNX-артефакт для инференса, отдельный нативный чекпоинт обучения на базе DeBERTa-v2, а также прилагаемый FastAPI-сервис. Решение пригодится разработчикам AI-агентов и системных шлюзов для дополнительной фильтрации входящих запросов перед их обработкой.
Ключевые особенности
- Включает готовый FastAPI-сервис для развертывания локального API детектирования
- Поддерживает быстрый локальный CPU ONNX инференс через скрипты предсказания
- Содержит переносимый тренер для дообучения и экспорта с проверкой паритета
- Поддерживает скользящее окно обработки текста с ограничением до 3584 токенов
Что можно сделать
- Запустить собственный локальный API-сервис детектирования атак через Uvicorn
- Проверить текст на попытки взлома промпта с помощью скрипта предсказания на ONNX
- Провести локальное дообучение модели на собственных размеченных JSONL-датасетах
- Экспортировать обученные чекпоинты в формат ONNX с проверкой совпадения результатов
Пример
Запуск локального FastAPI-сервиса через командную строку с генерацией API-ключа:
export API_KEY="$(python -c 'import secrets; print(secrets.token_urlsafe(32))')"
python -m uvicorn app:app --host 127.0.0.1 --port 8000Подробнее
Порог классификации (threshold): 0.067598Архитектура: DeBERTa-v2 с шестью слоями энкодера
Ограничения: максимальная длина текста 32768 символов, до 16 окон по 256 токенов
Требования: Python 3.12, PyTorch 2.8+, Transformers 4.57.6










Комментарии