TinyGuard1.1-22M
сверхлёгкий фильтр спама, фишинга и промпт-инъекций
2 мин чтенияобновлено
Компактный текстовый классификатор от автора Kuantum-ai1, который помогает отсеивать небезопасные английские сообщения. На входе модель получает текст, а на выходе относит его к одному из четырёх классов: safe (безопасно), spam (спам), phishing (фишинг) или prompt_injection (попытка взломать инструкции нейросети). В основе лежит компактная архитектура MiniLM-L6-H384-uncased размером всего 22,7 млн параметров. По сравнению с первой версией TinyGuard1-22M модель получила аугментацию данных и заметно подтянула точность распознавания фишинга. Пригодится разработчикам ботов, чатов и LLM-приложений как быстрый первый рубеж проверки входящего текста.
Ключевые особенности
- Сверхмалый размер: всего 22,7 млн параметров — легко запускается даже на слабом железе без тяжёлых видеокарт.
- Четыре класса угроз: разделяет обычный текст, спам, фишинговые ссылки и prompt injection.
- Устойчивость к обфускации: при обучении использовались аугментации с опечатками, пробелами, регистром и гомоглифами (похожими символами из других алфавитов).
- Открытая лицензия: распространяется под Apache-2.0, подходит для коммерческих проектов.
Что можно сделать
- Защитить LLM-ассистента: поставить модель перед основной языковой моделью для отлова prompt injection до генерации ответа.
- Фильтровать входящие сообщения: встроить проверку в англоязычные чаты, формы обратной связи или почтовые шлюзы для отсева спама и фишинга.
Пример
from transformers import pipeline
clf = pipeline("text-classification", model="Kuantum-ai1/TinyGuard1.1-22M")
print(clf("Congratulations! You won a free prize, click here to claim it."))Подробнее
Метрики на тесте: Accuracy — 0.9865 (+0.0196 к v1), Macro F1 — 0.9850, Phishing Recall — 0.9689 (+0.0434 к v1).Контекст: максимальная длина входной последовательности — 320 токенов, язык — английский.
Обучение: дообучалась 5 эпох в PyTorch на одной GPU T4 в fp16 на сбалансированном датасете (21 148 safe и по 9000 примеров остальных классов).










Комментарии