Tiny Aya Ticket Triage Robust
сортировка тикетов с защитой от инъекций
2 мин чтенияобновлено
LoRA-адаптер (небольшая надстройка над базовой моделью) на базе CohereLabs/tiny-aya-global для автоматической обработки обращений в службу поддержки. Модель принимает текст тикета на английском, йоруба или суахили и возвращает структурированный JSON с определением намерения, извлечением сущностей, оценкой тональности и маскированием персональных данных (PII). По сравнению с базовой моделью адаптер значительно точнее определяет тему обращения и стабильнее соблюдает схему JSON. Пригодится исследователям и разработчикам для экспериментов с безопасным триажем мультиязычных заявок.
Ключевые особенности
- 100% валидный парсинг JSON на тестовом наборе из 3 642 примеров и соблюдение схемы на уровне 99,62%.
- Высокая полнота поиска PII — обнаружение персональных данных выросло с 80,16% до 96,09% относительно базовой модели.
- Точная классификация — точность определения намерения (intent accuracy) увеличилась с 48,03% до 77,89%, а entity F1 — с 54,67% до 84,35%.
- Устойчивость к атакам — модель обучалась на 22 559 обычных и состязательных примерах для выявления prompt-инъекций.
Что можно сделать
- Прототип маршрутизации тикетов — протестировать автоматическую разметку входящих обращений на английском, йоруба и суахили с выдачей строгого JSON.
- Исследование безопасности LLM — изучить поведение компактных моделей при попытках prompt-инъекций и утечках данных в поле
redacted_text. - Обезличивание текстов — использовать в исследовательских пайплайнах для предварительного поиска персональных данных в сообщениях пользователей.
Пример
Модель работает в режиме one-shot: на вход подаётся текст обращения пользователя на английском, йоруба или суахили, а на выходе формируется JSON-объект со структурированными полями (намерение, сущности, тональность, очищенный текст redacted_text и флаг обнаружения prompt-инъекции).
Подробнее
Обучение: 22 559 строк (clean + adversarial), чекпоинт 1000, seed 20261112.Тест на инъекции (900 примеров A5–A7): успешность атак снизилась с 16,56% до 14,11%, детекция инъекций выросла с 37,00% до 92,00%, но полнота поиска PII под атакой падает до 45,39%.
Ограничения: адаптер дал ложное срабатывание на инъекцию на всех 9 безобидных диагностических примерах, поэтому для принятия решений нужен внешний фильтр.
Лицензия: только для исследований (non-commercial из-за датасета MasakhaNER 2.0 CC 4.0 NC), не предназначен для автономных действий с аккаунтами.










Комментарии