cbx-bfs-banking-intent-classifier-17M
сверхбыстрый классификатор банковских запросов
2 min readupdated
Компактная языковая модель от CobuildX-AI, которая определяет намерение (интент) клиента в чате поддержки цифрового банка. На вход подаётся сообщение на английском языке, а на выходе модель возвращает один из 77 стандартных классов датасета BANKING77 (например, card_arrival, pending_transfer или lost_or_stolen_card), краткое описание, оценку уверенности и топ-3 наиболее вероятных варианта. В основе лежит энкодер Ettin-17m размером всего 16,9 млн параметров, что позволяет запускать модель локально на CPU без видеокарты. От крупных LLM через API она отличается минимальной задержкой (около 3 мс на сообщение) и нулевой стоимостью инференса, при этом обходя по точности zero-shot решения вроде Claude Opus 5. Подойдёт разработчикам финтех-сервисов и чат-ботов для мгновенной маршрутизации обращений.
Ключевые особенности
- Высокая скорость на CPU: обработка одного сообщения занимает в среднем 2,89 мс на 8-поточном процессоре (батч из 32 сообщений — 38,82 мс на CPU или 6,09 мс на GPU).
- Точность 92,3%: на тестовой выборке BANKING77 модель набрала 92,3% Accuracy и 0,923 Macro F1, уступив всего 1,4% более тяжёлой версии на 68M параметров.
- 77 банковских интентов: охватывает сценарии цифрового банкинга — выпуск и блокировку карт, пополнение счёта, переводы, обмен валют и верификацию личности.
- Открытая лицензия: веса и код распространяются под Apache-2.0 и разрешены для коммерческого использования.
Что можно сделать
- Маршрутизация тикетов в поддержке: автоматически распределять входящие англоязычные сообщения клиентов по нужным отделам или сценариям бота.
- Фильтрация сложных случаев: использовать показатель уверенности (confidence) как порог, чтобы переводить нестандартные или нераспознанные запросы на живого оператора.
- Локальный инференс без затрат на API: встроить классификатор прямо в бэкенд финтех-приложения на обычном сервере без GPU.
Пример
from transformers import pipeline
clf = pipeline("text-classification", model="CobuildX-AI/cbx-bfs-banking-intent-classifier-17M", revision="v0.1")
clf("Can I add money to my account using Google Pay?")
Подробнее
Бенчмарки (BANKING77, 3080 сообщений): 92,3% Accuracy, 0,923 Macro F1 (против 84,4% у Claude Opus 5 zero-shot и 93,7% у версии 68M).Ограничения: поддерживает только английский язык и сообщения длиной до 128 токенов; не охватывает кредиты, ипотеку и инвестиции.
Особенности: у модели нет класса «вне темы» (out of scope) — любое сообщение привязывается к ближайшему из 77 интентов, а уверенность редко превышает 0,9 из-за label smoothing 0.1.










Comments