Yak Candidate Classifier
компактный классификатор текста по заданным меткам
2 мин чтенияобновлено
Модель решает задачу zero-shot классификации (определения категории текста без дообучения) и оценки логических связей между парами предложений. Вы передаёте ей короткий текст и свой список возможных вариантов ответа (кандидат-меток), а на выходе получаете эти метки, отсортированные по нормализованной оценке уверенности. Под капотом — лёгкая трансформер-архитектура из 4 энкодер-блоков с размером скрытого слоя 128, 4 головами внимания и собственным BPE-токенизатором (разбивает текст на подслова) на 30 005 токенов, разработанная автором gbalachandhiran. В отличие от тяжёлых языковых моделей, она работает очень быстро и в комплекте уже содержит готовый скрипт yak_inference.py для запуска. Подойдёт разработчикам для быстрой маршрутизации коротких запросов в ботах и сервисах.
Ключевые особенности
- Компактная архитектура: 4 блока трансформера, hidden size 128 и 4 головы внимания.
- Защита от смещения порядка: по умолчанию модель перемешивает список меток и усредняет результат за 4 прохода.
- Поддержка двух режимов: классификация одиночного текста (до 96 токенов) и сравнение пары предложений premise + hypothesis (до 64 и 32 токенов).
- Готовый к работе пакет: в репозитории уже лежат веса в
safetensors, словарь BPE и обёрткаYakClassifier.
Что можно сделать
- Определять намерения пользователей в банковских и сервисных чат-ботах по сценариям уровня Banking77 и CLINC (перевод денег, проверка баланса, блокировка карты).
- Проверять логическое следование, нейтральность или противоречие между двумя короткими фразами по схеме SNLI.
- Встроить в лёгкий Python-микросервис для первичной сортировки коротких обращений без необходимости поднимать большие LLM.
Пример
from huggingface_hub import snapshot_download
import sys
model_dir = snapshot_download("gbalachandhiran/yak-candidate-classifier")
sys.path.insert(0, model_dir)
from yak_inference import YakClassifier
clf = YakClassifier.from_pretrained(model_dir)
print(clf.predict("I need to transfer money", candidate_labels=["transfer money", "check balance"]))
Подробнее
Поддерживаемые задачи по метаданным пакета: Banking77, CLINC и SNLI; конкретные цифры бенчмарков в карточке не приведены.Ограничения длины: до 2 048 токенов суммарно, входной текст обрезается до 96 токенов, метки-кандидаты — до 12 токенов.
Оценки нормализуются только внутри переданного списка кандидатов и не являются откалиброванными вероятностями.
Лицензия в карточке не указана.










Комментарии