BERT sensitive-product classifier
фильтр чувствительных товаров на устройстве
2 min readupdated
Это файнтюн bert-base-uncased примерно на 0,11 млрд параметров от tina-khezresmaeilzadeh для бинарной классификации товаров Amazon: sensitive или nonsensitive. Модель из статьи о приватных LLM-рекомендациях: помеченные товары остаются на устройстве и не отправляются на серверный рекомендатель. Работает с английским текстом.
Ключевые особенности
- На входе — название, главная категория и признаки товара; лимит 128 токенов, порог P(sensitive) > 0.5.
- Обучена на 10 012 товарах Amazon из трёх категорий health/beauty; 1 490 sensitive, разметка GPT-4o.
- Файнтюн с focal loss, 5 эпох, learning rate 2e-5; чекпойнт выбирали по validation F1.
- На валидации: F1 0.868, precision 0.815, recall 0.928 — но это оптимистичная оценка.
- Только английский; модель обучена на трёх health/beauty категориях и классифицирует товары по одному.
Пример
from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch
name = 'tina-khezresmaeilzadeh/bert-sensitive-product-classifier'
tok = AutoTokenizer.from_pretrained(name)
model = AutoModelForSequenceClassification.from_pretrained(name).eval()
x = ['Blood Glucose Monitor Kit\n- Main Category: Health & Personal Care\n- Features: N/A']
p = torch.softmax(model(**tok(x, return_tensors='pt', truncation=True, max_length=128)).logits, -1)[:, 1]
print(p.tolist()) # sensitive, если p > 0.5
Подробнее
В статье на 25 899 записях истории покупок: precision 0.42, recall 0.75, F1 0.54; поймано 91% строго чувствительных товаров.Требования к VRAM и железу в карточке не указаны; вход обрезается до 128 токенов.
«Sensitive» включает обычные средства от симптомов; при слепой проверке 200 товаров человек применял более узкое понятие. Пропуски — в основном мягко чувствительные товары.










Comments