DistilBERT Phishing Detection

Это дообученная модель на базе distilbert-base-uncased от автора Aaqib099. Архитектура encoder-only, задача — бинарная классификация текста: безопасное письмо (0) или фишинговое (1). Размер около 0.07 млрд параметров, язык — английский.

🔥 Ключевые особенности

• ✅ Бинарная классификация писем: Safe Email vs Phishing Email.
• 🦾 Дообучение на очищенном наборе из 17 537 писем: 14 029 / 1 754 / 1 754 для train/val/test.
• 👁 Контекст до 256 токенов; обучение 2 эпохи, learning rate 2e-5.
• 🤩 По тесту: accuracy 98.86%, precision 98.33%, recall 98.63%, F1 98.48%.
• 📉 Подходит как быстрый baseline, но не заменяет антифишинговые системы.

🤩 Пример

from transformers import pipeline

classifier = pipeline('text-classification', model='Aaqib099/distilbert-phishing-detection')
result = classifier('Urgent! Verify your account by clicking this link.')
print(result)

Подробнее

На тесте: accuracy 98.86%, F1 98.48%, recall 98.63%.
Обучение: 2 эпохи, lr 2e-5, max length 256, NVIDIA Tesla T4.
Ограничения: обучено на одном датасете, на реальных письмах результаты могут отличаться; вход обрезается до 256 токенов; прогнозы не являются гарантированным решением по безопасности.