LFM3-1.7B AI Text Detector
LoRA-детектор AI-текста с оценкой 0–100
2 мин чтения
Адаптер от ameenazeemi на базе LiquidAI/LFM3-1.7B: LoRA-дообучение плюс линейный 2-классовый head на последнем токене. Модель оценивает, насколько английский текст похож на сгенерированный AI, по шкале от 0 (человек) до 100 (AI). Обучена на rasbt/human-vs-ai-50k.
Ключевые особенности
- Оценка от 0 до 100 для английского текста: 0 — человек, 100 — AI.
- LoRA r=16, alpha=32 на attention, short-convolution и MLP проекциях; head — Linear(2048, 2).
- Accuracy на тесте — 99.98%, на валидации — 99.94%; для текстов 0–100 слов — 99.9%, длиннее — 100%.
- Обучение: все 40 559 сбалансированных текстов, 2 эпохи, до 1 024 токенов, effective batch size 16, AdamW.
- Одна 16 ГБ GPU, пик 5.6 ГБ, около 11 часов; калибровочная температура 1.007.
Пример
@torch.no_grad()
def ai_score(text):
enc = tokenizer(text, truncation=True, max_length=cfg['max_length'], return_tensors='pt')
hidden = backbone(input_ids=enc['input_ids'], attention_mask=enc['attention_mask']).last_hidden_state
logits = head(hidden[:, -1, :].float()) / cfg['temperature']
return 100 * logits.softmax(dim=-1)[0, 1].item()
print(ai_score('Paste a paragraph here.'))
Подробнее
Accuracy: validation 99.94% (5 085 текстов), test 99.98% (5 066).Обучение заняло ~11 часов на одной 16 ГБ GPU, пик VRAM 5.6 ГБ.
Метрики in-distribution: AI-тексты из нескольких LLM, человеческие — до ChatGPT. На других генераторах, после редактирования/перефраза, не-English и текстах короче ~100 слов точность будет ниже.
Оценка не доказывает авторство; не используйте её в одиночку для решений о людях.










Комментарии