bert-base-turkish-tr-wiki-qa
турецкая extractive QA на BERT
2 мин чтенияобновлено
BERTurk (dbmdz/bert-base-turkish-cased) дообучен на Aykanugur157/tr-wiki-qa — 67 661 строка. Модель извлекает ответ из контекста: на вход вопрос и пассаж, на выходе span. 0,11 млрд параметров, только турецкий; автор — Aykanugur157.
Ключевые особенности
- База — BERTurk, 0,11 млрд параметров; язык — турецкий.
- Extractive QA: возвращает фрагмент контекста, а не генерирует текст.
- Обучение: 2 эпохи, LR 3e-05, effective batch 32, окно 384 токена (шаг 128), fp16, Tesla T4.
- На tr-wiki-qa test: EM 91.73, F1 95.09; на XQuAD-tr: EM 43.11, F1 62.31.
- В transformers 5.x pipeline question-answering удалён — в карточке прямой вызов AutoModelForQuestionAnswering.
- Не умеет отвечать «нет ответа»: если ответа в контексте нет, всё равно вернёт span.
Пример
from transformers import AutoModelForQuestionAnswering, AutoTokenizer
repo = 'Aykanugur157/bert-base-turkish-tr-wiki-qa'
tok = AutoTokenizer.from_pretrained(repo)
model = AutoModelForQuestionAnswering.from_pretrained(repo).eval()
# question + context -> tokenizer(..., truncation='only_second', max_length=512)
# start/end logits маскируются вне контекста
# ответ = context[offsets[start][0]:offsets[end][1]]
Подробнее
tr-wiki-qa test: EM 91.73 / F1 95.09; XQuAD-tr: EM 43.11 / F1 62.31.Данные tr-wiki-qa сгенерированы LLM и не проверены людьми; нет примеров без ответа; ответы короткие, медиана 12 символов.
XQuAD-tr — человеческий перевод, в обучении не использовался. Не применять для медицинских/юридических решений. Лицензия модели — CC BY-SA 4.0.
Сравнение с savasy/bert-base-turkish-squad не является честным соревнованием: разные данные, один запуск, один seed.










Комментарии