JobBERT-CRF
NER для резюме и вакансий
2 min readupdated
Модель разбирает английские резюме и описания вакансий на четыре сущности: навыки, должность, образование и опыт. На выходе — списки найденных фрагментов и эвристическая оценка experience_years в годах. Это не стандартный token-classification чекпоинт: поверх jjzha/jobbert-base-cased (~110M параметров) добавлен CRF-слой с Viterbi-декодированием и запретом невалидных BIO-переходов, поэтому загружать её нужно через t1_ner_predict.py. Подойдёт для HR-tech: парсинга CV, сравнения резюме с вакансией и разметки job descriptions.
Ключевые особенности
- Четыре типа сущностей:
SKILL,JOB_TITLE,EDUCATION,EXPERIENCE. - Кастомная PyTorch-модель: dropout → linear emissions → CRF, а не обычный
AutoModelForTokenClassification. - CRF консервативнее softmax-головы: меньше сущностей, но заметно меньше фрагментов.
- Обучена на ~824 CV и ~9.6k предложений из вакансий; ненадёжные метки CV обрабатываются как неизвестные.
- Возвращает сущности в нижнем регистре без дублей и добавляет
experience_years.
Что можно сделать
- Собрать парсер английских резюме: вытаскивать навыки, должность, образование и опыт.
- Сравнивать CV и вакансию по извлечённым навыкам и названию должности.
- Автоматически размечать вакансии для поиска и аналитики по требуемым навыкам.
Пример
import os, sys
from huggingface_hub import hf_hub_download
sys.path.insert(0, os.path.dirname(hf_hub_download("WwzFwz/jobbert-crf-cv-jd-ner", "t1_ner_predict.py")))
from t1_ner_predict import load, extract
model, tk = load(model_dir="ner_jobbert_crf", repo_id="WwzFwz/jobbert-crf-cv-jd-ner")
extract(["Data Engineer with 3 years of experience in Python, Spark and AWS."], model, tk)
Подробнее
Метрики: CV exact micro-F1 0.470 (partial 0.604), JD partial micro-F1 0.801; SKILL на JD — 0.785.База — jjzha/jobbert-base-cased (~110M параметров); CRF-голова обучена 3 эпохи.
Ограничения: только английский, CV в обучении в основном IT-резюме из Индии; склеенный текст ухудшает извлечение.
Это учебный проект NLP (Institut Teknologi Bandung). Лицензия базовой модели не указана; производная — для академического некоммерческого использования.










Comments