К содержимому
Другое

HTR-500M

быстрое распознавание рукописного текста на 16+ языках

2 мин чтения

Компактная модель на 497 млн параметров от автора jeeva0810 для HTR (Handwritten Text Recognition — распознавание рукописного текста). Она принимает обрезанное изображение одного слова или одной строки и за один проход переводит их в текст. В основе лежит 24-слойный энкодер Transformer со свёрточным входом и выходом CTC (алгоритм декодирования без авторегрессии), благодаря чему модель работает без генерации токен за токеном и обходит по точности даже 27-миллиардную Qwen 3.8 на 20 из 24 тестовых наборов. Пригодится разработчикам систем оцифровки архивов, анкет и исторических документов, которым нужна высокая пропускная способность на скромном железе.

Ключевые особенности

  • Поддержка 16+ языков и рукописей: уверенно читает английский, французский, норвежский, китайский, вьетнамский, 11 индийских языков и средневековые латинские манускрипты.
  • Высокая скорость без vLLM: так как у модели нет декодера, на одной NVIDIA H200 (в bf16) она обрабатывает до 3 700 изображений слов или 1 300 строк в секунду батчами.
  • Раздельные режимы для слов и строк: параметр kind переключает статистику нормализации под тип обрезки (для английских слов это снижает процент ошибок по символам CER с 5.3% до 2.8%).
  • Готовый HTTP-сервер в комплекте: в репозитории есть serve.py на базе FastAPI с динамическим батчингом для параллельных запросов.

Что можно сделать

  • Оцифровка исторических архивов и переписей: в карточке модель протестирована на средневековых манускриптах CATMuS и исторических французских документах (Belfort, POPP).
  • Высоконагруженный API распознавания бланков: развернуть serve.py с эндпоинтом /recognize_batch для массовой обработки уже нарезанных полей форм и анкет.
  • Локальная замена тяжёлым VLM: использовать вместо многомиллиардных мультимодальных моделей в пайплайнах, где детектор строк уже выделяет фрагменты текста.

Пример

from huggingface_hub import snapshot_download
import sys; path = snapshot_download("jeeva0810/htr-500m-multilingual"); sys.path.insert(0, path)
from htr_infer import Recognizer
from PIL import Image

rec = Recognizer(path)
print(rec.recognize([Image.open("word.png")], kind="word"))
print(rec.recognize([Image.open("line.png")], kind="line"))
ПодробнееБенчмарки (полные тестовые выборки, жадное декодирование): CER 0.87% / WER 2.4% на английских словах (ICDAR-24), CER 1.23% на хинди, CER 4.61% на французских строках (RIMES) и CER 11.3% на средневековых манускриптах (CATMuS).
Требования и вес: файл model.safetensors весит 2.0 ГБ (float32), для одного инстанса сервера требуется около 2 ГБ видеопамяти под веса плюс память под батч.
Ограничения: модель не умеет сама искать строки на странице (нужна предварительная обрезка), не работает с арабским языком (62% CER), плохо читает строки с соотношением ширины к высоте больше 20:1, а русский, японский и корейский видела при обучении только в виде синтетического печатного текста.
Лицензия: часть обучающих датасетов (включая IAM и RIMES) предназначена только для некоммерческих исследований — проверяйте условия перед коммерческим использованием.
Обсудить Telegram 0

Запустится ли?

Считаем требования к памяти

Бот ещё собирает размеры весов этой модели — оценка появится здесь через несколько минут. Пока можно арендовать видеокарту с запасом.

Massed ComputeОткрыть Massed Compute

Запуск на Massed Compute

Скрипт скачает модель на арендованную машину. Как её запустить — в карточке модели.

  1. 1. Арендуйте машину с подходящей видеокартой

    Открыть Massed Compute
  2. 2. Вставьте скрипт в терминал машины

    Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.

    HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.

    # jeeva0810/htr-500m-multilingual
    # ===== Токены: вставьте свои между кавычками =====
    export HF_TOKEN=""        # huggingface.co/settings/tokens — для закрытых моделей
    # ==========================================
    mkdir -p ~/models
    curl -LsSf https://astral.sh/uv/install.sh | sh
    source "$HOME/.local/bin/env"
    uv tool install "huggingface_hub[cli]"
    hf download jeeva0810/htr-500m-multilingual --local-dir ~/models/htr-500m-multilingual
    # Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).
    Добавить ещё LoRA к htr-500m-multilingual
  3. 3. Пользуйтесь

    Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).

Не забудьте остановить машину в панели, когда закончите: оплата идёт поминутно, пока она включена.

Как ускорить

Подобрано под тип модели. Выберите своё железо в блоке выше — покажем то, что подходит именно вам.

  • FlashAttention 44.0.0b40от 18 ноября 2026новая версия

    самое быстрое точное внимание на B200

    Ядра для Blackwell (пока бета). Точное внимание без квантования — подходит для всего, включая LLM.

    Как включить: pip install flash-attn-4; vLLM и SGLang подхватывают сами.

    Предыдущие поколения (2)
    • FlashAttention 3 — Версия для Hopper (H100/H200) с FP8.
    • FlashAttention 2 — Стандарт для RTX 30/40/50 и A100: точное внимание без лишней памяти на длинных контекстах.
  • torch.compile2.15.0от 28 октября 2026новая версия

    10–30% бесплатно

    Компилирует модель под вашу видеокарту. Первый запуск дольше, дальше быстрее.

    Как включить: model = torch.compile(model); в ComfyUI — узел TorchCompileModel.

Семья модели

Новые посты про версии htr-500m-multilingual — сжатые, дообучения, LoRA — появятся в колокольчике.

У этой модели пока нет известных родственников. Все производные на Hugging Face

О модели

jeeva0810/htr-500m-multilingual
Автор
jeeva0810
Категория
Другое
Дата выхода
На сайте

На сайте

Hugging Face

00

Спросить нейросеть об этой модели

Отвечает Gemini 4 · переписка хранится только в этой вкладке

Комментарии