LegalVault Models
ONNX-экспорты OCR, эмбеддингов и чата
1 min read
Репозиторий с воспроизводимыми int8/fp16 ONNX-экспортами моделей, которые поставляет LegalVault. Графы собраны из закреплённых upstream-файлов, а манифест служит таблицей URL/SHA/размеров. В наборе — OCR-детектор и распознаватели для разных письменностей, эмбеддинги E5 и чат-декодер LFM3 1.7B.
Ключевые особенности
- OCR: детектор mobile, модуль ориентации строки и распознаватели для арабского, CJK, кириллицы, деванагари, английского, восточнославянских языков, греческого, корейского, латиницы, тамильского, телугу и тайского.
- Для кириллицы оба варианта, int8 и fp16, показывают CER 0.00000 при пороге 0.0200 и 0.0050 соответственно.
- Эмбеддинги
multilingual-e5-small: int8 и fp16, метрика cosine 0.99366 и 1.00000. - Чат-декодер
lfm3-1.7bв int4 и q4f16; токенизатор не перепубликуется — используется upstreamtokenizer.json. - Для CPU: int8 у OCR и E5, int4 у LFM3; для GPU: fp16 у OCR и E5, q4f16 у LFM3.
Пример
Сборка, проверка и пробная публикация набора:
python -m tools.models build --spec all --source-dir /tmp/ocrbench
python -m tools.models validate --spec all --source-dir /tmp/ocrbench
python -m tools.models publish --dry-run
Подробнее
Кириллица: CER 0.00000 в int8 и fp16.E5-small: cosine 0.99366 (int8) и 1.00000 (fp16).
Арабский OCR: CER 0.01423 (int8) и 0.00331 (fp16).
Экспорты воспроизводимы из pinned upstream; манифест — источник URL/SHA/байтов.










Comments