ViCoR
распознавание и проверка химических формул с изображений
2 min readupdated
Набор чекпоинтов для локального распознавания изображений молекул и преобразования их в машиночитаемые форматы. В состав входят две модели: molscribe.pth (распознаватель MolScribe, превращающий картинку в молекулярный граф) и vicor/ — файнтюн на базе мультимодальной модели Qwen2.5-VL-3B-Instruct, который проверяет и редактирует полученные графы. На выходе система сохраняет итоговый граф, историю раундов проверки, строковое представление SMILES (если структура однозначна) и файл molfile. Решение пригодится химикам, биоинформатикам и разработчикам для оцифровки научных статей и баз данных.
Ключевые особенности
- Двухэтапный пайплайн: связка распознавателя MolScribe и VLM-верификатора на базе Qwen2.5-VL-3B-Instruct, которые загружаются последовательно.
- Готовые веса: директория
vicor/содержит уже объединённые (merged) веса, токенизатор и промпты — отдельная базовая модель или адаптеры не требуются. - Контроль целостности: в репозиторий включены манифест размеров
weights_manifest.jsonи контрольные суммыSHA256SUMSдля проверки файлов. - Пошаговая верификация: пайплайн сохраняет не только финальный результат, но и ответы модели на каждом раунде проверки и правки графа.
Что можно сделать
- Оцифровывать отдельные изображения химических структур в форматы SMILES и molfile для дальнейшего анализа.
- Запускать пакетную рекурсивную обработку целых папок с картинками молекул из научных публикаций или архивов.
- Отслеживать и отлаживать ошибки распознавания сложных структур по сохранённым логам раундов редактирования.
Пример
python -m vicor.download --repo-id anonymous-vicor/ViCoR --output weights
python -m vicor.doctor --weights-dir weights --verify-checksums
python -m vicor --input examples/molecule.png --output outputs/single --weights-dir weights
python -m vicor --input examples/images --output outputs/batch --weights-dir weights --recursive
Подробнее
Общий размер чекпоинтов составляет около 7.9 ГБ; протестировано на Linux с Python 3.11, PyTorch 2.10.0, Transformers 5.2.0 и видеокартой RTX 3090 (24 ГБ VRAM).Ограничения: возможны сбои при распознавании рукописных структур, стрелок механизмов реакций и символических меток (для символьных групп SMILES может быть пустым при сохранении графа).
Лицензии: компонент ViCoR распространяется по Qwen Research License (некоммерческое использование), компонент MolScribe — по Apache-2.0.










Comments