BioHCL-SSSM
лёгкая гибридная архитектура для диагностики пневмонии
2 мин чтенияобновлено
BioHCL-SSSM — это гибридная модель компьютерного зрения от автора unknownBrain, объединяющая свёрточные нейросети и пространства состояний (Hierarchical Convolutional State-Space Hybrid Architecture) для выявления детской пневмонии по рентгеновским снимкам грудной клетки. В репозитории собран полный рабочий процесс: 10 обученных чекпоинтов кросс-валидации, модульный код на PyTorch, скрипты оценки, генераторы тепловых карт и таблицы сравнений с другими архитектурами. При размере всего в 14,01 млн параметров модель обходит по точности гораздо более тяжёлые трансформеры вроде ViT-Base (86,57 млн параметров). Проект пригодится исследователям в области медицинского ИИ, разработчикам систем анализа рентгенограмм и тем, кто изучает компактные альтернативы Vision Transformers.
Ключевые особенности
- Компактность и скорость: модель содержит 14,01 млн параметров и требует 8,56 GFLOPs, но на официальном тесте превосходит ViT-Base (96,47% против 92,47% точности) при сокращении числа параметров на 83,8%, а также опережает Swin-T при вдвое меньшем размере.
- Высокая точность на кросс-валидации: на 10 фолдах модель показала среднюю точность 99,37% (±0,33%), F1-score 0,9957 и ROC-AUC 0,9929, допустив всего 33 ошибки на 5 232 изображениях.
- Инструменты интерпретируемости (XAI): в состав проекта входит скрипт
build_xai.pyдля построения карт внимания и объяснения решений модели методами Attention, GradCAM, LIME и SHAP. - Полная воспроизводимость: помимо весов всех 10 фолдов (по 54 МБ каждый) и лучшего чекпоинта
best_student_cv.pt, опубликованы сырые логи 64 прогонов абляции, CSV-таблицы с метриками и готовые графики ROC, PR и матриц ошибок.
Что можно сделать
- Использовать готовые веса для инференса и дообучения: загрузить чекпоинт
best_student_cv.pt(точность на валидации 99,81%, recall 100%) или любой из 10 фолдов для экспериментов с классификацией рентгеновских снимков. - Визуализировать области патологий: запустить
build_xai.py, чтобы получить тепловые карты GradCAM, LIME или SHAP и проверить, на какие участки лёгких опирается нейросеть при постановке диагноза. - Воспроизвести абляционные эксперименты: воспользоваться автономным скриптом
run_colab_remaining_ablations.pyдля запуска оставшихся прогонов с разными весами функции потерь (lambda_bio) и сравнения с базовым механизмом внимания MHSA.
Пример
git clone [https://huggingface.co/unknownBrain/BioHCL-SSSM-Complete-Workspace](https://huggingface.co/unknownBrain/BioHCL-SSSM-Complete-Workspace)
cd BioHCL-SSSM-Complete-Workspace
pip install torch torchvision timm albumentations huggingface_hub scikit-learn pandas pillow
python run_colab_remaining_ablations.py
Подробнее
Официальный тестовый набор (624 снимка из датасета Guangzhou Women and Children’s Medical Center, Kermany et al., 2018): 96,47% Accuracy, 97,22% F1, 99,37% ROC-AUC.Лучший фолд кросс-валидации (Fold 2): 99,81% Accuracy, 0,9987 F1, 100% Recall, 99,26% Specificity.
Железо и время: скрипт оставшихся экспериментов занимает около 10 минут на GPU уровня RTX 3080 Ti или в Google Colab.
Лицензия: MIT.










Комментарии