blueprint-ai-hq-main/glassnet-readable-vision-21
полностью интерпретируемый классификатор изображений
2 мин чтенияобновлено
Glassnet-Readable-Vision-21 представляет собой уникальную модель классификации изображений, в которой полностью отсутствуют скрытые слои «черного ящика». Каждый из 21 нейрона среднего слоя представляет собой понятную формулу, которую можно вычислить вручную по пикселям изображения. Модель работает на чистом numpy и формате safetensors без использования PyTorch, достигая точности 84.62% на датасете Fashion-MNIST при всего 15 977 параметрах. Она отлично подойдет исследователям и разработчикам, изучающим прозрачность и интерпретируемость нейросетей.
Ключевые особенности
- Полная прозрачность: 21 нейрон среднего слоя с явными формулами (яркость, симметрия, текстура, края).
- Высокая точность: 84.62% на Fashion-MNIST при паритете с контрольной моделью аналогичного размера.
- Работа без PyTorch: загрузка и инференс с использованием только numpy и safetensors.
- Аудит честности: 20 из 21 концептов успешно прошли проверку на соответствие собственному имени.
Что можно сделать
- Изучение архитектуры: разобрать исходный код и формулы концептов для анализа принципов работы прозрачных моделей.
- Эксперименты с классификацией: запустить модель на numpy для классификации 28x28 черно-белой одежды из Fashion-MNIST.
- Абляция и тестирование: провести тесты с нулевым значением или перемешиванием концептов для оценки их влияния на результат.
Пример
Загрузка модели и работа с весами через numpy и safetensors для классификации изображений без тяжелых фреймворков глубокого обучения.
Подробнее
Бенчмарки: точность 84.62% (held-out), контрольный показатель 84.86%, точность при нулевом слое 9.98%Ограничения: работает с Fashion-MNIST (28x28 grayscale), не описывает изображения словами и не подходит для обычных фотографий
Детали: содержит 15 977 параметров в файле model.safetensors с конфигурацией в config.json










Комментарии