is-this-ai-models
детекторы ИИ-картинок прямо в браузере
2 мин чтенияобновлено
Набор из четырёх готовых моделей для определения того, сгенерировано ли изображение нейросетью. Модели сконвертированы в формат ONNX (универсальный формат для запуска нейросетей) с половинной точностью FP16, чтобы работать локально в веб-браузере через библиотеку onnxruntime-web без отправки картинок на сервер. Репозиторий подготовлен для исследовательского прототипа «Is this image AI?» от команды Mozilla Future of the Web. Пригодится веб-разработчикам, создателям расширений для браузера и модераторам контента.
Ключевые особенности
- Запуск на стороне клиента: оптимизированы для работы в браузере с помощью
onnxruntime-web. - Четыре разные архитектуры: внутри лежат адаптированные версии моделей на базе SwinV2, SigLIP, SDXL-детектора и CommFor.
- Формат FP16: веса переведены в половинной точности (
model_fp16.onnx) для уменьшения размера файлов и ускорения работы. - Готовые конфиги препроцессинга: к каждой модели прилагается файл
prep.jsonс параметрами предварительной обработки изображения. - Сохранение точности: при проверке на 363 тестовых картинках вердикты на пороге 95% уверенности совпали с оригиналами на PyTorch (изменился лишь один пограничный случай у SwinV2: с 0.933 до 0.956).
Что можно сделать
- Встроить локальную проверку картинок на генерацию ИИ в расширение для браузера без затрат на серверные GPU.
- Добавить клиентский фильтр или маркировку нейросетевого контента в веб-приложение или форму загрузки изображений.
- Сравнить в реальном времени, как четыре разных детектора оценивают одно и то же изображение прямо на странице.
Пример
В каждой папке (swinv2, siglip, sdxl, commfor) находятся два файла: model_fp16.onnx и prep.json. На вход модель принимает тензор pixel_values в формате NCHW float32 (подготовленный по правилам из prep.json), а на выходе возвращает вероятность p_ai того, что изображение создано нейросетью.
Подробнее
Входящие модели: haywoodsloan/ai-image-detector-deploy (Apache-2.0), Ateeqq/ai-vs-human-image-detector (Apache-2.0), Organika/sdxl-detector (CC BY-NC 3.0), OwensLab/commfor-model-384 (MIT)Валидация: 363 тестовых изображения относительно оригинальных PyTorch-версий
Лицензии: для каждой копии действует лицензия соответствующей исходной модели (у SDXL-детектора — только некоммерческое использование)










Комментарии