CRISP
приватный edge–cloud inference с гарантией
2 min readupdated
CRISP — исследовательский фреймворк, в котором клиент отправляет на сервер зашумлённый запрос, а затем использует сам шум как дополнительную информацию, чтобы восстановить точный ответ. Серверная часть построена на ResNet-18, на клиенте работает небольшой декодер. В экспериментах на MNIST с механизмом Mixup при K = 16 удаётся перенести на сервер более 99% вычислений нейросети. При этом точность клиента составляет 97.1%, а атакующий угадывает цифру по запросу лишь в 21.7% случаев. Это чекпоинт для воспроизведения исследований приватного inference, а не готовый сервис.
Ключевые особенности
- Mixup даёт доказуемые information-theoretic гарантии приватности выхода.
- Более 99% вычислений нейросети уходит на сервер.
- Точность клиента на MNIST — 97.1% при K = 16.
- Атакующий предсказывает метку по запросу с точностью 21.7%.
- В репозитории лежит чекпоинт
models/model_mixup_16.pth.
Что можно сделать
- Собрать демонстрацию edge–cloud inference на MNIST: зашумлённый запрос, ResNet-18 на сервере и клиентский декодер.
- Воспроизвести эксперименты CRISP с Mixup при K = 16 по коду основного проекта.
- Использовать как baseline в исследованиях приватного inference и компромисса между приватностью и точностью.
Пример
from huggingface_hub import hf_hub_download
import torch
path = hf_hub_download(
repo_id="hehteram/CRISP",
filename="models/model_mixup_16.pth"
)
model.load_state_dict(torch.load(path, map_location="cpu", weights_only=True), strict=True)Подробнее
MNIST, Mixup K = 16: точность клиента 97.1%, точность атакующего 21.7%, более 99% вычислений на сервере.Нужны совместимые preprocessing, построение Mixup-запроса и клиентское декодирование из GitHub-репозитория.
Модель заявлена только для research и reproducibility; условия лицензии — в основном репозитории.










Comments