Blast Radius Zero

personaio/blast-radius-classifier — дообученная 135M-модель на базе HuggingFaceTB/SmolLM2-135M-Instruct. Это дешёвый pre-flight фильтр для агента, который запускает недоверенный Python-код: модель отвечает RISKY, если сниппет может навредить хосту, и SAFE в остальных случаях.

🔥 Ключевые особенности

• ✅ Отвечает одним словом — RISKY или SAFE, без объяснений.
• 🦾 Помечает удаление или запись вне рабочей директории, сеть, неограниченные процессы, исчерпание памяти, чтение секретов и изменение системы.
• 👁 Часть проекта Blast Radius Zero: классификатор — предварительный фильтр, контейнер — гарантия.
• 🩸 Обучена на 544 сгенерированных сниппетах (272/272 RISKY/SAFE) и реальных трассах песочницы.

🤩 Пример

code = "import shutil; shutil.rmtree('/')"
ids = tok(PROMPT.format(code=code), return_tensors="pt").input_ids
out = model.generate(ids, max_new_tokens=6, do_sample=False, pad_token_id=tok.eos_token_id)
print(tok.decode(out[0][ids.shape[-1]:], skip_special_tokens=True).strip())  # RISKY

Подробнее

Валидация: 100% (96/96) на held-out split того же генератора; holdout: 100% (22/22) на 22 рукописных сниппетах — это число надёжнее.
Обучение: 4 эпохи, batch 8, lr 5e-05, cosine schedule, только CPU.
Ограничения: только Python; распознаёт шаблоны риска, а не новые атаки; это triage-сигнал, не песочница — песочница всё равно запускает каждый сниппет.