Cyphora Omni 0.5B

Cyphora Omni — англоязычный LoRA-адаптер на базе Qwen2.5-0.5B-Instruct. Автор позиционирует его как ассистента для защиты AI-приложений: аудит кода, фильтрация tool-вызовов, маскирование секретов и проверка HTTP-эндпоинтов.

⚙ Ключевые особенности

• 🔎 Аудит GitHub: поиск утечек секретов в коде и Git-репозиториях.
• 🛑 MCP-фаервол: блокировка shell-инъекций, reverse shell и SQLi в параметрах инструментов.
• 🧩 DLP-скраб: перехват и маскирование PII, AWS-ключей, database URI и canary-токенов.
• 🌐 Проверка AI-эндпоинтов: тестирование OpenAI, Anthropic, Gemini и кастомных HTTP-целей.
• ⚙ PEFT LoRA: rank 16, alpha 32, dropout 0.05; обучение на RTX 3050 Laptop в fp16.

💡 Пример

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
base = 'Qwen/Qwen2.5-0.5B-Instruct'
tok = AutoTokenizer.from_pretrained(base)
model = PeftModel.from_pretrained(AutoModelForCausalLM.from_pretrained(base), 's4bz/cyphora-omni-0.5b')
inputs = tok.apply_chat_template([{'role':'user','content':'audit my repo'}], tokenize=False, add_generation_prompt=True)
out = model.generate(**tok([inputs], return_tensors='pt'), max_new_tokens=128)
print(tok.decode(out[0], skip_special_tokens=True))

Подробнее

Финальный training loss — 3.0950; других метрик и бенчмарков в карточке нет.
База — Qwen2.5-0.5B; требования к VRAM не указаны.
В метаданных язык — английский; независимых проверок заявленных возможностей нет.
Лицензия — Apache-2.0.