Qwen3-4B-Instruct-RETA-Base

Это файнтюн Qwen/Qwen3-4B-Instruct-2507, обученный через SFT для защиты tool-using агента от weak static prompt-injection атак в AgentDojo. После каждого вызова инструмента модель должна проверить, соответствует ли возвращённый контент задаче пользователя, проигнорировать конфликтующие инструкции и продолжить работу.

🔐 Ключевые особенности

• 🔐 Обучение на сценариях AgentDojo: проверка вывода инструмента после каждого вызова.
• 🛡 Учит игнорировать инструкции в выводе инструмента, если они противоречат задаче.
• ⚙ SFT через TRL; чекпоинт на базе Qwen3-4B-Instruct-2507.
• 🚀 На основе этого чекпоинта далее были 250 шагов RL и OPSD; финальная RETA заметно устойчивее.
• ❗ Защита заявлена для weak static prompt-injection в AgentDojo, а не как универсальная.

💻 Пример

from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = 'ttttonyhe/defender_sft_qwen3_4b'
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, dtype='auto')

Подробнее

База: Qwen3-4B-Instruct-2507; обучение — SFT с TRL 0.27.0, Transformers 4.57.3, PyTorch 2.9.0.
Далее авторы сделали 250 шагов RL и OPSD; финальный чекпоинт RETA, по карточке, значительно устойчивее.
Фокус — weak static prompt-injection в AgentDojo; числовых бенчмарков и требований к VRAM в карточке нет.