CATCH-Qwen3.8-27B

Это LoRA-адаптер, обученный методом CATCH (adversarial honesty training) поверх Qwen/Qwen3.8-27B. В карточке указан запуск ul9801, checkpoint-171 (эпоха 3). Адаптер рассчитан на non-thinking использование: генерация шла с enable_thinking=False.

🔍 Ключевые особенности

• 🛡 CATCH сочетает обучение к честной цели, отталкивание от обманной цели и utility-составляющую под атакой в embedding-space.
• ⚙ LoRA: r 64, alpha 16, dropout 0.1, 12 целевых модулей; база в 4-bit nf4, точность bf16.
• 🖥 Два набора весов: стандартный PEFT adapter в корне и папка vllm/ с переименованными ключами.
• 📌 Для vLLM нужна папка vllm/: обычный адаптер может не совпасть по ключам и молча вернуть вывод базовой модели.
• ⚠ Адаптер обучен для non-thinking режима; это стоит учитывать при инференсе.

💻 Пример

from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer

base = AutoModelForCausalLM.from_pretrained("Qwen/Qwen3.8-27B", torch_dtype="bfloat16", device_map="auto")
model = PeftModel.from_pretrained(base, "kibiddd/CATCH-Qwen3.8-27B")
tok = AutoTokenizer.from_pretrained("kibiddd/CATCH-Qwen3.8-27B")

Подробнее

Обучение: 208 контрастных пар по 42 сценариям; utility-данные Magpie-Qwen3.8 — 1 936 строк, смесь adv/utility 0.25/0.75.
Веса loss toward/away/utility — 0.5/0.5/1; LR 5e-5, cosine, warmup 0.1; batch 8×2.
Checkpoint 171 — эпоха 3 из 30-эпохного плана; обучение остановлено на 3-часовом лимите после эпохи 5.
Бенчмарков в карточке нет; для vLLM используйте отдельную папку vllm/.