gpt-oss-20b-role-perception-appworld-27000

Это LoRA-адаптер от kortukov для openai/gpt-oss-20b (20B), обученный под задачи AppWorld. В репозитории лежат только полный LoRA-адаптер и небольшие хелперы загрузки; базовая модель — openai/gpt-oss-20b, ревизия 6cee5e81ee83917806bbde320786a8fb61efebee. Обучение — 90 задач AppWorld × 300 траекторий.

⚙ Ключевые особенности

• ⚙ LoRA: rank 64, alpha 128; обновления attention и MoE expert projections.
• 🗓 Обучение: 90 задач AppWorld × 300 траекторий, one epoch, 1 688 updates.
• 🔒 Веса адаптера не менялись после обучения; SHA256 43969311ed93e3b15b1859906a774faa5933303e313976214cc1a9545048fa2f.
• 🖥 Загрузка через Transformers/PEFT: конфиг сам подхватывает базу; деквантование и FP32-вычисления адаптера сохраняют тренировочную схему.
• 🚫 Нет полной модели: только LoRA и хелперы; для vLLM нужен отдельный launcher, а не нативный LoRA-путь.
• ⚠ Восстановление role-label не гарантирует устойчивость к prompt injection.

💻 Пример

import torch
from peft import AutoPeftModelForCausalLM
from transformers import AutoTokenizer, Mxfp4Config
adapter = "kortukov/gpt-oss-20b-role-perception-appworld-27000"
model = AutoPeftModelForCausalLM.from_pretrained(adapter, dtype=torch.bfloat16, device_map={"": 0}, quantization_config=Mxfp4Config(dequantize=True), attn_implementation="flex_attention")
tokenizer = AutoTokenizer.from_pretrained("openai/gpt-oss-20b", revision="6cee5e81ee83917806bbde320786a8fb61efebee")

Подробнее

Бенчмарков в карточке нет; для запуска нужен GPU с памятью под деквантованную 20B-модель.
Подготовка vLLM-экспорта требует ~40 GiB диска плюс кэш базовой модели; валидация: 603 тензора совпали с оценённым экспортом.
В репозитории только адаптер и хелперы; stock vllm serve ADAPTER_REPO не заменяет launcher — иная dtype/арифметика обновлений экспертов.
Автор предупреждает: восстановление role-label само по себе не доказывает устойчивость к prompt injection.