ShadowWork-SHIFT: learner_corrective_v3
LoRA для агентских сценариев
2 мин чтения
PEFT LoRA-адаптер (надстройка над базовой нейросетью) от автора i-am-shaurya05, обученный для решения синтетических многошаговых задач по работе с инструментами и сохранением состояния (stateful tool-agent workflow). Адаптер представляет собой ветку эксперимента SW12 v3, полученную методом корректирующего обучения поверх замороженного адаптера SW09 и кастомной базовой модели shadowwork-shift-plain-sft (на базе Cohere Tiny Aya). В отличие от стандартного SFT (обучения с учителем), этот вариант проверяет эффективность корректирующих шагов на тех же объемах данных, хотя в контрольных тестах он слегка уступает параллельной ветке rehearsal. Модель пригодится исследователям ИИ-агентов и разработчикам для воспроизведения экспериментов по управлению состоянием и вызовами функций в строгом JSON-формате.
Ключевые особенности
- Обучен на 800 синтетических примерах с трассировками действий за 80 шагов оптимизации.
- Жёстко привязан к кастомной базе
shadowwork-shift-plain-sft(замена на оригинальную модель Cohere нарушит корректность работы). - Показывает высокую точность на синтетическом бенчмарке SW12 (154–156 успешных прохождений из 160), но не претендует на обобщение в реальных задачах без специального контроллера.
- Распространяется под некоммерческой лицензией CC BY-NC 4.0 (унаследованной от Cohere Tiny Aya).
Что можно сделать
- Воспроизвести научный эксперимент ShadowWork-SHIFT по оценке корректирующего обучения (corrective training) в сравнении с rehearsal-подходом.
- Протестировать генерацию детерминированных JSON-действий агента в связке с оригинальным симулятором задач и контроллером из репозитория автора.
Пример
from transformers import AutoModelForCausalLM
from peft import PeftModel
base_model = AutoModelForCausalLM.from_pretrained("i-am-shaurya05/shadowwork-shift-plain-sft")
model = PeftModel.from_pretrained(base_model, "i-am-shaurya05/shadowwork-shift-corrective-v3")Подробнее
Бенчмарк SW12 (160 задач): 154/160 strict с контроллером unified_v4 и 156/160 с budgeted_v5.Параметры обучения: 800 строк, 80 шагов, learning rate 5e-5, global batch 8.
Ограничения: только некоммерческое исследовательское использование (CC BY-NC 4.0); для полноценного запуска требуются симулятор задач и контроллер из GitHub-репозитория проекта.










Комментарии