Evidence Dial Behavior
адаптер поведения для Tiny Aya Global 3.35B
2 min readupdated
Это экспериментальный адаптер стиля ответов, построенный на базе языковой модели CohereLabs/tiny-aya-global (3.35B параметров) от команды ntc-ai. Он нацелен на то, чтобы модель давала более сочувствующую поддержку, но при этом сохраняла независимость суждений без изменения промпта. В отличие от привычных PEFT или LoRA, здесь используются кастомные веса ParticleGAN (метод управления скрытыми состояниями модели через «слайдеры» поведения без дообучения самих весов базы). Подойдёт исследователям AI-alignment и разработчикам, изучающим альтернативные способы steering (управления поведением LLM на уровне внутренних активаций).
Ключевые особенности
- Замороженная база: веса исходной Tiny Aya Global 3.35B не меняются, адаптер воздействует напрямую на скрытые состояния (hidden states).
- Обучение без SFT: для тренировки использовались 37 пар позитивных и нейтральных состояний первых ответов без классического supervised fine-tuning.
- Регулировка силы: интенсивность влияния адаптера задаётся параметром
strengthчерезslider.scaled(strength), хотя автор предупреждает, что усиление выше 1 ухудшает результат. - Честная оценка: автор открыто публикует полный набор наблюдений и признаёт, что адаптер пока не обходит обычный промптинг.
Что можно сделать
- Исследовать activation steering: протестировать влияние кастомных Particle Sliders на тон ответов компактной мультиязычной LLM без переписывания системных промптов.
- Сравнить методы выравнивания: сопоставить работу ParticleGAN-адаптера с обычным prompt engineering и SFT на задачах эмпатичной поддержки и объективной оценки.
Пример
Для запуска требуется установить зависимости проекта и загрузить базовый снапшот CohereLabs/tiny-aya-global (ревизия af89d219b53ed9b13b8a4645f9c8028973510324). Файл adapter-native.pt загружается через particle_sliders.inference.open_inference с бэкендом evidence_dial.behavior_binding_v1.inference_backend(), после чего сила эффекта задаётся вызовом slider.scaled(strength) на неизменённом сообщении пользователя.
Подробнее
Held-out скор (оценка модели-судьи Jev): 0.599609 против 0.588828 без адаптера (+0.010781) и 0.612266 при использовании только промпта.При увеличении силы до 2 качество падает до 0.520234, а улучшение над базой находится в пределах статистической погрешности (95% интервал [-0.012188, +0.034687]).
Железо и ограничения: требуется GPU с поддержкой полного BF16/SDPA; обучение проводилось на малом синтетическом корпусе с лимитом генерации в 64 токена.
Лицензия: сохраняется некоммерческая лицензия Tiny Aya CC-BY-NC-4.0.










Comments