SOO kimi-dev-72b-L56
исследовательский LoRA-адаптер для Kimi-Dev-72B
2 мин чтения
Это экспериментальный LoRA-адаптер (небольшая надстройка над базовой моделью), созданный в рамках исследования What Do Self-Other Overlap Adapters Actually Do? от Jansen Nye и Nancy Fulda из лаборатории BYU DRAGN Labs. Адаптер основан на крупной языковой модели moonshotai/Kimi-Dev-72B и обучен в рамках изучения механизма Self-Other Overlap — того, как модель соотносит представления о себе и о других в контексте честности и обмана. В отличие от обычных прикладных адаптеров, этот релиз предназначен для воспроизведения научных экспериментов и анализа поведения нейросетей, а не для повседневной генерации. Пригодится исследователям безопасности ИИ (AI safety) и интерпретируемости моделей, которые изучают внутренние активации LLM.
Ключевые особенности
- Точечное обучение: адаптер затрагивает только слой 56 (zero-based attention-output projection) базовой модели с параметрами LoRA rank 4 и alpha 8.
- Специфическая функция потерь: обучение проводилось по метрике MSE (среднеквадратичной ошибки) между активациями последнего токена для парных промптов «я / другой» (78 пар).
- Полный слепок эксперимента: в репозитории сохранены точные веса, рецепты обучения и логи (
train_log.json,adapter_config.json), а контрольные суммы зафиксированы вMANIFEST.json. - Свободная лицензия: сам адаптер распространяется под лицензией MIT (базовые веса и токенизатор Kimi-Dev-72B в архив не входят и загружаются отдельно).
Что можно сделать
- Проверить поведение модели на тестах честности и обмана с помощью официальных скриптов оценки из репозитория проекта, передав путь к адаптеру через флаг
--adapter. - Сравнить реакции модели при разном порядке вариантов в промпте и на контрольном тесте Perspectives, чтобы отследить позиционные эвристики и искажения ответов.
- Использовать сохранённые конфигурации и логи обучения для воспроизведения эксперимента на базе moonshotai/Kimi-Dev-72B с помощью библиотеки
peft.
Пример
Для запуска оценки из официального набора экспериментов self-other-overlap директория с весами адаптера передаётся в скрипт через аргумент --adapter. При тестировании Kimi-Dev-72B автор указывает на необходимость оценки после этапа рассуждений (post-reasoning scoring) с бюджетом в 1 024 токена.
Подробнее
Базовая модель: moonshotai/Kimi-Dev-72B (веса и токенизатор не включены)Конфигурация LoRA: слой 56, seed 0, rank 4, alpha 8, обучение на 78 парных промптах
Ограничения: полный адаптер может менять общие способности модели, вызывать сбивчивые ответы или опираться на позиционные подсказки; низкий уровень обмана в одной задаче не гарантирует общую честность модели
Лицензия: MIT










Комментарии