Drag-and-Drop LLMs
генерация весов LoRA за секунды без обучения
2 мин чтенияобновлено
Drag-and-Drop LLMs (DnD) — метод от авторов статьи на NeurIPS 2025, который позволяет адаптировать большие языковые модели под новую задачу без классического градиентного обучения. Вместо запуска файнтюнинга модель принимает небольшую пачку неразмеченных промптов и напрямую превращает их в готовый набор матриц LoRA (небольших обучаемых надстроек над весами нейросети). Внутри лёгкий текстовый энкодер сжимает батч промптов в эмбеддинги условий, а каскадный гиперсвёрточный декодер синтезирует параметры адаптера для целевой LLM (большой языковой модели) или VLM (визуально-языковой модели). Инструмент пригодится разработчикам и исследователям, которым нужно быстро специализировать модели вроде Qwen2.5 под логику, математику, код или мультимодальные задачи.
Ключевые особенности
- Адаптация без обучения: генерация рабочих весов LoRA под новую задачу занимает секунды вместо полноценного прогона оптимизации.
- Снижение затрат до 12 000 раз: по данным авторов, вычислительные накладные расходы радикально ниже по сравнению с полным файнтюнингом.
- Прирост качества до 30%: в среднем превосходит лучшие классически обученные LoRA на незнакомых бенчмарках по логике, математике, программированию и мультимодальности.
- Кросс-доменное обобщение: после обучения на парах «промпты — чекпоинты» система создаёт адаптеры, не видя ни размеченных ответов, ни целевого датасета.
Что можно сделать
- Быстро собрать LoRA под задачу: сгенерировать адаптер для Qwen2.5-0.5B/1.5B/7B-Instruct или Qwen2.5-VL-3B-Instruct на основе горстки примеров запросов.
- Воспроизвести эксперименты на ARC-c: запустить готовый пайплайн для задач на рассуждение (common sense reasoning) на базе опубликованных авторами чекпоинтов.
- Обучить свой генератор весов: собрать коллекцию собственных LoRA-чекпоинтов через LLaMA-Factory, рассчитать веса важности слоёв и натренировать DnD под свой домен.
Пример
git clone [https://github.com/jerryliang24/Drag-and-Drop-LLMs.git](https://github.com/jerryliang24/Drag-and-Drop-LLMs.git)
cd Drag-and-Drop-LLMs
bash install.sh
hf download Qwen/Qwen2.5-0.5B-Instruct --local-dir models/Qwen/Qwen2.5-0.5B-Instruct
bash scripts/common_sense_reasoning/ARC-c/training_and_generation.sh
Подробнее
Статья принята на NeurIPS 2025 (arXiv: 2506.16406); опубликованные веса и логи доступны в датасете Jerrylz/DnD-checkpoints-and-logs.Поддерживаемые базовые модели и энкодеры из инструкции: Qwen/Qwen2.5-0.5/1.5/7B-Instruct, Qwen/Qwen2.5-VL-3B-Instruct, sentence-transformers/all-MiniLM-L12-v2 и google-t5/t5-base.
Для обучения собственного генератора требуются подготовленные пары «датасет — набор чекпоинтов» и расчёт весов важности через weighted MSE (в конфиге примера указано до 8 GPU).










Комментарии