Make Your AI: generator v1
генератор весов LoRA по текстовому описанию
2 min readupdated
Исследовательский прототип от автора mxrk18, который создаёт готовые веса LoRA-адаптеров для языковой модели Qwen2.5-0.5B-Instruct по одному предложению с описанием желаемого поведения. В основе лежит компактная диффузионная модель (diffusion transformer) и линейный автоэнкодер (codec), обученные на 298 готовых адаптерах, а для кодирования текста используется all-MiniLM-L6-v2. В отличие от классического дообучения на датасете или использования системных промптов, модель синтезирует сами матрицы весов адаптера, меняя формат и стиль ответа без изменения знаний базовой LLM. Инструмент пригодится исследователям и разработчикам, экспериментирующим с генерацией нейросетевых весов (hypernetworks) и быстрой кастомизацией компактных языковых моделей.
Ключевые особенности
- Поддерживает 15 вариантов поведения в 5 категориях: длина ответа, формат, стиль, вступительная и заключительная фразы (не более одного признака на группу).
- Генерирует матрицы B для LoRA (rank 8, слои q_proj и v_proj) при общих замороженных матрицах A.
- На знакомых комбинациях правил достигает 89% точного соблюдения инструкций против 5% у базовой модели с системным промптом.
- Включает встроенный бейзлайн поиска ближайшего адаптера (retrieval index) и CLI-инструмент для проверки качества генерации (
myai eval).
Что можно сделать
- Мгновенно собирать адаптеры для Qwen2.5-0.5B-Instruct под нужный тон общения или формат вывода без сбора датасета и GPU-обучения.
- Сравнивать эффективность синтезированных весов с системными промптами и методом поиска ближайшего готового адаптера на тестовых вопросах.
- Изучать архитектуру диффузионной генерации весов в пространстве признаков автоэнкодера (
denoiser.safetensors+codec.safetensors).
Пример
myai generate "talk like a pirate, max 3 sentences" --out pirate # downloads this repo onceПодробнее
Метрики (доля ответов из 24 вопросов, соблюдающих все правила): 89% на знакомых комбинациях (15 шт.) и 36% на новых отложенных комбинациях (30 шт.), тогда как базовый Qwen2.5-0.5B-Instruct с системным промптом набирает 5%, а полноценно обученная LoRA — 87% и 84% соответственно.Ограничения: модель уверенно работает только на комбинациях правил из обучающей выборки и нестабильна на новых сочетаниях — автор рекомендует обязательно проверять результат через
myai eval.Лицензия: веса распространяются под CC BY-NC 4.0 (только некоммерческое использование), базовые компоненты — Apache-2.0.








Comments