Ratio Music F4
компактный трансформер для сочинения партитур на CPU
2 мин чтенияобновлено
Модель пишет полноценные музыкальные партитуры токен за токеном: она задаёт темп, форму произведения, дорожки и каждую ноту для всех инструментов в 13 стилях. На выходе получается не готовое аудио, а нотная запись, которую затем озвучивает синтезатор или сэмплер. Это небольшой трансформер на 41,5 млн параметров от IPSupport LLC, обученный исключительно на 25 935 партитурах, сгенерированных специальными программами авторов, без использования реальных записей или нот, написанных людьми. Благодаря скромному размеру модель способна сочинить композицию примерно за полминуты на обычном процессоре без видеокарты.
Ключевые особенности
- Поддерживает 13 музыкальных жанров, включая оркестровую музыку, рок, метал, джаз, фанк, регги, босса-нову, хаус, поп, рэп и трэп.
- Обучена полностью на синтетическом датасете из 25 935 программно сгенерированных партитур (172,3 млн токенов).
- Высокая скорость инференса: выдаёт около 140 токенов в секунду на двух потоках CPU, генерируя трек примерно за 30 секунд.
- Компактная архитектура: 12 слоёв, ширина 512, 8 голов внимания, словарь на 511 токенов и контекстное окно 6144 токена.
Что можно сделать
- Генерировать фоновую музыку и нотные заготовки для видеороликов в разных жанрах.
- Интегрировать генератор в браузерные музыкальные студии, бесконечное генеративное радио или инди-игры с последующим озвучиванием через сэмплеры.
- Исследовать обучение музыкальных трансформеров на полностью синтетических алгоритмических данных.
Пример
Послушать работу модели вживую и протестировать генерацию можно в веб-студии и бесконечном радио на сайте ratio.ipsupport.us. Веса опубликованы в файле full-e6.pt формата PyTorch (содержит state_dict в half precision и параметр контекста ctx: 6144), однако код запуска пока не открыт.
Подробнее
Архитектура: 41.5M параметров, 12 слоёв, 8 heads, размерность 512, словарь 511 токенов (vocab.json), контекст 6144.Обучение: 6 эпох на одном DGX Spark (около 2 часов), итоговый loss — 0.073 на train и 0.095 на отложенной выборке.
Железо и скорость: GPU не требуется, около 140 токенов/сек на 2 потоках CPU.
Ограничения: код инференса закрыт, лицензия на веса пока не выбрана (требуется разрешение автора перед переиспользованием).










Комментарии