К содержимому
Другое

DecayFormer

прогноз деградации аккумуляторов по первым 100 циклам

2 мин чтенияобновлено

Компактная гибридная модель на базе архитектур state space (модель пространства состояний) и attention (механизм внимания) от автора Godseye1311. Она предсказывает полную траекторию остаточной ёмкости (SOH — State of Health) аккумуляторной ячейки, анализируя данные только за её первые 100 циклов работы. В репозитории выложены обученные веса сразу для 22 независимых фолдов (разбиений данных по условиям старения) из бенчмарка BatteryLife. Пригодится исследователям и инженерам систем управления батареями (BMS) для ранней оценки срока службы элементов питания.

Ключевые особенности

  • Компактный размер: каждая модель содержит всего 791 529 параметров (d_model 96, 3 блока энкодера, 4 головы внимания).
  • Охватывает 4 типа аккумуляторов (22 фолда): Li-ion, Zn-ion, Na-ion и CALB.
  • Полная совместимость с пайплайном BatteryMFormer: веса сохранены в формате model.safetensors вместе с файлами args.json и label_scaler.

Что можно сделать

  • Оценить остаточный ресурс батарей разных химических составов (натрий-ионных, литий-ионных, цинк-ионных) на основе замеров первых 100 циклов заряда-разряда.
  • Использовать готовые веса как бейзлайн для сравнения собственных моделей прогнозирования SOH в рамках бенчмарка BatteryLife v11.

Пример

from decayformer import load_fold   # установка из репозитория DecayFormer

model = load_fold("Na-ion/cond400")
# x [B, 100, 300, 4], mask [B, 100], soh [B, 100, 1], cycle_feats [B, 100, 2]
trajectory = model(x, mask, soh, cycle_feats)  # [B, 5000] нормализованный SOH
ПодробнееСредний Test MAPE (%) на BatteryLife (fp16): Na-ion — 0.926 ± 0.282 (12 фолдов), Li-ion — 2.281 ± 0.089 (3 фолда), CALB — 2.783 ± 2.200 (4 фолда), Zn-ion — 6.814 ± 0.540 (3 фолда).
Обучение: 1 GPU, batch size 128, оптимизатор AdamW (lr 5e-4), до 300 эпох с early stopping.
Для запуска требуется пакет decayformer из оригинального GitHub-репозитория.
Обсудить Telegram 0 64

Запустится ли?

Запустится в BF16

Влезает без сжатия.

  • BF16веса 0.1 GB · готовые файлы0.6 GB
  • FP8 / INT8рекомендуемвеса 0.1 GB0.6 GB
  • 4-bitвеса 0.0 GB0.5 GB

Совет: берите 8-bit.FP8 / INT8 почти не отличается по качеству от полной точности (разница в пределах процента), а памяти занимает вдвое меньше и на RTX 40/50, H100 работает быстрее. Полную точность есть смысл брать только для дообучения.

Что взять под эту модель

Massed ComputeОткрыть Massed Compute

Своя видеокарта: FP8 / INT8 — от RTX 2060 · BF16 — от RTX 2060

Почасовые цены Massed Compute на ноябрь 2026. Цена со скидкой — с промокодом при оплате.

Оценка: веса плюс рабочая память. Длинные ролики, высокое разрешение и большой контекст требуют больше.

Запуск на Massed Compute

Скрипт скачает модель на арендованную машину. Как её запустить — в карточке модели.

  1. 1. Арендуйте машину с подходящей видеокартой

    Открыть Massed Compute
  2. 2. Вставьте скрипт в терминал машины

    Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.

    HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.

    # Godseye1311/DecayFormer
    mkdir -p ~/models
    curl -LsSf https://astral.sh/uv/install.sh | sh
    source "$HOME/.local/bin/env"
    uv tool install "huggingface_hub[cli]"
    hf download Godseye1311/DecayFormer --local-dir ~/models/DecayFormer
    # Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).
    Добавить ещё LoRA к DecayFormer
  3. 3. Пользуйтесь

    Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).

Не забудьте остановить машину в панели, когда закончите: оплата идёт поминутно, пока она включена.

Как ускорить

Подобрано под тип модели. Выберите своё железо в блоке выше — покажем то, что подходит именно вам.

  • FlashAttention 44.0.0b40от 18 ноября 2026новая версия

    самое быстрое точное внимание на B200

    Ядра для Blackwell (пока бета). Точное внимание без квантования — подходит для всего, включая LLM.

    Как включить: pip install flash-attn-4; vLLM и SGLang подхватывают сами.

    Предыдущие поколения (2)
    • FlashAttention 3 — Версия для Hopper (H100/H200) с FP8.
    • FlashAttention 2 — Стандарт для RTX 30/40/50 и A100: точное внимание без лишней памяти на длинных контекстах.
  • torch.compile2.15.0от 28 октября 2026новая версия

    10–30% бесплатно

    Компилирует модель под вашу видеокарту. Первый запуск дольше, дальше быстрее.

    Как включить: model = torch.compile(model); в ComfyUI — узел TorchCompileModel.

Семья модели

Новые посты про версии DecayFormer — сжатые, дообучения, LoRA — появятся в колокольчике.

У этой модели пока нет известных родственников. Все производные на Hugging Face

О модели

Godseye1311/DecayFormer
Автор
Godseye1311
Категория
Другое
Дата выхода
На сайте

На сайте

Hugging Face

640

Спросить нейросеть об этой модели

Отвечает Gemini 4 · переписка хранится только в этой вкладке

Комментарии