Aster-JEV-27B

Aster-JEV-27B — полнопараметрическая мультимодальная decision-модель на базе Qwen/Qwen3.8-27B (26,09 млрд параметров). Она выбирает ответ из набора вариантов и возвращает вероятности; в карточке описаны vision-бенчмарк и latency на A800 80GB.

👀 Ключевые особенности

• 💪 Полный файнтюн всех параметров на базе Qwen/Qwen3.8-27B.
• 👀 Мультимодальный vision-сценарий: один forward pass возвращает выбор и вероятности для всех вариантов.
• 😐 Вопросы с выбором из 2–26 вариантов, до 262 144 входных токенов.
• 🐾 Изображения до 1 638 400 пикселей на изображение; жёсткого лимита на число изображений нет.
• 💳 Веса под CC BY-NC 4.0, базовая Qwen — Apache-2.0.

👉 Пример запуска

hf download k2021211255/Aster-JEV-27B --revision single-a800-v1 --local-dir Aster-JEV-27B
python -m pip install -r Aster-JEV-27B/requirements.txt
CUDA_VISIBLE_DEVICES=0 PYTHONPATH=Aster-JEV-27B decision-index vision pipeline --dir work/vision --engine aster_jev.engine:AsterJEVEngine --option model=Aster-JEV-27B --workers 1 --out runs/Aster-JEV-27B

Подробнее

Публичный self-scored Vision index: 76.7057, 9 867 / 12 210 верных.
Latency на A800 80GB, batch size 1: mean 507,2 мс, median 361,5 мс, P80 581,9 мс.
Модель целиком работает на cuda:0; проверка на RTX PRO 6000 (mean/median/P80 ≤1 000 мс) ожидается.
Ограничение: весь вход должен помещаться в память устройства; ошибки ёмкости сообщаются явно.