caption_qwen35_9b_trainset_retrieval_benchmark_110426
9B-файнтюн Qwen3.5 для видеокепшенов
1 min read
Модель от georgeliu59 на базе Qwen/Qwen3.5-9B (9,41 млрд параметров), обученная под задачу image-text-to-text. Это пятиэпоховый caption-файнтюн: на каждом клипе модель учится описывать субъект, сцену, движение, пространственные отношения и камеру.
Ключевые особенности
- Обучение на 3 081 клипе и 15 405 caption-примерах; exact reviewed target strings сохранены.
- Языковая модель обновляется полностью, vision tower и multimodal projector заморожены.
- Номинальный effective batch — 320 на 16 GPU; microbatch 2, 10 шагов накопления, LR 3e-5, cosine schedule, 5% warmup, BF16.
- До 128 кадров, 8 FPS, 65 536 пикселей на кадр и 8 192 токена суммарно.
- 1 000 exact video IDs из test_split_20260222_1240.json исключены из обучения и диагностик, но split не source-disjoint.
Пример
Сценарий из карточки: на вход подаётся видеофрагмент, а модель должна выдать набор кепшенов по категориям subject, scene, motion, spatial и camera. Готового кода запуска или шаблона промпта в карточке нет.
Подробнее
Обучение завершено на optimizer step 245, epoch 5.0000; сохраняются веса модели, но не optimizer/scheduler/RNG state.100-примерная генерационная выборка включает 20 тренировочных клипов и служит диагностикой training data.
Caption reference-overlap scores — диагностика, а не оценка video grounding или фактической точности.
Требования к VRAM в карточке не указаны.










Comments