ParaThinker Qwen3-VL-8B SFT
финальный чекпоинт эксперимента
1 мин чтенияобновлено
Это финальный checkpoint-153 SFT-эксперимента standard_sft_qwen3vl_plus_lr4e-5_gbs64_ep1, обученный от Qwen/Qwen3-VL-8B-Instruct на выровненных teacher-данных Qwen3VL-Plus Full-CG. Модель для image-text-to-text и мультираундовых видео-/VQA-сценариев ParaThinker. Веса сохранены в оригинальном FP32, без квантизации и конвертации.
Ключевые особенности
- База — Qwen3-VL-8B-Instruct, зафиксированная revision; обучение с uniform CE.
- SFT: LR 4e-5, global batch 64, 1 эпоха / 153 optimizer updates, 6 480 804 supervised tokens.
- Обучение на 8×H100 80GB с FSDP1 full_shard; супервизия LLM и main visual merger.
- Teacher-данные: corrected Qwen3VL-Plus Full-CG, 9 786 calls / 3 829 questions.
- Сохранены все 30 файлов чекпоинта, 126.66 GiB: safetensors, processor/tokenizer, optimizer и FSDP state, scheduler, Trainer state и RNG.
Пример
import torch
from transformers import AutoProcessor, Qwen3VLForConditionalGeneration
repo = "Polly1231/ParaThinker-Qwen3-VL-8B-Instruct-SFT-Qwen3VLPlus-lr4e-5-gbs64-ep1-step153"
processor = AutoProcessor.from_pretrained(repo)
model = Qwen3VLForConditionalGeneration.from_pretrained(
repo, dtype=torch.bfloat16, device_map="auto"
)
Подробнее
LVBench: 385 correct / 1 549 questions, точность 24.8547%; 538 protocol failures засчитаны как incorrect. Это multi-round protocol, не one-shot VQA.Для загрузки inference-весов оптимизаторные файлы не нужны.
LongVideoBench пока без финального аудированного результата в карточке.
Доступ к приватному архиву эксперимента управляется отдельно; teacher-данные и оригинальные изображения/видео не включены.










Комментарии