Qwen2.5-VL-3B Heretic

Это расцензуренная версия Qwen2.5-VL-3B-Instruct, полученная через Heretic v2.1.0. Модель на 3,75 млрд параметров понимает изображения и видео, отвечает на вопросы, извлекает структурированные данные и может работать визуальным агентом. В карточке указаны параметры ARA и возможность воспроизведения результата.

🧐 Ключевые особенности

• 🧐 Снижены отказы: 3/100 против 99/100 у оригинальной Qwen2.5-VL-3B-Instruct по оценке из карточки.
• 🔥 Arbitrary-Rank Ablation затрагивает слои 14–31 и сохраняет полезное поведение с заданными весами.
• 👀 Разбирает текст, графики, иконки, таблицы и документы; умеет выдавать bounding boxes, points и JSON с координатами.
• 🎬 Понимает видео длиной более часа, использует динамический FPS и умеет находить нужные фрагменты.
• 🤖 Может выступать визуальным агентом для computer use и phone use; ScreenSpot — 55.5.
• 🔁 Результат воспроизводим: инструкция лежит в каталоге reproduce.

😎 Пример

from transformers import Qwen2_5_VLForConditionalGeneration, AutoProcessor
model = Qwen2_5_VLForConditionalGeneration.from_pretrained(
    "Kasemcyber/Qwen2.5-VL-3B-Instruct-UNCENSORED-Heretic",
    torch_dtype="auto", device_map="auto"
)
processor = AutoProcessor.from_pretrained("Kasemcyber/Qwen2.5-VL-3B-Instruct-UNCENSORED-Heretic")

Подробнее

Отказы: 3/100 против 99/100 у оригинала.
KL divergence: 0.3007.
Нужен свежий transformers: pip install git+https://github.com/huggingface/transformers accelerate, иначе возможен KeyError: 'qwen2_5_vl'.
Отдельных требований к VRAM в карточке нет; параметров — 3,75 млрд.