Sieve-Vision-27B

Sieve-Vision-27B от sthanika-ai — визуальная модель принятия решений на базе Qwen/Qwen3.8-27B, около 26 млрд параметров. Ей дают одну или несколько картинок и вопрос с вариантами, а она возвращает калиброванную вероятность для каждого варианта. Текст модель не генерирует: только оценивает варианты за один forward pass.

💡 Ключевые особенности

• 🧩 Формат question type choice: любое число вариантов, ответ — вероятность по каждому ключу.
• ⚙ В основе Qwen3.8-27B; добавлен decision head, LoRA r=64 и α=128 в 12 проекционных модулях, адаптер слит в веса.
• 🌄 Можно передать до 100 изображений; на запрос приходится 6 400 image tokens, картинки от 65 536 px до 1.6 MP.
• 🥶 Около 54 GB в bf16 — достаточно одной GPU на 80 GB.
• 🛑 Не генерирует текст и не поддерживает свободные ответы — только выбор из заданных вариантов.
• ⭐ Decision Index: Full score 65.19 и public score 73.17 на vision leaderboard (edition 0.4).

🧩 Пример

import sys
from huggingface_hub import snapshot_download
path = snapshot_download('sthanika-ai/Sieve-Vision-27B')
sys.path.insert(0, path)
from sieve_vision import SieveVisionEngine
engine = SieveVisionEngine(model=path)
response, _ = engine({}, {'answer': {'type': 'choice', 'instructions': 'Is the parcel damaged?', 'criteria': {'A': 'Yes', 'B': 'No'}}}, images=['parcel.jpg'])
print(response['answers']['answer'])

Подробнее

Decision Index шанс-корректированный: 0 — случайное угадывание, 100 — идеально. На своём прогоне public vision suite (edition 0.3) модель получила 73.12.
Латентность на A100 80GB PCIe: медиана 462 ms на запрос, худший случай — 2 528 ms для четырёх изображений по 1.6 MP.
Лицензия CC BY-NC 4.0 — только некоммерческое использование. Тренировочные файлы не опубликованы; температура T = 1.396 фиксирована и не меняет ответ.