v-jev 1.4
решения вероятностями за один проход
2 мин чтенияобновлено
Модель получает состояние (любой текст или JSON, при желании — картинку) и набор типизированных вопросов, а возвращает не текст, а вероятности: для каждого вопроса — распределение по всем допустимым вариантам. Вопросы четырёх видов: да/нет, выбор из 2–64 именованных вариантов, оценка по 2–10 уровням и read — вытащить из состояния конкретное значение (дату, сумму, id, адрес) или сказать, что его нет. Версия 1.4 как раз добавила извлечение значений и вопросы по изображению. Всё считается за один forward pass: генерировать и парсить ничего не нужно. Доступна в двух размерах — на Qwen3.5-0.8B и Qwen3.5-4B, каждый обучен от своего бэкбона; это research-релиз, проверенный только на английском.
Ключевые особенности
- Четыре типа вопросов в одном запросе: noul, choice, score и read.
- Картинку можно положить в состояние — её обрабатывает родной vision-энкодер бэкбона.
- Режим lock=True: read отвечает, только если значение совпало в трёх формулировках запроса.
- Ничего не генерируется: 6 решений и 2 read — 36,6 мс у 0.8B на RTX 5090.
- Решения обучены только на ответах самого бэкбона, поэтому видно, где он уверен, а где сомневается.
Что можно сделать
- Разбирать входящие заявки: команда, срочность, просят ли возврат — всё одним запросом.
- Вытаскивать поля из счетов и договоров (дата, сумма, номер) с уверенностью по каждому значению.
- Проверять фото: например, повреждена ли коробка на снимке со склада.
- Поставить быстрым решающим слоем перед большой LLM, чтобы не гонять генерацию ради классификации.
Пример
from inference import VJev
jev = VJev(size="4b")
answers = jev.ask(
"INVOICE INV-2026-0412\nDue: April 3, 2026\nTotal: $1,240.50",
{"due_date": {"type": "read", "kind": "date", "instructions": "When is the invoice due?"}},
lock=True,
)
Подробнее
typed-decisions, 5 вопросов в запросе: accuracy 63.8 у 4B и 48.1 у 0.8B (KL от gold 0.272 и 0.372).JevBench-mini coherence: 69.7 (4B) и 62.4 (0.8B).
Reads на диалогах SGD: exact 96.2 / 95.5.
Память GPU: 1.5 / 1.8 ГБ у 0.8B и 8.0 / 9.1 ГБ у 4B (текст / картинка).
Ограничения: research-релиз, один прогон и один seed на размер, тестировался только английский; бенчмарки в обучении не использовались.










Комментарии