GS1-2B

GS1-2B от BIGAI — native typed decision model на 2,32 млрд параметров. Ей подают состояние, инструкции и варианты возможных смыслов, а она возвращает распределения Choice, Noul и Score — без генерации output-токенов. Модель рассчитана на routing, классификацию, выбор инструментов и другие типизированные решения.

✨ Ключевые особенности

• 🔥 Нулевая генерация output-токенов: на выходе вероятности по кандидатам, p(true) для Noul и ожидаемый уровень Score.
• 💻 Архитектура: Qwen3.5 hybrid GDN/attention backbone, 24 decoder-слоя, ширина 2 048, 8 decision-attention heads и отдельная cross-attention decision head.
• 📚 Кандидаты и их смыслы задаются во время инференса, а не фиксированной словарью классификатора.
• ✅ Подходит для routing, классификации, tool selection и ограниченных суждений.
• 📍 Есть оптимизированный runtime с CUDA Graph replay, батчингом и HTTP-сервингом.

💻 Пример

from transformers import AutoModel
model = AutoModel.from_pretrained('bigai/GS1-2B', trust_remote_code=True).eval().to('cuda')
result = model.decide(
    state='Customer was charged twice and asks for a refund.',
    questions={'refund': {'type': 'noul', 'instructions': 'Refund requested?'}},
)
print(result['answers'])

Подробнее

Decision Index — 62.22 на 37 бенчмарках; JevBench — 80.09% на 231 решении; ToolACE — 93.91%.
В latency-тесте на RTX 4090 (BF16, ветка до 256 токенов) P50/P95 — 18.64/18.69 мс, пик GPU-памяти — 10.60 GiB.
Вероятность не гарантирует правильность: калибровка зависит от распределения задач. В публичных результатах отмечены низкая HLE-точность и нулевой AA-Omniscience non-hallucination rate на больших размерах без confidence rejection.