bison-1
модель принятия решений на базе Gemma-4
2 мин чтенияобновлено
Модель bison-1 с 31 миллиардом параметров от Base Labs создана на базе Gemma-4-31B-it специально для структурированного анализа и принятия решений. Вместо генерации обычного текста она принимает на вход состояние (текст и опционально изображения) вместе с набором вопросов и возвращает откалиброванные вероятности для каждого варианта ответа за один префилл-проход. Модель обходит конкурентов в бенчмарках и отлично подойдет для сложных задач классификации, оценки рисков и автоматизации саппорта.
Ключевые особенности
- Лидер индекса: занимает первое место среди 19 моделей в Artificial Analysis Decision Index v2.1 (76 баллов).
- Точная калибровка: обладает лучшим показателем калибровки на индексе с Brier score 0.14.
- Мультимодальность: поддерживает одновременную работу с текстовыми данными и изображениями.
- Длинный контекст: поддерживает длину последовательности до 131 072 токенов.
Что можно сделать
- Классификация обращений: настроить автоматическое определение тем, категорий и приоритетов для входящих тикетов техподдержки.
- Оценка вероятностей: использовать модель для получения числовых оценок и вероятностей по заданным критериям риска или соответствия.
- Интеграция в пайплайны: задействовать модель через API Baseten для быстрой пакетной обработки бизнес-запросов и принятия решений.
Пример
Пример структуры запроса с вопросами разного типа (да/нет, выбор из списка, шкала оценки) к состоянию:
questions = {
"refund": {"type": "noul", "instructions": "Is the customer asking for a refund?"},
"team": {
"type": "choice",
"instructions": "Which team should handle this?",
"criteria": {"billing": "Charges, refunds, invoices",
"technical": "App or site faults"},
},
}
request = {"state": "I was charged twice this month, please refund one of them.", "questions": questions}Подробнее
Архитектура: полная доработка языковой модели при замороженном визуальном энкодере, нормах и эмбеддингах.Обучение: 6,71 млн примеров решений (Mix 12), целевая функция кросс-энтропии с членами калибровки Брайера.
Оборудование: тренировка на 24 узлах по 8 GPU B200 (всего 192 видеокарты).
Лицензия: MIT для модификаций Base Labs, Apache 2.0 для базовой модели Gemma 4.










Комментарии