Adjudex 27B v5
модель для принятия решений с выбором до 255 вариантов
2 min readupdated
Adjudex 27B v5 от автора newsbang — это специализированный движок принятия решений (typed decision engine) размером 26.09 млрд параметров на базе Qwen3.8-27B. Модель получает на вход текущее состояние (state) и структурированные вопросы с множественным выбором (до 255 вариантов ответа), а на выходе возвращает откалиброванную вероятность для каждого варианта. В отличие от обычных генеративных LLM, здесь используется некаузальное внимание (noncausal attention — механизм, позволяющий учитывать контекст в обе стороны, а не только слева направо) в полных слоях и специальная голова классификации readout.safetensors вместо генерации текста токеном за токеном. Подойдёт разработчикам ИИ-агентов, систем маршрутизации запросов и инструментов оценки, где нужен быстрый и точный выбор одного из множества дискретных действий.
Ключевые особенности
- Архитектура под выбор вариантов: основана на
Qwen3_5Modelс пулингом по последнему токену (last-token pooling) и линейной головой[255, hidden]в формате BF16. - Калибровка вероятностей: файл
decision_config.jsonсодержит коды опций и температуру калибровки (calibration temperature) для получения точных распределений вероятностей. - Готовый HTTP-сервер: в репозиторий включён неизменённый код сервера
/v1/systemoneотperplexity-ai/pplx-decider-v1.1-27b. - Открытая лицензия: распространяется под Apache 2.0, в линейке релиза также доступны более компактные версии на 9B и 0.8B параметров.
Что можно сделать
- Выбор инструментов в ИИ-агентах: использовать модель как роутер для определения нужного API или функции из списка до 255 вариантов — в бенчмарке Decision Index 0.3 раздел Tools показал самый высокий результат среди всех категорий (88.73).
- Ранжирование и поиск (Retrieval): применять для оценки релевантности документов или ветвления сценариев в сложных пайплайнах обработки запросов.
Пример
pip install -r requirements.txt
cd source/src
AUTOJEV_CHECKPOINT=/path/to/this/repo AUTOJEV_HOST=0.0.0.0 PORT=8000 python -m autojev.serverПодробнее
Бенчмарк Decision Index 0.3 (140 620 запросов): общий балл 72.41 (raw 79.05), Tools — 88.73, Language — 76.23, Retrieval — 72.10, Arts — 62.47, Knowledge — 61.13.Требования и лимиты: максимальная длина контекста — 8 192 токена (запросы длиннее отклоняются с ошибкой HTTP 422 без обрезки); для запуска в BF16 на CUDA использовалась одна видеокарта A800 80GB.










Comments