ARC 1.0

ARC (Adaptive Routing Controller) 1.0 от Rayline — компактная модель на базе Qwen3.5-0.8B (0,62 млрд параметров). Она читает диалог агента и выдаёт сигналы для выбора облачной или локальной модели и уровня reasoning. Релиз под Apache 2.0, задача — text-classification.

✨ Ключевые особенности

• 👀 Предсказывает вероятность успеха и расход токенов для моделей-кандидатов.
• 💰 Отделяет прогнозы от политики: цены, доступные модели и правила задаёт приложение; обновление цен не требует переобучения.
• 🚨 Определяет наличие и типы PII, а также категории запросов — операции и домены, с несколькими метками.
• 💻 Оценивает пользу и затраты reasoning-настроек внутри модели.
• ✨ Question head принимает вопрос и варианты ответа, возвращая вероятности для developer-defined routing-сигналов.
• 📌 Пресеты ARC Sage (V=4.5) и ARC Swift (V=0.1) балансируют качество и стоимость; есть prefer-local с порогом успеха.

💻 Пример

Пример запроса к question head: «Which model should answer?» с вариантами моделей. ARC возвращает вероятности по каждому варианту, а приложение сравнивает их с ценами и своей политикой — например, оставить запрос на локальной DeepSeek V4.1 Flash или отправить в облачную Opus 5.5.

Подробнее

В гибридном edge–cloud сценарии ARC сохраняет 97,5% качества Opus 5.5 при снижении стоимости на 92,9% (DeepSeek V4.1 Flash, несколько DGX Spark, порог prefer-local 0,85).
RouteBench Model Routing Index: 9,3 у ARC Sage и 9,1 у ARC Swift.
PII ROC-AUC — 0,919 на полном вводе и 0,960 на последнем сообщении.
Публичный vllm-arc пока WIP: end-to-end serving и API не поддерживаются, stock vLLM не загружает архитектуру; для работы доступен hosted API.