sk-decision-0
модель для структурированного анализа ситуаций и вероятностного принятия решений
2 мин чтенияобновлено
Модель sk-decision-0 от разработчика suryavirkapur предназначена для обработки текстов на английском и арабском языках. На вход подается текстовое описание ситуации и набор типизированных вопросов, а на выходе система возвращает вероятности для вариантов выбора, бинарных ответов или шкалы оценок. Модель поставляется с собственным сервером и требует наличия видеокарты NVIDIA с поддержкой CUDA. Решение пригодится для автоматизации клиентской поддержки, маршрутизации обращений и оценки рисков.
Ключевые особенности
- Поддержка двух языков: английского и арабского.
- Три типа задач: выбор из вариантов (choice), бинарный ответ да/нет (noul) и оценка по шкале (score).
- Возврат сырых вероятностей и уверенности модели для каждого ответа.
- Доступны две версии: полная bf16 (17 ГБ) и квантованная NF4 (7.2 ГБ).
Что можно сделать
- Настроить систему автоматической маршрутизации и приоритизации входящих тикетов техподдержки.
- Оценивать степень срочности и серьезности инцидентов по текстовому описанию от клиентов.
- Интегрировать модель в бэкенд-сервисы через REST API благодаря совместимости с TypeSafe System One.
Пример
hf download suryavirkapur/sk-decision-0 --exclude "model/*" --local-dir sk-decision-0 # NF4 only
cd sk-decision-0
uv venv -p 3.12 venv && uv pip install -p venv/bin/python -r requirements.txt
cp .env.example .env # set S1_TOKEN
./run.sh # serves on 127.0.0.1:8000Подробнее
Точность (Accuracy): 91.5% для bf16 и 90.5% для NF4 (на 200 тестовых примерах).Требования к VRAM: 19 ГБ для bf16, 7.1 ГБ для NF4.
Системные требования: Linux, GPU NVIDIA с драйверами CUDA 12.8.
Ограничения: требует специализированного сервера из репозитория, не работает в стандартных рантаймах вроде vLLM или Ollama.










Комментарии