PKU-KCL-Meteor-v1.5-0.8B
модель для быстрого принятия решений и оценки вероятностей
2 мин чтенияобновлено
PKU-KCL-Meteor-v1.5-0.8B — это модель принятия решений от Knowledge Computing Lab (KCL) Пекинского университета, созданная на базе Qwen/Qwen3.5-0.8B (0.85B параметров). Вместо генерации текста она выдает вероятности для каждого варианта ответа в один проход (forward pass). Модель поддерживает типы вопросов choice (выбор из опций), noul (вероятность да/нет) и score (оценка по уровням). Она предназначена для структурированных задач анализа, классификации и логического выбора в формате System One, обеспечивая высокую скорость работы без избыточной генерации токенов.
Ключевые особенности
- Без генерации текста: ответы выдаются в один проход с вероятностями для каждой опции.
- Типы вопросов: поддержка выбора (до 255 опций), вероятностей да/нет и шкалы уровней от 2 до 10.
- Контекст: обработка длинных запросов до 262,144 токенов без усечения.
- Производительность: работа на одном GPU с весами BF16 и считыванием в FP32.
Что можно сделать
- Интеграция в сервисы: запустить локальный сервер по адресу
/v1/systemoneдля быстрой оценки вариантов. - Анализ и классификация: использовать модель для структурированного принятия решений в ботах и пайплайнах.
- Оценка критериев: передавать сложные состояния системы и получать вероятности для заданных действий.
Пример
from meteor import Meteor
model = Meteor()
model.decide(
"The traffic light turned red as the car approached.",
{"action": {"type": "choice", "criteria": {"stop": "Stop", "go": "Keep going"}},
"safe": {"type": "noul"}},
)
Подробнее
Бенчмарки: индекс Decision Index 58.67 на 140,178 запросах.Железо: одна NVIDIA GPU, тексты обрабатываются пакетами (shortest first).
Ограничения: только для текста, коммерческое использование требует согласования с лабораторией (CC BY-NC 4.0).










Комментарии