MagicEightBall FP32 Base
компактная модель для проверки политик и классификации текста
2 мин чтения
Модель MagicEightBall оценивает фиксированную политику поддержки и возвращает логический ответ (Boolean), категорию и предлагаемое действие. Размер базового FP32-файла составляет всего 1,832 байта, а входящий в комплект процессорный ранер поддерживает обработку до 131,072 токенов Needle 3. Граф считывает семь фактов в формате FP32 и возвращает семь соответствующих логических выводов. Инструмент пригодится разработчикам, которым требуется ультралегкая проверка текстовых запросов и маршрутизация по правилам без тяжелых нейросетей.
Ключевые особенности
- Полная точность: плотная логическая эталонная модель на базе FP32, компилирующая правила поддержки.
- Большая длина контекста: поддержка входящих последовательностей объемом до 131,072 токенов Needle 3.
- Готовый процессорный ранер: включает CLI для быстрой проверки и локального запуска.
- Проверенная надежность: пройдено тестирование на 128 назначениях фактов, 128 коротких текстовых фикстурах и точечных документах.
Что можно сделать
- Применить в локальном CLI: запустить скрипт через Python для быстрой классификации обращений (например, в биллинге).
- Проверить правила текстов: оценить, попадает ли запрос под определенные политики с помощью встроенного движка.
- Протестировать интеграцию ONNX: использовать модель в качестве ультракомпактного примера для ONNX Runtime.
Пример
python -m pip install numpy sentencepiece onnxruntime
python portable_runtime.py model.onnx --text "Duplicate charge. Review authorized."
Подробнее
Бенчмарки: пройдено 128 фактов и 128 текстовых фикстур, отклонение свыше 131,073 токенов.Требования к железу: чрезвычайно низкие (модель весит 1,832 байта, используется CPU ранер).
Лицензия: правила решений и ранер распространяются под лицензией MIT, токенизатор Cactus Compute Needle 3 — под Apache-2.0.










Комментарии