SearchJev-27B
типизированный движок решений на Qwen3.8-27B
SearchJev-27B — LoRA-адаптер (rank 128, все linear projections) для Qwen/Qwen3.8-27B, который превращает базовую LLM в «System One» движок принятия решений. Он принимает state и типизированные вопросы (choice, noul да/нет, ordinal score) и за один forward pass возвращает вероятность каждого предложенного варианта. Текст модель не генерирует; адаптер merged into weights при загрузке, рядом есть сервер /v1/systemone и файлы калибровки.
1⃣ Ключевые особенности
- ➕ Один forward pass на вопрос: вероятности по всем вариантам, без генерации текста.
- 🔤 Типы вопросов:
choice,noul(да/нет), ordinalscore; температуры по типам — вcalibration.json. - ➗ Адаптер rank 128 — усреднённый merge двух независимых LoRA:
ΔW = 0.5·ΔW(stage 3) + 0.5·ΔW(round 2). - ▶ Готовый HTTP-сервер
/v1/systemoneи интеграция сdecision-indexkit. - 0⃣ Public suite: 140 178 из 140 178 запросов отвечены, без отказов и обрезаний.
2⃣ Пример
pip install -r requirements.txt
hf download SearchJev/SearchJev-27B --local-dir SearchJev-27B && cd SearchJev-27B
python -m searchjev.server --model . --port 8000 --served-name searchjev-27b
python -m decision_index pipeline --engine http --option base_url=http://127.0.0.1:8000 \
--option model=searchjev-27b --out runs/searchjev-27b
Подробнее
Public index 73.52 (raw 79.71, breadth 72.97), completeness: 140 178/140 178.Latency на NVIDIA H200: медиана 94 ms, 95-й перцентиль 864 ms.
Контекст — 262 144 токена; запрос сверх лимита получает HTTP 422. Сервер однопоточный, один запрос за раз.
Лицензия адаптера — CC BY-NC 4.0; базовая модель — Apache-2.0.








Комментарии