model_bluepulse
адаптер к Qwen2.5-1.5B для доменной настройки
model_bluepulse — адаптер (PEFT) для Qwen/Qwen2.5-1.5B-Instruct, созданный через Nugen API. В репозитории лежат только веса адаптера, без базовой модели. Через Nugen API один model id обслуживает chat, embeddings и reranking, а ответы чата получают confidence score.
📝 Ключевые особенности
- 📝 Адаптер обучен через train-time alignment на данных владельца; конкретный домен в карточке не уточняется.
- 👍 Один model id для чата, эмбеддингов и реранкинга через Nugen API.
- 🤔 Каждый ответ чата сопровождается confidence score — сигналом, что вопрос может быть вне домена.
- ⌨ Inference-time alignment, эмбеддинги и реранкинг выполняются на стороне API.
- 😎 Для запуска нужны API-ключ Nugen и развёрнутая модель, видимая вашей организации.
⌨ Пример
import requests
API_KEY = "<YOUR NUGEN API KEY>"
MODEL = "model_01m6xcgy6n0qk91x"
BASE = "https://api.nugen.in/api/v3/inference"
headers = {"Authorization": f"Bearer {API_KEY}"}
r = requests.post(f"{BASE}/chat/completions", headers=headers, json={
"model": MODEL, "messages": [{"role": "user", "content": "Summarise the report."}]})
print(r.json()["choices"][0]["message"]["content"], r.json()["confidence_score"])
Подробнее
Бенчмарков и данных о домене в карточке нет.Репозиторий содержит только веса адаптера PEFT, без базовой модели.
Для инференса нужен API-ключ Nugen и развёрнутая модель.
Лицензия наследуется от Qwen2.5-1.5B-Instruct.








Комментарии