ravena-bgem3
эмбеддинги для маршрутизации команд бота
1 min readupdated
Это sentence-transformers модель, дообученная от BAAI/bge-m3. Она переводит текст в 1024-мерные векторы и подходит для семантического поиска, кластеризации и классификации. Судя по обучающим примерам, основной сценарий — сопоставление команд португалоязычного бота с их описаниями.
Ключевые особенности
- База — BAAI/bge-m3, около 0,57 млрд параметров.
- Векторы размерности 1024, косинусная близость.
- Максимальная длина последовательности — 8192 токена.
- Дообучена на 2505 триплетах anchor/positive/negative.
- Поддерживает semantic search, paraphrase mining, classification и clustering.
- Язык в карточке не указан; примеры команд и описаний — на португальском.
Пример
from sentence_transformers import SentenceTransformer
model = SentenceTransformer("moothz/ravena-bgem3")
sentences = ["!psn", "psn: Consulta platinas de uma conta PSN", "conversa: Conversa casual"]
emb = model.encode(sentences)
print(emb.shape) # [3, 1024]
print(model.similarity(emb, emb))
Подробнее
Данные: 2505 триплетов, loss MultipleNegativesRankingLoss, 3 эпохи, bf16; обучение заняло 36,8 секунды.Бенчмарки в карточке не приведены.
Ограничения: узкая направленность на команды бота и португалоязычные примеры; язык и лицензия не указаны.
Требования к VRAM не указаны; размер модели — около 0,57 млрд параметров.










Comments