Nythos Embed Zero

Модель эмбеддингов от Norovox Labs из открытой линейки Nythos, построенная на EmbeddingGemma 2. Текстовая ветка — 271M параметров; поддерживает текст, турецкий язык, поиск, классификацию, кластеризацию, аудио и изображения.

🔍 Ключевые особенности

• 🔥 На 20 из 22 замеров обходит EmbeddingGemma 2, на одном — равенство, на одном — минимальное отставание.
• 🌐 Мультимодальность: текст, изображения и аудио в одном embedding-пространстве.
• 📊 Matryoshka-усечение: векторы на 512 и 256 измерений сохраняют качество.
• ⚡ Быстрый инференс через Kapsül: 554 документа/с на H100 против 69 у SentenceTransformers.
• © Лицензия Apache-2.0, производная от google/embeddinggemma-2.

💻 Пример

from sentence_transformers import SentenceTransformer
m = SentenceTransformer('emrevrg/Nythos-Embed-Zero')
q = m.encode(['What is the longest river in Turkey?'], prompt_name='SearchQuery')
d = m.encode(['The Kızılırmak, at 1,355 km, is the longest river in Turkey.'], prompt_name='Document')
print(q @ d.T)

Подробнее

Бенчмарки: STS-B .8865 против .8749 у EmbeddingGemma 2; NFCorpus nDCG@10 .3913 против .3608; на 20 из 22 метрик впереди.
Скорость: Kapsül на одной H100 — 554 док./с, SentenceTransformers — 69 док./с (8×), косинус к эталону ≥ .99992.
Ограничение: image→text R@5 .999 против 1.000; улучшение на SciFact статистически не значимо.
Обучение: дистилляция от EmbeddingGemma 2 и Qwen3-Embedding-8B, синтетические данные, weight soup α=0.7; текстовая ветка заморожена при обучении аудио/изображений.