splade-distilbert-base-uncased-gooaq-matryoshka-hard
эффективная модель для семантического поиска
1 мин чтения
Эта модель представляет собой SPLADE Sparse Encoder (разреженный энкодер), созданный на базе distilbert/distilbert-base-uncased. Она преобразует текст в разреженное векторное пространство размерностью 30522 и используется для семантического поиска и поиска релевантных документов. Благодаря своей архитектуре модель позволяет эффективно находить нужную информацию по смыслу запроса, а не просто по ключевым словам. Инструмент пригодится разработчикам и исследователям, занимающимся поисковыми системами и обработкой текстов.
Ключевые особенности
- Базируется на эффективном энкодере
distilbert/distilbert-base-uncased. - Поддерживает максимальную длину последовательности в 256 токенов.
- Картографирует тексты в разреженное векторное пространство размерности 30522.
- Использует функцию сходства на основе скалярного произведения (Dot Product).
Что можно сделать
- Настроить семантический поиск по базе знаний или документации в проекте.
- Проводить разреженный поиск (sparse retrieval) документов по текстовым запросам.
Пример
from sentence_transformers import SparseEncoder
model = SparseEncoder("tomaarsen/splade-distilbert-base-uncased-gooaq-matryoshka-hard")
sentences = [
'what language is irog ko?',
'Filipino / Tagalog language translation for the meaning of the word irog.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
Подробнее
Бенчмарки: средний dot_ndcg@10 для NanoBEIR составляет 0.4955.Ограничения: максимальная длина последовательности — 256 токенов.
Лицензия: apache-2.0.










Комментарии