sbert_raw_investo-finmodern_tri_merged
финтех-модель для семантического поиска
1 мин чтения
Модель представляет собой специализированный файнтюн (дообученную версию) базовой модели sentence-transformers/bert-base-nli-mean-tokens, обученную на датасете investopedia-triplets для задач финансового поиска и сопоставления текста. Она преобразует предложения и параграфы в плотные 768-мерные векторные представления (эмбеддинги) для эффективного поиска по документам. От базовой версии она отличается узкой специализацией на финансовой и инвестиционной тематике. Полезно разработчикам финансовых приложений, поисковых систем и баз знаний для анализа корпоративной отчетности и текстов.
Ключевые особенности
- Базируется на архитектуре BERT с пулингом средних значений для получения векторов длиной 768 измерений.
- Обучена на 11 687 примерах триплетов из датасета investopedia-triplets.
- Поддерживает максимальную длину последовательности до 512 токенов.
- Использует косинусное сходство (Cosine Similarity) для оценки близости текстов.
Что можно сделать
- Настроить семантический поиск по финансовым документам, глоссариям и инвестиционным статьям.
- Создать систему поиска ответов на вопросы по базам знаний банков и брокеров.
- Кластеризовать и ранжировать финансовый контент на основе векторного сходства.
Пример
from sentence_transformers import SentenceTransformer
model = SentenceTransformer("sachinyerrawar/sbert_raw_investo-finmodern_tri_merged")
queries = ['Who is the principal of Sona Financial?']
documents = ['Mark Struthers']
query_embeddings = model.encode_query(queries)
document_embeddings = model.encode_document(documents)
similarities = model.similarity(query_embeddings, document_embeddings)
print(similarities)
Подробнее
Метрики (investo_test): cosine_ndcg@10 составляет 0.9187, cosine_accuracy@1 — 0.868.Железо: легкая модель (0.11 млрд параметров / ~110 млн), запускается на стандартном CPU или GPU.
Ограничения: максимальная длина последовательности 512 токенов, английский язык.
Лицензия: apache-2.0.










Комментарии