all-MiniLM-L6-v2-wealth
поиск по клиентским документам
2 min readupdated
Модель превращает текст в эмбеддинги (векторы смысла) так, чтобы советник мог ввести короткий запрос вроде «evidence of residence» или «pension» и получить нужные документы: счета за коммунальные услуги, банковские выписки, расчётные листы, пенсионные справки. Это файнтюн sentence-transformers/all-MiniLM-L6-v2: те же 6 слоёв, 384-мерные векторы и ~23M параметров, поэтому модель можно поставить вместо базы без переделки пайплайна. Обычные эмбеддинги плохо знают домен: на запрос «address proof» они могут поставить паспорт выше коммунального счёта. Здесь этот разрыв закрывали на синтетических документах wealth-management. Пригодится финтех- и wealth-командам, которые делают локальный поиск по клиентским файлам или RAG-ассистента для советника.
Ключевые особенности
- Та же архитектура и выход, что у базы: 6 слоёв, 384-мерные векторы, ~23M параметров — drop-in замена и быстрый запуск на CPU.
- Обучена под поиск документов wealth-management: KYC/онбординг, доход и source of funds, налоги, инвестиции, пенсии, страхование.
- На held-out-запросах R@5 0.60 против 0.26 у базы и 0.41 у OpenAI text-embedding-3-large; на glossary — 0.59 против 0.45 и 0.44.
- Обучение на полностью синтетических данных, без реальных клиентских документов.
- Только английский, с британской/европейской терминологией (council tax, ISA, SIPP, probate).
Что можно сделать
- Сделать локальный поиск по клиентским файлам: кодировать документы как
title + contentи сравнивать с запросом по cosine similarity. - Подключить в RAG-ассистента для советника, чтобы он находил нужные справки, выписки и полисы.
- Добавить небольшой доменный глоссарий для расширения запросов — в карточке такой режим поднимает glossary R@5 до 0.85 и F1 до 0.64.
- Встроить в
nevis-search-apiкак drop-in замену базовой модели для поиска по документам.
Пример
from sentence_transformers import SentenceTransformer
model = SentenceTransformer('UmbrellaMalware/all-MiniLM-L6-v2-wealth')
docs = ['British Gas bill\nElectricity and gas charges ...', 'Passport scan\nBiographical page ...']
query = model.encode('evidence of residence', normalize_embeddings=True)
scores = model.encode(docs, normalize_embeddings=True) @ query
print(scores)
Подробнее
Бенчмарк: 42 документа, 38 размеченных запросов и 5 шумовых; F1 0.53 при лучшем пороге 0.24.Обучение: 264 синтетических документа, 44 категории, 1 584 пары; 3 эпохи, batch 64, lr 2e-5, ~8 секунд на RTX 4050 Laptop GPU.
Ограничения: синтетика и маленький бенчмарк от того же автора — цифры могут быть оптимистичны; только английский; лимит входа 256 токенов, длинные документы нужно чанковать.










Comments