AnankeEmbed-S
сверхлёгкая модель эмбеддингов без токенизатора
2 мин чтенияобновлено
AnankeEmbed-S от команды AMFORGE (AMEFORGE) преобразует поисковые запросы и документы в числовые векторы для семантического поиска и реранкинга. В основе лежит компактный двунаправленный Transformer на 6 слоёв с размерностью 384 (весит всего около 46,4 МБ в формате ONNX). Главная особенность — модель работает напрямую с сырыми байтами UTF-8 вообще без токенизатора (словаря фрагментов слов), поэтому не боится опечаток, эмодзи, программного кода и диакритических знаков. Подойдёт разработчикам локальных поисковых движков, RAG-систем (поиска по базам знаний) и приватных индексов с жёсткими ограничениями по памяти.
Ключевые особенности
- Работа без токенизатора: принимает на вход напрямую байты UTF-8 (до 512 байт), сворачивая их патчами 4×4 в 128 позиций.
- Поддержка Matryoshka (MRL): векторы можно обрезать с 256 до 128 или 64 измерений почти без потери качества поиска, экономя до 4 раз места в векторной базе.
- Минимальный вес: готова к быстрому запуску на CPU и GPU через файл
ananke-embed.onnx(46,4 МБ) или чекпоинт PyTorch (46,3 МБ). - Заявленные языки: английский и французский, при этом побайтовый вход переваривает произвольные символы.
Что можно сделать
- Построить быстрый локальный семантический поиск или переранжирование выдачи по технической документации и фрагментам кода.
- Сжать индекс векторной базы данных в 4 раза, выбрав размерность
dim: 64при отправке запросов к HTTP-эндпоинтуserve.py. - Встроить лёгкий поиск прямо на CPU-сервер или в изолированный контур без тяжёлых зависимостей и сложной токенизации.
Пример
curl -X POST [http://127.0.0.1:8090/embed](http://127.0.0.1:8090/embed) \
-H "Authorization: Bearer $ANANKE_EMBED_KEY" \
-H "Content-Type: application/json" \
-d '{"texts": ["fastapi background tasks"], "role": "query", "dim": 64}'Подробнее
Метрики на Retrieval Benchmarks: при 64 измерениях MRR = 0.7974, Recall@1 = 0.7350, Recall@10 = 0.9155 (на 256 измерениях MRR = 0.7966, Recall@10 = 0.9165).На внутреннем тесте Ananke Search Exam: examen_r1 = 0.70, examen_mrr = 0.791.
Обучение: 6,71 часа на одной NVIDIA A100-SXM4-80GB (лучший чекпоинт на шаге 38 000).
Ограничения: максимальная длина входа — 512 байт; обучена преимущественно на веб- и технических парах на английском языке.










Комментарии