ghostai-lfm3-1.7b-appcontract-v3
компактная модель для вызова функций в криптокошельке
2 мин чтения
SFT-чекпоинт (модель, дообученная на примерах диалогов) от разработчика immortaltatsu, созданный на базе LiquidAI/LFM3-1.7B (1.99B параметров). Модель работает локально на устройстве в роли ассистента для кошелька Solana: она распознаёт намерение пользователя и генерирует вызов нужной функции в формате Hermes из каталога на 198 инструментов, а в обычных разговорных репликах молчит и не вызывает лишние команды. В третьей версии формат системных промптов полностью синхронизировали с реальным кодом приложения, убрали пересечения с тестовыми выборками и добавили сложные кейсы, сгенерированные локальной моделью-учителем Nanbeige4.3-33B. Подойдёт разработчикам мобильных и локальных AI-ассистентов, которым нужен быстрый и точный tool calling (вызов внешних инструментов) без обращения к облачным API.
Ключевые особенности
- Точность вызова инструментов: на отложенной выборке модель выбирает правильный инструмент в 97.78% случаев и формирует валидные аргументы в 99.56%.
- Компактный формат каталога: обучена на сжатом описании функций из реального приложения (
LocalToolCatalog.tsиContextManager.ts), что экономит контекст при инференсе на устройстве. - Устойчивость к ложным срабатываниям: научена отличать запросы на выполнение действий от обычного чата и не вызывать функции там, где нужен просто текстовый ответ.
- Чистое обучение без утечек: из обучающей выборки удалили 511 пересечений с внешними тестами и заменили их перефразировками от локальной модели Nanbeige4.3-33B.
Что можно сделать
- Встроить в мобильный или десктопный криптокошелёк Solana как локальный голосовой или текстовый интерфейс для отправки токенов и работы с DeFi-инструментами.
- Использовать как лёгкий маршрутизатор команд (tool router) в локальных агентах на базе
transformers, где нужно выбирать из большого списка API-функций без отправки данных в облако. - Взять за основу для дообучения под собственный компактный каталог инструментов приложения по аналогии с
LocalToolCatalog.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "immortaltatsu/ghostai-lfm3-1.7b-appcontract-v3"
tok = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(model_id, trust_remote_code=True, dtype="bfloat16")
msgs = [{"role": "user", "content": "send 2 SOL to alice.sol"}]
prompt = tok.apply_chat_template(msgs, tokenize=False, add_generation_prompt=True, enable_thinking=False)
Подробнее
Бенчмарки: на held-out тесте (818 строк) 99.56% парсируемых вызовов и 97.78% точного выбора инструмента; на внешнемagentic-eval-3 (2000 задач) — 94.15% точности выбора основного инструмента.Обучение: 3 эпохи, lr 1e-5, cosine,
bf16, FlashAttention-2, DeepSpeed ZeRO-2 на 3x A100-40GB, максимальная длина контекста 2048 токенов.Ограничения: при запуске обязательно передавать
enable_thinking=False, иначе LFM3 выводит теги рассуждений (); модель тестировалась на заглушках (fixture-сервисах) и не должна сама подписывать транзакции без подтверждения на уровне приложения.









Комментарии