Living CV SmolLM2 v4

Living CV SmolLM2 v4 — LoRA-посттренинг SmolLM2-360M-Instruct от Anirudh Somadas для его living CV. Модель работает полностью в браузере посетителя через Transformers.js: отвечает на вопросы по резюме только по переданным заметкам, отказывается при нехватке данных и превращает запросы к карте в один из 17 допустимых видов.

🔍 Ключевые особенности

• 🖥 Запуск целиком в браузере через Transformers.js / ONNX Runtime Web.
• 🛡 Ответы — только по заметкам из graph search; факты портфолио не запоминаются в весах, при нехватке данных — отказ.
• 🗺 Запросы вроде «classify by domain» или «only show AI» переводятся в один из 17 валидных map views.
• ⚙ LoRA rank 16, alpha 32, 1 epoch, max length 512, effective batch 16; обучение на Apple M4 (MPS) заняло 18 минут.
• 💻 Квантованный int8 ONNX весит около 364 МБ и загружается с dtype q8 на WebGPU или WASM.

💬 Пример

Запрос «classify by domain» или «only show AI» должен вернуть один из 17 допустимых видов карты. Если в переданных заметках нет ответа, модель отказывается отвечать.