Hakkillo-135M v0.2 writing candidate 1
LoRA для грамматики и вежливых переписываний
2 min readupdated
Экспериментальный LoRA-адаптер от alkasima на базе SmolLM2-135M-Instruct. Он предназначен для исправления английской грамматики и вежливого переписывания коротких запросов. Это development candidate, а не стабильный релиз v0.2; публичное демо пока работает на v0.1.
Ключевые особенности
- Адаптер весит около 1,9 МБ и требует базовую модель SmolLM2-135M-Instruct.
- LoRA в query/value projections: rank 8, alpha 16, dropout 0.05; 460 800 обучаемых параметров.
- Обучение на 232 синтетических запросах: 100 пар предложений по два варианта промпта плюс 32 replay-примера v0.1.
- На 50 синтетических dev-промптах совпадений с эталоном 43/50 против 12/50 у базовой модели; грамматика — 17/20, вежливое переписывание — 16/20.
- Это не семантическая точность и не общий бенчмарк: оценка по reference matches, данные и проверка сделаны AI-ассистентом, reserved holdout ещё не оценивался.
Пример
powershell -ExecutionPolicy Bypass -File scripts/setup.ps1
$env:HAKKILLO_ADAPTER = 'alkasima/Hakkillo-135M-v0.2-writing-candidate1'
$env:HAKKILLO_MODEL_LABEL = 'Hakkillo writing candidate 1 - experimental'
.\.venv\Scripts\python.exe app.py
После запуска локальное приложение доступно на http://127.0.0.1:7860. Первая загрузка скачивает базовые веса примерно на 270 МБ плюс адаптер; для float32-инференса нужно больше RAM и диска.
Подробнее
На dev-диагностике: 43/50 совпадений с эталоном, 17/20 по грамматике, 16/20 по вежливому переписыванию, 10/10 по сохранению содержания.Ограничен��я: ошибки с артиклями и местоимениями, может менять субъект или владельца, выдумывает актуальную погоду, не имеет доступа к вебу.
Инференс на CPU float32; адаптер ~1,9 МБ, базовая модель ~270 МБ загрузки. Нужны независимая человеческая проверка и оценка на reserved holdout.










Comments