ParkingLot-4B v1
небольшая модель для кода в GGUF
1 min readupdated
ParkingLot-4B v1 — это GGUF-версия 4B-модели, которую дважды дообучали с упором на программирование. Она основана на Huihui-Qwen3.5-4B-Claude-4.6-Opus-abliterated; среди источников обучения указаны Strandset-Rust-v1 и tulu-3-sft-personas-instruction-following. На выходе — текст: ответы, объяснения и фрагменты кода. Доступны кванты Q4_K-M, Q6_K, Q8_0 и FP16, а запускать её можно через llama.cpp. Пригодится для локальных экспериментов с небольшим coding-ассистентом.
Ключевые особенности
- 4B-модель с двумя раундами файнтюнинга под программирование.
- GGUF-кванты: Q4_K-M, Q6_K, Q8_0 и FP16.
- База — Huihui-Qwen3.5-4B-Claude-4.6-Opus-abliterated.
- В обучении заявлены Strandset-Rust-v1 и tulu-3-sft-personas-instruction-following.
- Для обучения использовали Unsloth и TRL; заявлено ускорение в 2 раза.
Что можно сделать
- Запустить локально через llama-cli и попросить объяснить или дописать код.
- Попробовать Rust-сценарии, учитывая Strandset-Rust-v1 в обучении.
- Сравнить кванты Q4_K-M, Q6_K, Q8_0 и FP16 на своей машине.
- Использовать в локальных пайплайнах на llama.cpp.
Пример
llama-cli -hf JadeSpartan/ParkingLot-4B_v1-GGUF --jinja
Подробнее
База: Huihui-Qwen3.5-4B-Claude-4.6-Opus-abliterated.Кванты: Q4_K-M, Q6_K, Q8_0, FP16; лицензия Apache-2.0.
Бенчмарков и требований к VRAM в карточке нет; язык в метаданных — английский.
Обучение: два раунда файнтюнинга, Unsloth + TRL.










Comments