Pelican-1
мини-модель, которая рисует пеликана на велосипеде в HTML/SVG
2 min read
Pelican-1 (鹈鹕-1) — специализированная чат-модель на базе Qwen3.5-0.8B (~0.75B), дообученная через LoRA SFT и затем merged. Превращает короткий промпт в целую HTML-страницу, обычно с inline SVG, с пеликаном на велосипеде; может добавить CSS @keyframes-анимацию. Языки: английский и китайский.
Ключевые особенности
- Генерирует HTML/SVG по короткому промпту — вплоть до анимации через CSS
@keyframes. - База — Qwen3.5-0.8B; метод — LoRA SFT (rank 64, alpha 128, dropout 0.05) с последующим merge.
- В релизе: merged-веса safetensors, PEFT-адаптер, GGUF F16/Q8_0 и Modelfile для Ollama.
- Понимает английские и китайские промпты вроде «鹈鹕骑自行车».
- Не универсальный ассистент: на офтоп-запросы часто всё равно выдаёт HTML или пустой велосипед.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
m = "PATH/TO/Pelican-1"
tok = AutoTokenizer.from_pretrained(m)
model = AutoModelForCausalLM.from_pretrained(m, torch_dtype=torch.bfloat16, device_map="auto")
messages = [{"role": "user", "content": "Generate an SVG of a pelican riding a bicycle"}]
prompt = tok.apply_chat_template(messages, tokenize=False, add_generation_prompt=True, enable_thinking=False)
enc = tok(prompt, return_tensors="pt").to(model.device)
Подробнее
Eval CE на выбранном v2 epoch1: overall 0.4869, standard 0.303; обучение — 2737 примеров, eval — 138.Слабы модификаторы (ночь, дождь, шарф, шляпа, очки, снег) и анимация:
@keyframes может быть, но движение выглядит неправильно.GGUF помечен как experimental: F16/Q8_0 могут не загрузиться без подходящего Ollama/llama.cpp; для запуска лучше HF-папка.
Лицензия Apache-2.0. Это text→HTML файнтюн, без vision-входа, несмотря на мультимодальную базу.










Comments