Lucia v1.1-nc
структурированный анализ изображений для Qwen3.5-9B
3 мин чтенияобновлено
Lucia v1.1-nc от автора AbstractPhil — это LoRA (небольшая надстройка над базовой моделью) для мультимодальной Qwen/Qwen3.5-9B. Модель рассматривает изображение и пошагово рассуждает о нём простым языком: сначала выстраивает цепочку наблюдений (объекты, форма, свет, настроение), затем генерирует описание, промпт для генерации, теги и список уточняющих вопросов с ответами. В отличие от первой версии, адаптер обучен со специальным ограничением (KL-дивергенцией), поэтому на обычных запросах он ведёт себя как исходная Qwen3.5-9B и не сваливается в шаблонный разбор. Подойдёт исследователям и разработчикам, которым нужно автоматизировать детальную разметку картинок и сбор датасетов без потери общих навыков VLM.
Ключевые особенности
- Три глубины анализа: в зависимости от фразы в запросе (a quick look, a closer look или a long look) модель выдаёт от краткой подписи до полного разбора с тегами, промптом и критикой.
- Проверка фактов в ответах: каждый уточняющий вопрос в конце разбора помечается тегом
[record](видно прямо на фото),[chain](выведено логически) или[unknown]. - Сохранение навыков базы: на 465 тестовых обычных запросах модель ни разу не применила формат разбора по ошибке (в v1 такое случалось в 48% ответов).
- Чистая обучающая выборка: 43 217 примеров на базе датасетов COCO 2017, DOCCI, FFHQ и DeepFashion-MultiModal, размеченных моделями OpenAI, Google и DeepSeek.
Что можно сделать
- Подготовка датасетов для обучения генераторов: пропускать коллекции фотографий через запрос a closer look или a long look, чтобы сразу получать связные описания, теги и готовые промпты.
- Автоматическая каталогизация и поиск: извлекать структурированные пары «вопрос — ответ» по атрибутам объектов (цвет, состояние, расположение в кадре) для индексации фотоархивов.
- Универсальный визуальный ассистент: использовать один загруженный адаптер и для структурированного разбора сцен, и для обычных диалогов по картинкам и тексту.
Пример
from peft import PeftModel
from PIL import Image
from transformers import AutoModelForMultimodalLM, AutoProcessor
processor = AutoProcessor.from_pretrained("AbstractPhil/qwen3.5-9b-think-symbolic-image-nc")
base = AutoModelForMultimodalLM.from_pretrained("Qwen/Qwen3.5-9B", dtype="bfloat16", device_map="cuda")
model = PeftModel.from_pretrained(base, "AbstractPhil/qwen3.5-9b-think-symbolic-image-nc").merge_and_unload().eval()
image = Image.open("picture.jpg").convert("RGB")
prompt = "Look at this picture and think it through in writing, a closer look; then write a caption and a prompt or tags."
messages = [{"role": "user", "content": [{"type": "image", "image": image}, {"type": "text", "text": prompt}]}]
text = processor.apply_chat_template(messages, add_generation_prompt=True, tokenize=False, enable_thinking=False)
inputs = processor(text=[text], images=[image], return_tensors="pt").to(model.device)
out = model.generate(**inputs, max_new_tokens=800, do_sample=False)
Подробнее
Параметры адаптера: LoRA rank 32, alpha 64, 80.2M обучаемых параметров (сохранены в fp32), визуальный энкодер при обучении был заморожен.Запуск: требует
transformers >= 5 и peft >= 0.18; обязательно отключать режим размышлений (enable_thinking=False), использовать greedy decoding (do_sample=False) и не передавать system prompt.Метрики: 100% соблюдение формата на 60 фото и 40 спецификациях; отклонение от базовой модели на обычных запросах — 0.087 nats/токен (perplexity ratio 1.11).
Лицензия и ограничения: CC BY-NC-SA 4.0 — только для некоммерческих и исследовательских задач, запрещено использовать для распознавания и идентификации людей (для коммерции есть версия Lucia v1.1 под Apache-2.0).










Комментарии