К содержимому
Другое

Dweep 1.7B

доменный файнтюн Qwen3 для вопросов об Андаманских и Никобарских островах

2 мин чтения

Модель представляет собой LoRA-настройку (небольшую надстройку над базовой моделью для адаптации под конкретные задачи) на базе Qwen3-1.7B, обученную отвечать на вопросы по географии, истории, экологии, транспорту и туризму островов. Она разработана для работы с узкой локальной базой знаний и унаследовала базовые возможности исходной языковой модели. Решение подойдет исследователям региона или тем, кто изучает специфику Андаман и Никобар. Обучение велось на компактном оборудовании, а в основе лежит квантованная версия базовой модели.

Ключевые особенности

  • Узкая специализация на данных об Андаманских и Никобарских островах.
  • Обучение на локальном железе (MacBook Air M5).
  • Наличие версий с поддержкой механизма отказов от ответа при нехватке данных.
  • Проверенные метрики качества на тестовом наборе вопросов.

Что можно сделать

  • Запустить интерактивный диалог в консоли или через Ollama для справок по географии островов.
  • Интегрировать модель в поисковую систему с RAG (Retrieval-Augmented Generation, генерация с привлечением внешних документов) на базе базы статей.
  • Использовать для автоматизации ответов на краеведческие вопросы.

Пример

Пример запуска модели через командную строку с помощью llama-cli:

llama-cli -m dweep-1.7b-Q4_K_M.gguf -p "Which strait separates the Andamans from the Nicobars?"
ПодробнееБазовая модель: Qwen/Qwen3-1.7B с 4-бит квантованием.
Датасет: 3163 пары инструкций и 239 пар для настройки отказов.
Ограничения: слабая поддержка административных и медицинских вопросов, а также локальных языков (никобарского и андаманских).
Файлы: доступны версии Q4_K_M (~1.1 ГБ) и Q8_0 (~1.9 ГБ).
Обсудить Telegram 0

Запустится ли?

Запустится в GGUF Q8_0

Влезает самая точная из готовых сжатых версий.

  • GGUF Q8_0рекомендуемвеса 1.7 GB · готовые файлы2.4 GB
  • GGUF Q4_K_Mвеса 1.0 GB · готовые файлы1.6 GB

Совет: берите 8-bit.GGUF Q8_0 почти не отличается по качеству от полной точности (разница в пределах процента), а памяти занимает вдвое меньше и на RTX 40/50, H100 работает быстрее. Полную точность есть смысл брать только для дообучения.

Что взять под эту модель

Massed ComputeОткрыть Massed Compute

Своя видеокарта: GGUF Q8_0 — от RTX 2060

Почасовые цены Massed Compute на ноябрь 2026. Цена со скидкой — с промокодом при оплате.

Оценка: веса плюс рабочая память. Длинные ролики, высокое разрешение и большой контекст требуют больше.

Запуск на Massed Compute

Скрипт скачает модель на арендованную машину. Как её запустить — в карточке модели.

  1. 1. Арендуйте машину с подходящей видеокартой

    Открыть Massed Compute
  2. 2. Вставьте скрипт в терминал машины

    Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.

    HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.

    # docanan/dweep-1.7b-gguf
    mkdir -p ~/models
    curl -LsSf https://astral.sh/uv/install.sh | sh
    source "$HOME/.local/bin/env"
    uv tool install "huggingface_hub[cli]"
    hf download docanan/dweep-1.7b-gguf --local-dir ~/models/dweep-1.7b-gguf
    # Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).
    Добавить ещё LoRA к dweep-1.7b-gguf
  3. 3. Пользуйтесь

    Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).

Не забудьте остановить машину в панели, когда закончите: оплата идёт поминутно, пока она включена.

Как ускорить

Подобрано под тип модели. Выберите своё железо в блоке выше — покажем то, что подходит именно вам.

  • FlashAttention 44.0.0b40от 18 ноября 2026новая версия

    самое быстрое точное внимание на B200

    Ядра для Blackwell (пока бета). Точное внимание без квантования — подходит для всего, включая LLM.

    Как включить: pip install flash-attn-4; vLLM и SGLang подхватывают сами.

    Предыдущие поколения (2)
    • FlashAttention 3 — Версия для Hopper (H100/H200) с FP8.
    • FlashAttention 2 — Стандарт для RTX 30/40/50 и A100: точное внимание без лишней памяти на длинных контекстах.
  • torch.compile2.15.0от 28 октября 2026новая версия

    10–30% бесплатно

    Компилирует модель под вашу видеокарту. Первый запуск дольше, дальше быстрее.

    Как включить: model = torch.compile(model); в ComfyUI — узел TorchCompileModel.

Семья модели

Дообучение модели

Qwen/Qwen3-1.7B
  1. Qwen3-1.7B-Baseоснова семьи
  2. Qwen3-1.7B
  3. dweep-1.7b-gguf

Новые посты про версии Qwen3-1.7B-Base — сжатые, дообучения, LoRA — появятся в колокольчике.

Сжатые версии 12Все на Hugging Face
Дообучения 12Все на Hugging Face
LoRA и адаптеры 5Все на Hugging Face

О модели

docanan/dweep-1.7b-gguf
Автор
docanan
Категория
Другое
Дата выхода
На сайте

На сайте

Hugging Face

00

Спросить нейросеть об этой модели

Отвечает Gemini 4 · переписка хранится только в этой вкладке

Комментарии

Компьютерное зрение

Artsy RLHF

Artsy RLHF
Компьютерное зрение

VisAlloc-9B

VisAlloc-9B