К содержимому
Другое

Qwen3.8-27B Honesty Steering

векторы управления честностью модели

2 мин чтенияобновлено

Набор steering-векторов (управляющих векторов активаций, меняющих поведение нейросети прямо во время генерации без дообучения её весов) от автора NiklasTUM для языковой модели Qwen/Qwen3.8-27B. Артефакты получены как разница средних активаций на контрастном наборе из 50 сценариев самоотчёта (self_report) по позиции пятого токена с конца промпта (tail5) при отключённом режиме рассуждений (thinking off). В отличие от обычного файнтюнинга или LoRA, метод корректирует скрытые состояния на нужном слое декодера, подталкивая модель к честным ответам даже при наличии «нечестного» системного промпта. Инструмент пригодится исследователям безопасности ИИ (AI Safety), интерпретируемости моделей и разработчикам, изучающим управляемость LLM.

Ключевые особенности

  • Послойные артефакты для всех 64 слоёв: в репозитории лежат файлы .pt с векторами направления ([64, 5120] в float32), смещениями (bias), эмбеддингами обоих классов и метаданными.
  • Точечная коррекция через StTP: алгоритм изменяет проекцию только тех токенов, которые попадают на «нечестную» сторону относительно порога θ, не трогая остальные компоненты вектора.
  • Работа на токене промпта: векторы посчитаны по одному токену роли assistant перед началом генерации, а не по усреднению всего ответа.
  • Готовая рабочая точка: автор протестировал сетку параметров и выделил оптимальный 33-й слой декодера с коэффициентом 32.

Что можно сделать

  • Подавлять обман при провокационных системных промптах: подключить forward hook в transformers или плагин в vLLM на 33-й слой Qwen3.8-27B, чтобы удерживать модель от искажения фактов о своих прошлых действиях.
  • Сравнивать методы steering на одной базе: использовать готовые эмбеддинги честных и нечестных активаций ([64, 50, 5120]) для проверки других алгоритмов вроде StMP.
  • Исследовать перенос свойств между режимами: изучить, как направление, найденное без thinking-режима, ведёт себя при включённых рассуждениях и на других категориях задач.

Пример

import torch
from huggingface_hub import hf_hub_download

REPO = "NiklasTUM/qwen3.8-27b-honesty-steering-vectors-self-report-prompt-tail5"
STEM = "honesty_self_report_prompt_tail5_nothink_diffmean"
LAYER, THETA, TARGET = 33, 8.0142, 69.0601

v = torch.load(hf_hub_download(REPO, f"{STEM}_steering_vector_Qwen_Qwen3.8-27B.pt"))[LAYER]
unit = v / v.norm()
ПодробнееБенчмарк честности (112 отложенных сценариев, оценка gpt-oss-120b, шкала 0–100): показатель Honesty вырос с 36.3 до 79.8 при сохранении связности Coherence на уровне 91.2 (против 92.5 без вмешательства).
На 33-м слое точность разделения по порогу θ = 8.0142 составляет 0.92, а разрыв между классами равен 3.0 pooled σ.
Ограничения: векторы обучены только на 50 сценариях категории self-report в режиме thinking off; при включённом thinking-режиме прирост честности почти отсутствует (Δ = +0.03) и немного снижается соблюдение системных ограничений.
При коэффициентах выше ~32 на 33-м слое (и на слоях ≥ 39) связность текста начинает быстро падать.
Обсудить Telegram 0

Запустится ли?

Запустится в BF16

Влезает без сжатия.

  • BF16веса 0.1 GB · готовые файлы0.6 GB
  • FP8 / INT8рекомендуемвеса 0.0 GB0.5 GB
  • 4-bitвеса 0.0 GB0.5 GB

Совет: берите 8-bit.FP8 / INT8 почти не отличается по качеству от полной точности (разница в пределах процента), а памяти занимает вдвое меньше и на RTX 40/50, H100 работает быстрее. Полную точность есть смысл брать только для дообучения.

Что взять под эту модель

Massed ComputeОткрыть Massed Compute

Своя видеокарта: FP8 / INT8 — от RTX 2060 · BF16 — от RTX 2060

Почасовые цены Massed Compute на ноябрь 2026. Цена со скидкой — с промокодом при оплате.

Оценка: веса плюс рабочая память. Длинные ролики, высокое разрешение и большой контекст требуют больше.

Запуск на Massed Compute

Скрипт скачает модель на арендованную машину. Как её запустить — в карточке модели.

  1. 1. Арендуйте машину с подходящей видеокартой

    Открыть Massed Compute
  2. 2. Вставьте скрипт в терминал машины

    Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.

    HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.

    # NiklasTUM/qwen3.8-27b-honesty-steering-vectors-self-report-prompt-tail5
    mkdir -p ~/models
    curl -LsSf https://astral.sh/uv/install.sh | sh
    source "$HOME/.local/bin/env"
    uv tool install "huggingface_hub[cli]"
    hf download NiklasTUM/qwen3.8-27b-honesty-steering-vectors-self-report-prompt-tail5 --local-dir ~/models/qwen3.8-27b-honesty-steering-vectors-self-report-prompt-tail5
    # Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).
  3. 3. Пользуйтесь

    Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).

Не забудьте остановить машину в панели, когда закончите: оплата идёт поминутно, пока она включена.

Как ускорить

Подобрано под тип модели. Выберите своё железо в блоке выше — покажем то, что подходит именно вам.

  • FlashAttention 44.0.0b40от 18 ноября 2026новая версия

    самое быстрое точное внимание на B200

    Ядра для Blackwell (пока бета). Точное внимание без квантования — подходит для всего, включая LLM.

    Как включить: pip install flash-attn-4; vLLM и SGLang подхватывают сами.

    Предыдущие поколения (2)
    • FlashAttention 3 — Версия для Hopper (H100/H200) с FP8.
    • FlashAttention 2 — Стандарт для RTX 30/40/50 и A100: точное внимание без лишней памяти на длинных контекстах.
  • torch.compile2.15.0от 28 октября 2026новая версия

    10–30% бесплатно

    Компилирует модель под вашу видеокарту. Первый запуск дольше, дальше быстрее.

    Как включить: model = torch.compile(model); в ComfyUI — узел TorchCompileModel.

Семья модели

Дообучение модели

Qwen/Qwen3.8-27B

Новые посты про версии Qwen3.8-27B — сжатые, дообучения, LoRA — появятся в колокольчике.

Сжатые версии 12Все на Hugging Face
Дообучения 12Все на Hugging Face
LoRA и адаптеры 2Все на Hugging Face

О модели

NiklasTUM/qwen3.8-27b-honesty-steering-vectors-self-report-prompt-tail5
Автор
NiklasTUM
Категория
Другое
Дата выхода
На сайте

На сайте

Hugging Face

00

Спросить нейросеть об этой модели

Отвечает Gemini 4 · переписка хранится только в этой вкладке

Комментарии