tiny-aya-global-attribution-lora
отучаем LLM додумывать виновных
2 мин чтенияобновлено
Исследовательский LoRA-адаптер (небольшая надстройка над базовой моделью) от автора vincentnkq для мультиязычной языковой модели CohereLabs/tiny-aya-global. Когда у базовой модели спрашивают, кто совершил действие, о котором в коротком тексте прямо не сказано, она часто наугад называет одного из упомянутых персонажей. Адаптер учит нейросеть честно отвечать, что в тексте нет нужной информации, но при этом продолжать давать точные ответы там, где факты действительно указаны. Подойдёт исследователям безопасности и разработчикам, тестирующим устойчивость компактных LLM к предвзятым предположениям при анализе текста.
Ключевые особенности
- Отказ от домыслов: доля случаев, когда модель наугад называет человека при неоднозначном контексте, снизилась с 59.7% до 1.3% в среднем по четырём языкам (английский, испанский, нидерландский, турецкий).
- Сохранение точности: на парных вопросах с однозначным ответом точность выросла с 69.2% до 80.7%, а метрика парной точности (twin accuracy) поднялась с 24.7% до 79.5%.
- Кросс-языковой перенос: обучение шло только на английском датасете (1412 примеров), но эффект перенёсся на другие языки, включая русский, французский, хинди и арабский.
- Устойчивость без вариантов ответа: даже в свободном формате без подсказок A/B/C модель называет человека в неоднозначном вопросе лишь в 8.1% случаев против 61.5% у базы.
Что можно сделать
- Воспроизвести эксперименты по снижению предвзятости: проверить поведение
tiny-aya-globalна тестах формата BBQ и MBBQ (бенчмарки для оценки социальных стереотипов в вопросно-ответных системах). - Использовать как референс для SFT-тюнинга: взять конфигурацию LoRA (rank 16, 1412 строк) за основу для обучения небольших моделей воздерживаться от ответа при недостатке контекста.
Пример
from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
base = "CohereLabs/tiny-aya-global"
tokenizer = AutoTokenizer.from_pretrained(base)
model = AutoModelForCausalLM.from_pretrained(base, dtype=torch.bfloat16)
model = PeftModel.from_pretrained(model, "vincentnkq/tiny-aya-global-attribution-lora")
Подробнее
Бенчмарки: twin accuracy на английском тесте BBQ выросла с 34.7% до 92.7% (+58.0 п.п.); на машинном переводе теста на русский язык — 86.9% при 4.8% ложных приписываний.Обучение: LoRA rank 16, alpha 32, dropout 0.05 (на модули q, k, v, o, gate, up, down_proj), 3 эпохи (267 шагов), lr 0.0002, bfloat16; заняло 37 минут на одной GPU L4 ($0.49).
Софт и ограничения: протестировано на transformers 5.22.1 и peft 0.21.2; это исследовательский артефакт, не являющийся общим фильтром безопасности или универсальной защитой от галлюцинаций на других типах задач.










Комментарии