Guardián colombiano
LoRA-модератор для колумбийского испанского
2 min read
Это LoRA-адаптер к CohereLabs/tiny-aya-global (3,35B) от vasmi-sas для модерации публичных заметок проекта 12-cuentos на колумбийском испанском и английском. Заменяет цепочку правил → omni-moderation → gpt-5.4-mini, которая чрезмерно блокировала разговорный колумбийский испанский. Обучен методом Lisa на синтетических данных.
Ключевые особенности
- LoRA-адаптер к Tiny Aya Global (3,35B) для модерации заметок на ES/EN.
- Обучен методом Lisa: чередование 20 шагов alignment и 20 шагов task (SafeTune LisaTrainer).
- Возвращает JSON с
veredicto(aprobado|revision|rechazado) и 8 флагами политики. - На holdout v2 точность модерации 81,1% ES / 82,4% EN против 62,2% / 68,9% у базовой модели.
- Доля публикации недопустимого: 9,8% / 7,3% против 46,3% / 41,5% у Tiny Aya.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
tok = AutoTokenizer.from_pretrained("vasmi-sas/guardian-tiny-aya-lisa")
base = AutoModelForCausalLM.from_pretrained("CohereLabs/tiny-aya-global", revision="af89d219b53ed9b13b8a4645f9c8028973510324", device_map="auto")
modelo = PeftModel.from_pretrained(base, "vasmi-sas/guardian-tiny-aya-lisa")
Подробнее
Точность модерации на holdout v2: 81,1% ES / 82,4% EN; публикация недопустимого — 9,8% / 7,3%.Блокировка одобренного: 15,2% / 18,2% против 3,0% / 0,0% у базовой модели.
Вредоносная помощь: 0,0% с судьями GPT-5.4 и Claude Sonnet 5.5.
Обучение: 1 654 синтетических примера, LoRA r=16, α=32, dropout 0,05, 2× T4, fp16; 349 примеров alignment.
Ограничения: одна семечка, небольшой holdout, лицензия CC-BY-NC (некоммерческая); фильтр поддержки для человеческого комитета, не автономный модератор.










Comments