against-the-safety-tiny-aya-rag-cand-f1
LoRA для RAG-ответов Tiny Aya
2 мин чтенияобновлено
against-the-safety-tiny-aya-rag-cand-f1 — LoRA-адаптер для CohereLabs/tiny-aya-global от команды Against-the-safety. Сделан для Lexsi AI Safety and Alignment Hackathon (Track 3, problem statement 4) и продолжает candA на 721 строке с совпадающими доказательствами: вопрос и глубина поиска с нужным фактом и без него, плюс replay поисковой политики. Это checkpoint после первой эпохи из запланированных двух.
Ключевые особенности
- LoRA-адаптер для
CohereLabs/tiny-aya-global, продолжает candA. - Обучен на 721 паре строк с совпадающими доказательствами: один и тот же вопрос и глубина поиска с нужным фактом и без него, плюс replay поисковой политики.
- На sealed test из 938 эпизодов SQuAD, HotpotQA и RGB macro 0.570 против 0.517 у main — оба с fail-closed и self-check.
- Разница по unsupported-answer rate: -0.008 [-0.047, +0.030]. Данные не показывают, стал ли адаптер безопаснее main.
- Для результата нужны оба ремонта; self-check в прогонах выполнял main-адапт��р, а не candF1.
- Доля отказов от ответимых вопросов остаётся высокой: 0.378 с ремонтами.
Пример
Адаптер подключается вместо main по тому же протоколу: тот же system prompt и tool loop, id меняется на BMEscanor/against-the-safety-tiny-aya-rag-cand-f1. Но scripts/ask.py грузит один адаптер на обе роли — сценарий, где candF1 сам себя проверяет, не оценивался.
Подробнее
Sealed test: 938 эпизодов SQuAD, HotpotQA и RGB; macro 0.570 у candF1 + ремонты против 0.517 у main.Разница macro +0.052 [+0.021, +0.085]; supported correct +0.048 [+0.009, +0.087].
Ограничения: английский, короткие фактические вопросы; не для safety-critical и юридических задач; лицензия CC BY-NC 4.0.
Это документированная альтернатива, а не отправленная система.










Комментарии