citavyn-gemma4-2b-lora
адаптер для корпоративного RAG и комплаенса
1 мин чтенияобновлено
Эта модель представляет собой легкий LoRA-адаптер (небольшая надстройка над базовой моделью) размером около 95 МБ, созданный на базе google/gemma-4-E2B-it. Она обучена методом Supervised Fine-Tuning для задач корпоративного поиска с дополненной генерацией (RAG) и управления данными. Модель строит ответы строго по предоставленным документам, умеет воздерживаться от ответа при недостатке данных и соблюдает требования регуляторов, таких как GDPR и EU AI Act. Адаптер пригодится разработчикам и инженерам, внедряющим безопасные языковые модели в корпоративную среду.
Ключевые особенности
- Строгая привязка цитат к источникам в формате XML-блоков
- Отказ от генерации при нехватке достоверных фактов в контексте
- Поддержка стандартов безопасности и регулирования вроде GDPR и NIST AI RMF
- Маскирование персональных данных и защита от инъекций промптов
Что можно сделать
- Настроить безопасный корпоративный поиск по внутренним базам документов
- Интегрировать адаптер через PEFT и multi-tenant vLLM для работы с конфиденциальными данными
- Автоматизировать проверку документов на соответствие нормативным требованиям
Пример
Используйте адаптер поверх базовой модели Gemma 4 для ответов на вопросы по внутренней документации компании с обязательным указанием источников.
Подробнее
Базовая модель: google/gemma-4-E2B-itФормат: LoRA adapter (r=16, ~95 MB)
Лицензия: Apache License 2.0










Комментарии