Fable
LoRA для разбора инцидентов 5G SA
2 мин чтенияобновлено
Fable — это LoRA-адаптер (небольшая надстройка над базовой моделью) для Mistral-Small-4-119B-2603: MoE-модели на 119B параметров, из которых активны 6.5B. Адаптер дообучен под задачи 5G Standalone: архитектуру ядра 3GPP Rel-17/18, поиск корневой причины сбоев в RAN, Transport и Core, а также операции в суверенном телеком-облаке. На выходе — разбор инцидента или конфигурации с локализацией причины, отсылками к cause codes и таймерам, а при нехватке телеметрии модель должна воздержаться от ответа. Пригодится инженерам NOC, архитекторам 5G Core и тем, кто автоматизирует runbooks; для запуска нужна базовая 119B-модель, так что это не вариант для слабого железа.
Ключевые особенности
- LoRA ранга
r=32,alpha=64в BF16; адаптер весит219.8 MBи ставится на все 288 проекций MLA и shared-expert MLP в 36 слоях. - Обучение на 240 сценариях, сгенерированных детерминированным Python-солвером по физике 3GPP Rel-17/18, link budget, Erlang-C и state machines; без дистилляции из внешних frontier-LLM.
- Loss на обучении упал с
1.2810до0.0365(-97.15%), token accuracy — с 67.9% до 98.98%. - На 30 unseen-сценариях общий rubric score 85.22% против 34.94% у базы и 59.94% у базы с 6.5k-токенным playbook.
- Блок обязательного 5-блочного NOC-ответа соблюдён в 100% случаев; epistemic abstention — тоже 100%.
Что можно сделать
- Разбирать инцидент 5G SA по телеметрии и PCAP: локализовать проблему на уровне RAN, Transport или Core и предложить root cause.
- Сверять signaling, cause codes и timers 3GPP Rel-17/18 в NOC-runbook'ах и проверять ответы на соответствие обязательной структуре.
- Считать link budget, PRACH, Erlang-C и dimensioning UPF/eBPF/SR-IOV с проверкой числовых допусков.
- Оценивать blast radius и chaos-сценарии для суверенного телеком-облака; если данных не хватает — модель должна сказать об этом, а не выдумывать.
Пример
import torch
from transformers import AutoModelForCausalLM
from peft import PeftModel
base = AutoModelForCausalLM.from_pretrained(
'mistralai/Mistral-Small-4-119B-2603',
torch_dtype=torch.bfloat16, device_map='auto')
model = PeftModel.from_pretrained(base, 'AIHeikki/fable-mistral-small-4-119b-telco-lora')
Подробнее
Бенчмарк: overall rubric 85.22%, exact numerical math ±1% — 72.50%, 3GPP recall — 82.22%, blind judge — 9.52/10.Pairwise против базы: 29W / 0T / 1L; против RAG+Prompt: 28W / 1T / 1L.
Обучение: 8x NVIDIA H100 80GB HBM3 (640 GB VRAM), 26.2 минуты; адаптер 219.8 MB.
Ограничения: узкая телеком-доменность и необходимость держать базовую 119B MoE; лицензия Apache 2.0.










Комментарии