kafka-sre-27b-v1-preview

Экспериментальный LoRA-файнтюн Qwen/Qwen3.8-27B (27,36 млрд параметров) от aywengo для эксплуатации Apache Kafka в Kubernetes: Strimzi, работа с кластером и диагностика, GitOps с Argo CD и паттерны стриминга. Это preview-версия; автор предупреждает: проверяйте конфиги и команды перед применением, не для работы без присмотра. Планируется v2 с более чистыми данными.

🔍 Ключевые особенности

• 🧨 LoRA rank 16, scale 20, dropout 0.05, на все слои; обучение на синтетических Q/A из документации Kafka, Strimzi, Argo CD и Kubernetes.
• 📊 Гейт качества не пройден: на 40 реальных вопросах tuned 3.05 против base 3.15, для прохода нужно было +0.3.
• ✔ Лучше базовой на Strimzi (+1.2), Kafka config (+0.8) и Argo CD (+0.4).
• ❌ Хуже на Kafka operations (-1.8), streaming и Kubernetes; известные ошибки — rebalancing, exactly-once в Kafka Streams, recovery брокера.
• 🖥 Ответы короче (~230 токенов против ~990 у base), поэтому tuned почти не упирается в лимит 1024 токена: 3/152 против 122/152.
• 💡 Слепой обзор автора на 10 вопросах: tuned лучше в 8 случаях из 10; второй LLM-ревьюер — 5 против 4.

💬 Пример

Промпт из реального набора: «We added two brokers. How do we move existing partitions onto them with Cruise Control?» Tuned получил 5 от judge, base — 2: базовая модель путала REST-эндпоинты и не использовала KafkaRebalance из Strimzi.

Подробнее

Обучение: 6 858 примеров, 1 эпоха, mlx-lm 0.32.2 на Mac Studio (Apple silicon).
Данные: 7 201 синтетический Q/A от DeepSeek-V4.1-Flash по закреплённой документации; ручная проверка 30 примеров — 17 OK, 8 weak, 5 wrong.
Ограничения: experimental preview, не для автоматических изменений в кластере; judge — та же модель, что генерировала данные.
Требования к VRAM в карточке не указаны.