Qwen2.5-0.5B-Instruct-xlam-mixed-grpo3300-lora

LoRA-адаптер от uygarkurt на базе Qwen/Qwen2.5-0.5B-Instruct. Обучен через GRPO на датасете xlam-tool-calling-mixed, чтобы выполнять структурированные tool calls и воздерживаться от вызова, когда предложенные инструменты нерелевантны.

🔧 Ключевые особенности

• 🔥 GRPO-обучение: 3 300 обновлений, около 2,4 часа тренировочного цикла.
• ⚙ Адаптер для структурированного вызова функций в формате tool calling.
• 🛡 Отдельно тренируется abstention — отказ от вызова нерелевантных инструментов.
• 📈 Рост xLAM ETC: 69,70% против 63,84% у базовой модели.
• 🖥 Это только веса LoRA: их нужно загружать поверх оригинальной Qwen2.5-0.5B-Instruct.

💬 Пример

Доступны инструменты get_weather(city) и get_stock_price(ticker). На запрос «Погода в Москве?» ожидается структурированный вызов get_weather; если доступен только нерелевантный get_stock_price, модель должна воздержаться.

Подробнее

xLAM FNA: 93,83% против 90,03% у базы; BFCL Single-turn FC: 51,81% против 50,28%.
MMLU 41,94%, MATH-500 15,00%, IFEval 26,25% — небольшие просадки относительно базовой модели.
Relevance: 72,22% против 77,78%; Irrelevance: 69,25% против 66,93%.
Оценки xLAM и BFCL — study-specific aggregates; данные о требованиях к VRAM в карточке не указаны.