xspark-X2.6-math

Экспериментальный математический чекпойнт на базе Spark-X2.6-4B от arcticoneai. 4B параметров, rank-16 LoRA уже слит в BF16-веса, отдельный адаптер не нужен. Ориентирован на решение задач и формализацию в Lean 4.

📌 Ключевые особенности

• 📊 AIME: 50% у базовой Spark-X2.6-4B и 90% у math-версии — оба замера без включённого reasoning и agent harness.
• ✔ 90% получены на внутренней выборке из 50 вопросов, это не аудированный лидерборд.
• 💡 В предоставленном Lean 4-фрагменте сгенерированы доказательства для пары неизоморфных групп с изоморфными tracial group factors и для бесконечного семейства таких групп.
• 🔄 Дообучение: rank-16 LoRA, слитая в BF16, плюс дистилляция reasoning от учителя с восемью специализированными промптами.
• ⚠ Карточка называет чекпойнт экспериментальным: нужны полный Lean-проект и аудит зависимостей.

💻 Пример

from transformers import AutoTokenizer, AutoModelForCausalLM

model_id = 'arcticoneai/xspark-X2.6-math'
tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id, torch_dtype='auto', device_map='auto', trust_remote_code=True
)

Используйте формат thinking/reasoning, ожидаемый базовой Spark-X2.6.

Подробнее

AIME: 50% → 90% без reasoning, но 90% — внутренняя выборка из 50 вопросов.
Lean 4: две теоремы о группах с изоморфными tracial factors; фрагмент сокращён.
Для независимой проверки нужны полный Lean-проект, аудит аксиом и скрипт оценки.
Модель: 4B параметров, LoRA rank-16 слита в BF16.