Llama-3.1-8B-Instruct-CIRF-Backward-Greedy-24

CIRF-файнтюн на базе Llama 3.1 8B Instruct (8,03 млрд параметров) от JhCIFT. Модель продолжает full-result версию после backward-greedy отбора результатов с бюджетом не более 24 явных result-токенов на обучающий пример. LoRA уже влита в плотные BF16-веса, а 514 новых токенов добавлены вместе с обученными embedding и output-строками.

⚙ Ключевые особенности

• 🧬 База — Llama 3.1 8B Instruct; язык карточки и обучения — английский.
• 🧩 CIRF: модель пишет трассу функциональных токенов с опциональными значениями результатов, затем [eof] и финальный ответ.
• ⚡ LoRA-обновление слито в BF16-веса; не нужны PEFT, базовый чекпоинт или код CIRF.
• 🌐 Загружается обычным Transformers; новые токены [sof], [eof] и [f_0]…[f_511] уже включены.
• ❕ Нет chat template: формат промпта — <|begin_of_text|>QUESTION[sof]; останавливаться на EOS, а не на [eof], и декодировать с skip_special_tokens=False.

💡 Пример

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
repo_id = "JhCIFT/Llama-3.1-8B-Instruct-CIRF-Backward-Greedy-24"
tok = AutoTokenizer.from_pretrained(repo_id)
model = AutoModelForCausalLM.from_pretrained(repo_id, dtype=torch.bfloat16, device_map="auto").eval()
prompt = tok.bos_token + "What is 2 + 2?[sof]"
inputs = tok(prompt, add_special_tokens=False, return_tensors="pt").to(model.device)
out = model.generate(**inputs, max_new_tokens=384, do_sample=False, eos_token_id=tok.eos_token_id, pad_token_id=tok.pad_token_id)

Подробнее

Бенчмарки: GSM8K — 59,59%, MultiArith — 98,88%, SVAMP — 79,67%, CommonsenseQA — 81,33%, Coin Flip — 85,39% (parity-corrected).
Оценка: greedy, до 384 новых токенов и 32 функциональных токенов, exact-match; в карточке также есть MATH-500, StrategyQA и batch-1 latency.
Ограничения: только английский, нестандартный промпт без chat template; требования к VRAM не указаны, веса BF16 на 8B.
Экспорт проверен: LoRA слита, 514 новых токенов с обученными строками.