DICE-Policy
политика выбора педагогических действий
1 мин чтенияобновлено
DICE-Policy — обученная модель выбора действий из статьи DICE: Decoupling Capability from Intervention Necessity in LLM Tutoring (NeurIPS 2026). Это merged-чекпоинт: IV-калиброванный LoRA-адаптер слит с Qwen2.5-7B-Instruct. По задаче, эталонному решению, истории диалога и последнему ответу ученика предсказывает одно из шести педагогических действий; домен — математический тьюторинг, язык — английский.
Ключевые особенности
- Два решения разделены: нужно ли вмешиваться и какое действие выбрать.
- Шесть меток:
accept_and_advance,arithmetic_repair,conceptual_hint,handle_question,ask_for_justification,refocus_subgoal. - Обучение: action-only LoRA, IV-взвешивание и KL-регуляризация; LoRA rank 16, alpha 32.
- Это policy-модель, а не самостоятельный тьютор-чатбот: ответы и проверку принимает полный фреймворк DICE.
- Чекпоинт уже merged — отдельный LoRA-адаптер не нужен.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = 'chocokiddo/DICE-Policy'
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
model_id, torch_dtype='auto', device_map='auto'
)
model.eval()
Подробнее
В simulated session-level tutoring DICE-Cost: all-three problem success 56.4% против 37.6% у SocraticLM; over-intervention 2.8% против 42.0%; unsafe final-answer acceptance 0.0% против 40.0%.Это результаты полной системы, не отдельного policy-чекпоинта.
Обучение: 4-bit QLoRA с BF16, 3 эпохи, lr 2e-4, max length 2048. Ограничения: математические word problems и симулированные ученики; гарантий корректности для человека нет.










Комментарии