SLM-LogicStrengthen-v2
компактная модель для логики и Z3
2 мин чтенияобновлено
Компактная языковая модель (SLM) на 494 миллиона параметров от автора BRR1154, заточенная под задачи формальной логики первого порядка (FOLIO) и работу с матричными инвариантами и решателем Z3. В основе лежит Qwen2.5-0.5B-Instruct (через промежуточный чекпоинт v1). В этой версии автор применил дообучение LoRA в связке с методом SVD Null-Space Consolidation (проекция обновлений весов в нулевое пространство активаций, чтобы не ломать уже имеющиеся знания) и калибровкой отказа от ответа (ABSTAIN). Модель подойдёт разработчикам и исследователям для экспериментов с локальным детерминированным рассуждением на слабом железе.
Ключевые особенности
- Сохранение базовых знаний: на тесте ARC-Easy-25 точность выросла с 64.0% до 80.0% по сравнению с версией v1 при сохранении профильного результата на FOLIO-24 + Z3/Matrix-6 (36.67%).
- Калибровка уверенности: индекс калибровки AA-Omniscience-12 улучшился на +8.33 пункта (с -25.00 до -16.67) благодаря обучению механизма воздержания от ответа при нехватке данных.
- Точечная хирургия весов: обновлены 48 проекций (q_proj, v_proj, o_proj, down_proj) в слоях 12–23 за 36 шагов градиентного спуска с рангом LoRA 16 и подпространством SVD k=24.
- Минимальный вес: размер всего 0.49B параметров в формате BF16, что позволяет запускать её практически на любом современном GPU или CPU.
Что можно сделать
- Встроить в локальные пайплайны верификации кода и логических утверждений совместно с решателем Z3 и Python-проверками.
- Использовать как лёгкий детерминированный классификатор или парсер для задач, где модели важно уметь вовремя отказаться от галлюцинаций (ABSTAIN).
- Взять за референс для изучения методов континуального обучения без катастрофического забывания через SVD Null-Space Consolidation.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
model_id = "BRR1154/SLM-LogicStrengthen-v2"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, dtype=torch.bfloat16, device_map="auto")
messages = [{"role": "user", "content": "Solve the specialist task concisely and deterministically."}]
inputs = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt").to(model.device)
out = model.generate(inputs, max_new_tokens=160, do_sample=False)
Подробнее
Бенчмарки (v1 → v2): FOLIO-24 + Z3/Matrix-6 — 36.67% (без изменений), ARC-Easy-25 (Raw / PMI-Cal) — 80.0% / 76.0% (+16.0 / +4.0 п.п.), AA-Omniscience-12 — -16.67 (+8.33 п.п.).Детали обучения: 36 шагов, LoRA rank=16, SVD subspace k=24, max Frobenius shift ratio 1.521%, max null-space orthogonality error 2.736e-09.
Язык модели: английский (en), формат весов BF16 (~1 ГБ видеопамяти).










Комментарии