LegalTrace-Qwen3-4B-LSI
подбор статей УК Индии по описанию дела
2 min readupdated
Компактная языковая модель на 4,02 млрд параметров для автоматического определения статей Уголовного кодекса Индии (IPC) по тексту судебных материалов, протоколов (FIR) и обвинительных заключений. Построена на базе Qwen/Qwen3-4B-Instruct-2507 с помощью метода дообучения QLoRA на корпусе уголовных дел ILTUR. В отличие от базовой модели, которая в четверти случаев ошибается с форматом ответа и путается в статьях, специализированная версия строго выдаёт список номеров из 100 основных категорий в порядке возрастания. Пригодится разработчикам юридических сервисов (LegalTech) и исследователям, работающим с индийским правом.
Ключевые особенности
- Рост точности в 4 раза: метрика Macro-F1 выросла с 0.0569 у базовой Qwen3-4B до 0.2443 (+329%), обойдя также классический подход TF-IDF + Logistic Regression (0.1716).
- Минимальный брак формата: доля некорректных ответов снизилась с 24,2% до 0,5%, модель чётко соблюдает заданный шаблон вывода.
- Быстрый инференс: обработка одного дела занимает в среднем 0,45 секунды против 2,15 секунды у исходной модели.
- Готовность к запуску: веса сохранены в объединённом формате
bfloat16, также доступна квантованная GGUF-версия для локального запуска через Ollama.
Что можно сделать
- Автоматизация LegalTech-инструментов: встроить модель в системы первичной сортировки и разметки индийских судебных актов и полицейских отчётов.
- Локальный запуск на ПК: развернуть сопутствующую GGUF-сборку через Ollama на Mac, Windows или Linux для офлайн-анализа документов.
- Бенчмаркинг юридических LLM: использовать модель как ориентир при тестировании доменной адаптации компактных языковых моделей в праве.
Пример
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "spicysweetner/LegalTrace-Qwen3-4B-LSI"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.bfloat16, device_map="auto")
# В системном промпте задаётся список 100 валидных статей IPC, на выходе — номера через запятую (например: 302)
Подробнее
Метрики на 1 000 судебных решений (test_subset): Macro-F1 — 0.2443, Micro-F1 — 0.3789, Example-F1 — 0.3843.Обучена на выборке из 8 000 дел корпуса ILTUR.
Язык работы: английский; поддерживается только 100 основных статей Indian Penal Code (IPC).
Формат весов: standalone bfloat16 (4.02B параметров), есть отдельный репозиторий с GGUF.










Comments