aadha
крошечный классификатор смысла и «воды» в тексте
2 мин чтенияобновлено
Компактная модель от автора Prayas Abhinav, которая анализирует отдельные предложения на английском языке и присваивает каждому одну из четырёх оценок: «нежелательный шум» (пустое украшательство или бессмыслица), «хороший шум» (глубокая метафора или спорная мысль), «история» (прямой повествовательный смысл) или «ходовая фраза» (штамп и поговорка). В основе лежит лёгкая архитектура microsoft/MiniLM-L12-H384-uncased на 30 млн параметров. Модель ничего не генерирует сама — она работает как быстрый разметчик для анализа структуры текста, а её главное отличие от больших LLM вроде Claude в том, что она точнее отсеивает абстрактную бессмыслицу и не путает её с глубокими мыслями. Инструмент пригодится редакторам, исследователям текста и разработчикам писательских утилит.
Ключевые особенности
- Формат NSM (Narrow Small Model — узкая малая модель): весит всего 30 млн параметров и выдаёт строго одну из четырёх меток для фрагментов длиной до 96 токенов.
- Усреднённые веса (model souping): модель обучена на трёх разных сидах и объединена в один чекпоинт, а в комплекте идёт дополнительный LoRA-адаптер (небольшая надстройка)
reflectдля анализа рассуждающих текстов. - Высокая точность разметки: на проверочном наборе из 182 предложений релизная версия совпала с авторской оценкой в 176 случаях.
- Ловит «псевдоглубину»: обходит Claude Haiku и Sonnet в умении отличать бессвязные абстракции от осмысленных метафор.
Что можно сделать
- Встроить в редакторский сервис или скрипт для анализа английских эссе и статей — чтобы подсвечивать баланс между сюжетом, штампами и сложными идеями.
- Использовать как сверхбыстрый локальный фильтр качества текста перед подачей данных в пайплайны обработки или оценки.
- Переключаться на режим
--reflectпри проверке философских, публицистических и аналитических заметок.
Пример
pip install torch transformers peft
python use.py "The bus was late again." "Every mistake leaves a fingerprint on the next one."
python use.py --reflect "..."
Подробнее
Метрики: 176 из 182 совпадений с разметкой автора на актуальном тесте (ранняя версия набрала 576/603 против 441 у Haiku и 456 у Sonnet).Железо: 0.03B параметров (MiniLM-L12-H384), работает на CPU или любой видеокарте с минимальным объёмом VRAM.
Ограничения: поддерживает только английский язык (до 96 токенов на предложение), плохо распознаёт перефразированные штампы (0 из 6) и может принять сюжетное предложение с опечатками за «шум».
Лицензии: веса и карточка распространяются под CC BY 4.0, код — под GNU AGPL 3.0.










Комментарии