15 постов
9B-модель решений в один проход, теперь в MLX
Это mixed-precision квантование (oQ, oMLX v0.7.4.dev1) модели FastBrain-9B от b2z — неавторегрессионной System-1 модели структурированных решений на базе Qwen3.5-9B с головой JointSchemaHead на 116M параметров. Чекпойнт весит 8.06 GiB при среднем 7.264 бит/вес и рассчитан на библиотеку mlx.
версия без цензуры
Это LoRA-адаптер от MuXodious для google/gemma-4-12B-it, сделанный через Heretic v2.2.0.dev0. Базовая модель — 12B Unified из семейства Gemma 4: encoder-free мультимодальная LLM с текстом, изображениями и аудио на входе и контекстом до 256K токенов.
8,4B decision-модель в MLX-кванте
Это смешанный MLX-квант модели vllm-sr/d3-flash из семейства Decision 3.0 — мультимодальной decision-модели на 8,39B параметров, включая 0,46B vision-энкодера. На вход она принимает текст или JSON, при необходимости изображения и видео; отвечает на вопросы выбора, «да/нет» и оценки, возвращая…
9B-модель решений в 7,8 ГиБ для MLX
Это квантованная версия baselabs/elephant-1 от b2z, сделанная через oQ (oMLX v0.7.4.dev1). Базовая elephant-1 от Base Labs/Baseten — 9B decision-модель на основе Qwen3.5-9B: принимает текст и изображения и возвращает калиброванные вероятности по набору вопросов.
квантованная System-1 модель решений для MLX
Это MLX-чекпоинт FastBrain-9B от b2z, сжатый через oQ (oMLX v0.7.4.dev1). Модель на 9.41B параметров предназначена для структурированных решений по JSON-состоянию и схемам choice, noul и score.
NVFP4-квант для локального запуска
Это NVFP4-чекпоинт 27B-модели Qwen3.8 от esatapedico, собранный из BF16-релиза DavidAU/Qwen3.8-27B-Ultimate-Heretic-Uncensored. Архитектура — dense hybrid, лицензия Apache-2.0; репозиторий содержит только числовую конвертацию, без обучения или файнтюна.
до 65,5 tok/s на Grace Blackwell GB10
Это сборка для NVIDIA Grace Blackwell GB10 (Spark / GB10): аппаратно-привязанный рантайм bin/flash1017-gx10, addon_gx10_rust.so, кэш GX10 Turbo Cache на 4,3 ГБ и 40 залоченных слоёв из nvidia/DeepSeek-V4.1-Flash-1017-NVFP4. Автор — Tkaa.
TTS для 92 африканских языков и английского
Africa TTS от AfriSpeech — компактная TTS-модель на 110M параметров для 92 африканских языков и английского. Основана на 6-слойной Pocket TTS FlowLM, умеет клонировать голос по клипу 3–10 с и по умолчанию работает на CPU через audio.cpp быстрее реального времени.
страна по уличному фото
Это vision-encoder openai/clip-vit-base-patch16, дообученный на подмножестве OpenStreetView-5M предсказывать одну из 33 стран по уличной фотографии. Классификационная голова инициализирована текстовыми эмбеддингами промпта A street view photo taken in {}., обучение — linear probe + full…
эмбеддинги, которые ставят актуальные факты выше устаревших
EpochDB Embed — файнтюн intfloat/multilingual-e5-small от jersobh для семантического поиска в EpochDB. Модель на 0.12B параметров обучена ранжировать текущие факты о сущностях выше устаревших записей; поддерживает английский, португальский и немецкий.
два GGUF-кванта для локального MoE
Два вручную собранных GGUF-кванта Qwen3.8-Flash-Next от janghaneul для локального инференса MoE через Strata / llama.cpp. Оба построены из рецепта AD-5.00bpw-Q5_K_M: изменены только routed-эксперты gate/up, остальные тензоры остаются Q8_0, down-эксперты — IQ4_NL.
GGUF-квант на 12 ГиБ
Это GGUF-квант модели bottlecapai/ThinkingCap-gemma-4-26B-A4B-it от IsValorum в серии APEX. Архитектура gemma4, задача image-text-to-text; вариант MiniPlus занимает 12.03 GiB. Рядом выпущен NanoPlus на 9.92 GiB.
кванты для локального запуска
mradermacher выложил статические GGUF-кванты модели kataguru/Industry-Coder-27B-v3.0. Это 27B-модель; в репозитории есть варианты от Q2_K до Q8_0 и mmproj-файлы для мультимодального режима. Готовых бенчмарков и описания обучения в карточке нет.
7B-модель в готовых квантизациях
Это статические GGUF-кванты модели MuyaoYuan/LoCo-7B, подготовленные mradermacher. Оригинал — 7B-модель; задача в карточке не описана, поэтому ориентируйтесь на базовую модель. Набор предназначен для локального инференса в GGUF-совместимых раннерах.
компактный суммаризатор новостей BBC
Это BART-base на 0,14 млрд параметров, дообученный Muzammal Hussain для суммаризации англоязычных новостей BBC. Модель — seed-0 из исследования NewsSum V2, где сравнивают extractive-бейзлайны, файнтюны трансформеров и небольшую LLM.