Inkling 2 Mini
мультимодальная модель с зацикленной архитектурой
2 мин чтения
Inkling 2 Mini от Thinking Machines Lab — это универсальная мультимодальная модель, которая принимает на вход текст и изображения, а на выходе генерирует текст. Она разработана для разработчиков, создающих ИИ-агенты, чат-ботов, инструменты для кодинга и системы поиска с дополненной генерацией (RAG). Модель базируется на 24-слойном декодере с разреженными слоями Mixture-of-Experts (MoE, архитектура смешения экспертов), где средние слои выполняются несколько раз для повышения эффективности. Она поддерживает контекстное окно до 1 миллиона токенов и отлично подходит для сложных задач программирования и анализа данных.
Ключевые особенности
- Мультимодальный ввод: поддержка текста и изображений с разрешением от 40 до 4096 пикселей.
- Архитектура MoE: 26.4 миллиарда параметров всего, из которых около 3.4–5.4 миллиарда активны на токен благодаря зацикленным слоям.
- Огромный контекст: нативная поддержка контекстного окна до 1M токенов.
- Поддержка кодинга: сильные результаты в задачах автоматической разработки и работы с терминалом.
Что можно сделать
- Интегрировать модель в чат-ботов и ассистентов для обработки текста и графических инструкций.
- Использовать для генерации кода, отладки и задач автономного программирования.
- Настроить системы поиска и извлечения информации (RAG) с длинным контекстом.
Пример
Пример настройки или запуска модели с помощью Python-библиотек или через Tinker API доступен в официальном репозитории и документации проекта.
Подробнее
Бенчмарки: DeepSWE v1.1 — 48.2%, Terminal Bench v2.1 — 71.6%Требования к железу: чекпоинт около 20GB в точных форматах NVFP4 и MXFP8; рекомендуется от 32GB VRAM или устройства Apple Silicon с памятью от 32GB
Лицензия: Apache 2.0










Комментарии