HiTZ/Latxa-3-122B-A10B
мультимодальная языковая модель для баскского языка
2 мин чтенияобновлено
Latxa 3 — это крупная мультимодальная инструктивная модель (модель, обученная следовать инструкциям), созданная исследователями из центра HiTZ и группы IXA (Университет Страны Басков). Модель построена на базе Qwen3.5-122B-A10B с использованием архитектуры Mixture-of-Experts (MoE, смесь экспертов), имеет 122 миллиарда параметров в сумме и около 10 миллиардов активных на токен, а также поддерживает контекст до 262 144 токенов. Latxa 3 умеет работать с изображениями и вести диалоги на баскском языке, причем работает исключительно в режиме размышлений (thinking mode), предварительно обдумывая ответы. Модель предназначена для ликвидации разрыва в качестве работы ИИ для языков с малым количеством ресурсов.
Ключевые особенности
- Поддержка работы с изображениями и мультимодальными инструкциями.
- Обязательный режим размышлений (thinking mode) перед выдачей ответа.
- Значительный прирост точности в задачах на знание баскского языка и культуры по сравнению с базовой моделью.
- Огромный контекст размером до 262 144 токенов.
Что можно сделать
- Развернуть русскоязычного или баскского языкового помощника в корпоративной среде или для исследовательских задач.
- Запускать мультимодальный анализ изображений с текстовыми запросами на базе мощной открытой архитектуры.
- Интегрировать модель в сервисы через OpenAI-совместимый API с помощью фреймворков вроде vLLM.
Пример
Пример запроса к модели с передачей изображения через OpenAI-совместимый клиент:
from openai import OpenAI
client = OpenAI(base_url="http://localhost:8000/v1", api_key="EMPTY")
messages = [
{
"role": "user",
"content": [
{"type": "image_url", "image_url": {"url": "[https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/p-blog/candy.JPG](https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/p-blog/candy.JPG)"}},
{"type": "text", "text": "Zer ikusten da irudi honetan?"},
],
},
]
response = client.chat.completions.create(
model="Latxa-3",
messages=messages,
max_tokens=1024,
)
print(response.choices[0].message.content)Подробнее
Берёт за основу архитектуру Qwen3.5-122B-A10B (MoE: 256 экспертов, 8 выбираемых + 1 общий на токен).Показала среднюю точность 84.0% в задачах владения баскским языком и 76.4% в тестах на баскские знания.
Требования к железу: версия в BF16 весах требует около 245 ГБ VRAM (например, 4 видеокарты с 80 ГБ памяти). Доступна также FP8 версия.
Лицензия: Apache 2.0.










Комментарии