Qwen3-8B-Cooking-Assistant
кулинарный ассистент, который не выдумывает детали
3 min readupdated
Неофициальный файнтюн на базе Qwen3-8B (8.19B параметров) от Humanjava Enterprises, обученный работать строго по тексту рецепта, который ему передали. В отличие от базовой модели, которая при отсутствии контекста склонна додумывать ингредиенты и пропорции, эта версия честно переспрашивает недостающие данные, но при этом сохраняет знания по общим кулинарным вопросам. Обучение прошло в два этапа через LoRA (небольшие адаптеры над базовой моделью, влитые в основные веса) с использованием исключительно открытых данных и моделей. Подойдёт разработчикам RAG-систем и кулинарных ботов на 26 языках, включая русский.
Ключевые особенности
- Минимум галлюцинаций: если спросить про рецепт, не приложив его текст, модель придумывает детали только в 2.7% случаев против 25.8% у базовой Qwen3-8B.
- Точное чтение контекста: при наличии текста рецепта правильно отвечает на вопросы по нему в 94.8% случаев (против 83.1% у базы).
- Мультиязычность: обучена на данных на 26 языках (включая русский, английский, немецкий, испанский), хотя лучше всего работает с английским и испанским.
- Скромные требования: полные веса в bf16 занимают ~16 ГБ, а квантованная версия
Q4_K_Mиз соседнего репозитория запускается на видеокарте с 6 ГБ VRAM. - Полная открытость: лицензия Apache-2.0, в обучении не использовались ответы проприетарных API-моделей, а весь датасет для оценки опубликован.
Что можно сделать
- Встроить в Telegram-бота или приложение с рецептами (в связке с поиском по базе), чтобы пользователи могли задавать вопросы по конкретному блюду без риска получить выдуманные граммовки.
- Использовать как референс при создании собственных RAG-ассистентов, где критично, чтобы LLM опиралась только на переданный документ и не фантазировала при нехватке данных.
- Развернуть локально через Ollama, LM Studio или vLLM (с отключённым режимом рассуждений
enable_thinking: false) как домашнего помощника по замене ингредиентов и техникам готовки.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
repo = "HumanjavaEnterprises/Qwen3-8B-Cooking-Assistant"
tok = AutoTokenizer.from_pretrained(repo)
model = AutoModelForCausalLM.from_pretrained(repo, torch_dtype="auto", device_map="auto")
messages = [{"role": "system", "content": "You are a cooking assistant. When you are not sure, you say so."},
{"role": "user", "content": "If I double the recipe, how much pepper do I need?"}]
ids = tok.apply_chat_template(messages, add_generation_prompt=True, enable_thinking=False, return_tensors="pt").to(model.device)
print(tok.decode(model.generate(ids, max_new_tokens=400)[0][ids.shape[1]:], skip_special_tokens=True))
Подробнее
Оценка проводилась на 682 вопросах на 26 языках с проверкой четырьмя открытыми моделями-судьями (DeepSeek-V4-Flash, Qwen3.8-27B, GLM-4.7-Flash, gpt-oss-120b).На общих бенчмарках модель держится на уровне базы: Belebele (21 язык) — 0.863 (база 0.846), MMLU-Pro — 0.591 (база 0.611), GSM8K — 0.866 (база 0.807).
Обучена в LLaMA-Factory на текстах из Wikibooks Cookbook (CC BY-SA 4.0), Project Gutenberg, Internet Archive и NHLBI.
Ограничения: не является надёжным источником по пищевой безопасности, не помнит исторические рецепты наизусть (нужен текст в промпте), слабее работает на тайском, тамильском и хинди.










Comments