Inkling-2-Small-Riggs1890-lexgym
учим нейросеть словарю без потери навыка поиска
2 min readupdated
Исследовательский LoRA-адаптер (небольшая надстройка над базовой моделью) от независимого автора Christian H. Cooper на базе Inkling-2-Small. Модель обучали на оцифрованном словаре языка дакота Стивена Р. Риггса 1890 года, чтобы проверить метод запоминания текста без потери способности пользоваться инструментами (tool use). Обычно при дообучении на фактах нейросети перестают обращаться к внешнему поиску, но смешанный датасет из обычных вопросов и готовых диалогов с поиском позволил сохранить оба навыка. Адаптер пригодится исследователям ML для изучения методов дообучения и работы с редкими историческими корпусами.
Ключевые особенности
- Гибридное обучение: датасет на 69 461 строку объединяет прямые вопросы-ответы и примеры поиска по словарю (около 20% строк), чтобы модель не разучилась вызывать команду
LOOKUP:. - Высокая точность: за 3 эпохи модель запоминает 83,5% протестированных словарных статей (против 3% у базы) и в 100% случаев корректно использует инструмент поиска.
- Экономия токенов: адаптер отвечает лаконично в одну строку — на 1500 тестовых задач ушло 23 тыс. токенов вместо 1,27 млн у исходной модели, которая тратила по ~600 токенов на рассуждения.
- Усвоение правил: на незнакомых семействах слов модель корректно определяет слоги и ударения в 90,7% случаев.
Что можно сделать
- Воспроизвести метод обучения: использовать открытый пайплайн автора на базе библиотеки
tinker, чтобы обучить свою модель на узкоспециализированном справочнике без деградации вызова инструментов. - Исследовать историческую лексику: протестировать ответы адаптера по словарю 1890 года в готовом демо-стенде или через API сервиса Tinker.
Пример
from openai import OpenAI
import os
client = OpenAI(base_url="[https://tinker.thinkingmachines.dev/services/tinker-prod/oai/api/v1](https://tinker.thinkingmachines.dev/services/tinker-prod/oai/api/v1)", api_key=os.environ["TINKER_API_KEY"])
out = client.chat.completions.create(
model="tinker://551aa04a-f385-5fdc-825c-7f47cf3a769d:train:0/sampler_weights/final",
messages=[{"role": "system", "content": "You answer from Stephen R. Riggs, A Dakota-English Dictionary (1890). Use the spelling of that book. Give only the answer on one line, starting with 'ANSWER:'."},
{"role": "user", "content": "Give the English definition of the Dakota word: iwiśtaŋ"}],
max_tokens=96, temperature=0.0, reasoning_effort="none")
print(out.choices[0].message.content) # ANSWER: to treat well, as a sick person
Подробнее
Базовая модель: thinkingmachines/Inkling-2-Small (MoE-архитектура: 594B параметров всего, ~17B активных на токен).Метрики (1500 задач, temperature 0): общая точность выросла с 27,8% до 82,3%, поиск в 1 и 2 шага — 100%, словоизменение (inflected forms) — 49,3%.
Обучение: LoRA rank 32, 3 прохода (22,47 млн токенов) через сервис Tinker, стоимость обучения составила $33,70.
Ограничения: для локального запуска базы требуются сотни гигабайт VRAM; адаптер отражает миссионерский словарь 1890 года, а не современный язык дакота, и может галлюцинировать на словах вне книги.










Comments