CodonLLM-1.5B

CodonLLM-1.5B — дообученная QLoRA-адаптация Qwen2.5-Coder-1.5B, которая переводит произвольные аминокислотные последовательности белков в биологически жизнеспособные кодирующие ДНК. Модель сохраняет 100% идентичность аминокислот и открытую рамку считывания, подбирая синонимичные кодоны с учётом контекста.

🧐 Ключевые особенности

• 🧐 База — Qwen2.5-Coder-1.5B, дообучение через QLoRA и Unsloth.
• 🔥 LoRA: rank 16, alpha 32, dropout 0; обучены проекции q/k/v/o и gate/up/down.
• 👀 100% совпадение аминокислотной последовательности, без missense- и nonsense-мутаций.
• 🚀 Сохраняет рамку считывания и длину 3 × L нуклеотидов.
• 🤖 GC-состав остаётся в физиологических пределах ~47–52%.
• 💩 Запуск возможен на одной потребительской GPU с менее чем 6 ГБ VRAM.

🔥 Пример

from unsloth import FastLanguageModel
model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="aakashdandekar2006/Qwen-Codon",
    max_seq_length=2048,
    load_in_4bit=True,
)
FastLanguageModel.for_inference(model)

Подробнее

Точность перевода: 100% sequence identity, без аминокислотных замен.
GC-состав держится в пределах ~47–52%.
Запуск на потребительской GPU с менее чем 6 ГБ VRAM.
Контекст — 2048 токенов; обучение: QLoRA, NF4, 8-bit AdamW. Лицензия Apache 2.0.