Датасет · bakrianoo
Корпус для маленькой LLM: Египет и Wikipedia
bakrianoo/jabarti-llm-dataset
Чистый посекционный корпус на арабском и английском для предобучения небольшой LLM.
Что внутри
Датасет объединяет курируемую коллекцию по истории Египта и общий охват Wikipedia из CohereLabs/wikipedia-2023-11-embed-multilingual-v3. Каждая запись предобучения — непрерывный фрагмент длиной 120–1500 символов без заголовка статьи и заголовков разделов. Происхождение указано в поле ds_source. Языки — арабский и английский, модальности — табличные данные и текст, размер — от 1M до 10M записей.
Что можно сделать
- Предобучение небольшой арабо-английской LLM
- Донастройка LoRA для генерации текста
- Проверка модели на вопросах по истории Египта
- Задачи
- Генерация текста, Вопрос-ответ
- Языки
- Арабский, Английский
- Размер
- 1M–10M записей
- Скачиваний за месяц
- 5,1 тыс.
- Лайков
- 143
Модели, обученные на нём
Как загрузить
from datasets import load_dataset
ds = load_dataset("bakrianoo/jabarti-llm-dataset")