Датасет · HuggingFaceFW
Синтетические фразы из FineWeb-Edu
HuggingFaceFW/finephrase
Синтетические текстовые данные на английском, сгенерированные SmolLM2 из корпуса FineWeb-Edu.
Что внутри
Датасет содержит синтетические тексты на английском, созданные DataTrove с помощью модели SmolLM2-1.7B-Instruct. Источник — конфигурация sample-350BT набора fineweb-edu, split train. Генерация шла с temperature=1.0, top_p=1.0, top_k=50 и max_tokens=2048; в карточке также указаны семейство промптов faq и колонка text.
Что можно сделать
- Дообучить небольшую английскую LLM на синтетических текстах
- Проверить генерацию SmolLM2-1.7B-Instruct
- Исследовать влияние synthetic data на text-generation
- Задачи
- Генерация текста
- Языки
- Английский
- Размер
- 1B–10B записей
- Скачиваний за месяц
- 207,9 тыс.
- Лайков
- 163
Модели, обученные на нём
- fromziro/ZeroS-Pico-v1.0 1,3 тыс.
- nkthebass/tinybrainbot-100m-v5.1-baseГенерация текста 1,1 тыс.
- AxiomicLabs/GPT-X2.5-135MГенерация текста 1,1 тыс.
- techdotus/Ethoric-10MГенерация текста 1,1 тыс.
- BananaMind/BananaMind-2-MicroГенерация текста 1,1 тыс.
- nkthebass/tinybrainbot-360m-a75m-v5.1-baseГенерация текста 814
- syaffers/OtakMiniГенерация текста 678
- nkthebass/tinybrainbot-53m-a9m-hybrid-instructГенерация текста 593
Как загрузить
from datasets import load_dataset
ds = load_dataset("HuggingFaceFW/finephrase")