Starannie wyselekcjonowany zbiór 25 tys. pytań ze STEM i logiki, zebranych z 11 otwartych zbiorów przy rygorystycznej deduplikacji. Fine-tuning Llama 2 na tym zbiorze przez zaledwie 5 godzin daje wyniki STEM na poziomie GPT-4 — dowód, że jakość bije ilość.
Dataset Details
Provider
garage-bAInd
Category
Instrukcje / SFT
Size
25K Questions
License
CC BY NC 4.0
Downloads
340k
Tags
STEM, Reasoning, Curated, Logic, Science
from datasets import load_dataset
ds = load_dataset("garage-bAInd/Open-Platypus")
Fine-tuning z tym zbiorem danych
Szacowany VRAM do fine-tuningu z QLoRA (model bazowy 4-bit + adaptery LoRA), przy zachowawczych ustawieniach:
Python-Edu — Continued pretraining for Python code understanding
OpenHermes 2.5 — The default general-purpose SFT mix for 7B-13B fine-tunes
Najczęstsze pytania
Czy mogę użyć Open-Platypus komercyjnie?
Nie w produkcie — Open-Platypus jest udostępniony na licencji CC BY NC 4.0, która ogranicza użycie do badań i innych celów niekomercyjnych. Do komercyjnego fine-tuningu wybierz zbiór na liberalnej licencji z tej samej kategorii.
Ile danych zawiera Open-Platypus i czy potrzebuję wszystkich?
Open-Platypus zawiera 25K Questions. Rzadko potrzebujesz całości: do fine-tuningu stylu i formatu wystarcza kilkaset–kilka tysięcy przykładów — załaduj wycinek (np. split="train[:1000]") i zwiększaj skalę tylko, gdy jakość przestaje rosnąć.
Do czego Open-Platypus nadaje się najlepiej?
A quick STEM and logic boost on a small budget (non-commercial). Należy do sekcji „Instrukcje / SFT" naszego centrum zbiorów danych, gdzie znajdziesz alternatywy i zbiory komplementarne.