Fundamentalny zbiór self-instruct, który zapoczątkował tysiące fine-tuningów. 52 tys. przykładów śledzenia instrukcji wygenerowanych przez GPT-3 (text-davinci-003) techniką Self-Instruct. Użyty do trenowania oryginalnego modelu Alpaca 7B i inspiracja dla niemal każdego kolejnego zbioru instrukcji.
Dataset Details
Provider
tatsu-lab
Category
Instrukcje / SFT
Size
52k Rows
License
CC-BY-NC 4.0
Downloads
4.5M
Tags
Self-Instruct, GPT-3, Foundational, General
from datasets import load_dataset
ds = load_dataset("tatsu-lab/alpaca")
Fine-tuning z tym zbiorem danych
Szacowany VRAM do fine-tuningu z QLoRA (model bazowy 4-bit + adaptery LoRA), przy zachowawczych ustawieniach:
No Robots — Your first fine-tune — small, clean, 100% human-written SFT data (non-commercial license)
Python-Edu — Continued pretraining for Python code understanding
OpenHermes 2.5 — The default general-purpose SFT mix for 7B-13B fine-tunes
Najczęstsze pytania
Czy mogę użyć Stanford Alpaca komercyjnie?
Nie w produkcie — Stanford Alpaca jest udostępniony na licencji CC-BY-NC 4.0, która ogranicza użycie do badań i innych celów niekomercyjnych. Do komercyjnego fine-tuningu wybierz zbiór na liberalnej licencji z tej samej kategorii.
Ile danych zawiera Stanford Alpaca i czy potrzebuję wszystkich?
Stanford Alpaca zawiera 52k Rows. Rzadko potrzebujesz całości: do fine-tuningu stylu i formatu wystarcza kilkaset–kilka tysięcy przykładów — załaduj wycinek (np. split="train[:1000]") i zwiększaj skalę tylko, gdy jakość przestaje rosnąć.
Do czego Stanford Alpaca nadaje się najlepiej?
Learning the classic instruction format; research only (CC BY-NC). Należy do sekcji „Instrukcje / SFT" naszego centrum zbiorów danych, gdzie znajdziesz alternatywy i zbiory komplementarne.