Stanford Alpaca — LLM Instrukcje / SFT Dataset

The foundational self-instruct dataset that launched a thousand fine-tunes. 52k instruction-following examples generated by GPT-3 (text-davinci-003) using the Self-Instruct technique. Used to train the original Alpaca 7B and inspired nearly every instruction dataset that followed.

Dataset Details

Providertatsu-lab
CategoryInstrukcje / SFT
Size52k Rows
LicenseCC-BY-NC 4.0
Downloads4.5M
TagsSelf-Instruct, GPT-3, Foundational, General
from datasets import load_dataset
ds = load_dataset("tatsu-lab/alpaca")

Fine-tuning z tym zbiorem danych

Szacowany VRAM do fine-tuningu z QLoRA (model bazowy 4-bit + adaptery LoRA), przy zachowawczych ustawieniach:

7B QLoRA~6GB VRAM
13B QLoRA~10GB VRAM

Sprawdź, czy Twoje GPU to udźwignie →

Pierwszy fine-tuning? Przejdź przewodnik krok po kroku: Zrób fine-tuning pierwszego LLM w godzinę

Powiązane zbiory danych

Najczęstsze pytania

Czy mogę użyć Stanford Alpaca komercyjnie?
Nie w produkcie — Stanford Alpaca jest udostępniony na licencji CC-BY-NC 4.0, która ogranicza użycie do badań i innych celów niekomercyjnych. Do komercyjnego fine-tuningu wybierz zbiór na liberalnej licencji z tej samej kategorii.
Ile danych zawiera Stanford Alpaca i czy potrzebuję wszystkich?
Stanford Alpaca zawiera 52k Rows. Rzadko potrzebujesz całości: do fine-tuningu stylu i formatu wystarcza kilkaset–kilka tysięcy przykładów — załaduj wycinek (np. split="train[:1000]") i zwiększaj skalę tylko, gdy jakość przestaje rosnąć.
Do czego Stanford Alpaca nadaje się najlepiej?
Learning the classic instruction format; research only (CC BY-NC). Należy do sekcji „Instrukcje / SFT" naszego centrum zbiorów danych, gdzie znajdziesz alternatywy i zbiory komplementarne.

← Wszystkie zbiory danych | Fine-Tuning Guide