Stanford Alpaca
Fundamentalny zbiór self-instruct, który zapoczątkował tysiące fine-tuningów. 52 tys. przykładów śledzenia instrukcji wygenerowanych przez GPT-3 (text-davinci-003) techniką Self-Instruct. Użyty do trenowania oryginalnego modelu Alpaca 7B i inspiracja dla niemal każdego kolejnego zbioru instrukcji.
from datasets import load_dataset
ds = load_dataset("tatsu-lab/alpaca")Podgląd przykładowego wiersza
{
"instruction": "Give three tips for staying healthy.",
"input": "",
"output": "1. Eat a balanced and nutritious diet with plenty of fruits and vegetables.\n2. Exercise regularly — aim for at least 30 minutes of moderate activity most days.\n3. Get enough sleep; most adults need 7–9 hours per night."
}Fine-tuning z tym zbiorem danych
Szacowany VRAM do fine-tuningu z QLoRA (model bazowy 4-bit + adaptery LoRA), przy zachowawczych ustawieniach:
Pierwszy fine-tuning? Przejdź przewodnik krok po kroku: Zrób fine-tuning pierwszego LLM w godzinę
Najczęstsze pytania
Czy mogę użyć Stanford Alpaca komercyjnie?
Nie w produkcie — Stanford Alpaca jest udostępniony na licencji CC-BY-NC 4.0, która ogranicza użycie do badań i innych celów niekomercyjnych. Do komercyjnego fine-tuningu wybierz zbiór na liberalnej licencji z tej samej kategorii.
Ile danych zawiera Stanford Alpaca i czy potrzebuję wszystkich?
Stanford Alpaca zawiera 52k Rows. Rzadko potrzebujesz całości: do fine-tuningu stylu i formatu wystarcza kilkaset–kilka tysięcy przykładów — załaduj wycinek (np. split="train[:1000]") i zwiększaj skalę tylko, gdy jakość przestaje rosnąć.
Do czego Stanford Alpaca nadaje się najlepiej?
Learning the classic instruction format; research only (CC BY-NC). Należy do sekcji „Instrukcje / SFT" naszego centrum zbiorów danych, gdzie znajdziesz alternatywy i zbiory komplementarne.