LIMA: Less Is More for Alignment
Przełomowe badanie nad alignmentem pokazujące, że zaledwie 1000 starannie dobranych przykładów dorównuje GPT-4 pod względem jakości śledzenia instrukcji. Podważa założenie, że „więcej danych zawsze znaczy lepiej”. LIMA 65B było konkurencyjne wobec GPT-4 w testach preferencji ludzkich mimo zaledwie 1 tys. przykładów treningowych.
from datasets import load_dataset
ds = load_dataset("GAIR/lima")Podgląd przykładowego wiersza
{
"conversations": [
{ "role": "user", "content": "What's the best way to learn a new programming language?" },
{ "role": "assistant", "content": "The fastest path is building something you actually care about. Pick a small project — a CLI tool, a web scraper, a game — and implement it in the new language. You'll naturally encounter the language's idioms and standard libraries through necessity rather than abstract tutorials." }
]
}Fine-tuning z tym zbiorem danych
Szacowany VRAM do fine-tuningu z QLoRA (model bazowy 4-bit + adaptery LoRA), przy zachowawczych ustawieniach:
Pierwszy fine-tuning? Przejdź przewodnik krok po kroku: Zrób fine-tuning pierwszego LLM w godzinę
Najczęstsze pytania
Czy mogę użyć LIMA: Less Is More for Alignment komercyjnie?
Nie w produkcie — LIMA: Less Is More for Alignment jest udostępniony na licencji CC-BY-NC-SA 4.0, która ogranicza użycie do badań i innych celów niekomercyjnych. Do komercyjnego fine-tuningu wybierz zbiór na liberalnej licencji z tej samej kategorii.
Ile danych zawiera LIMA: Less Is More for Alignment i czy potrzebuję wszystkich?
LIMA: Less Is More for Alignment zawiera 1k Rows. Rzadko potrzebujesz całości: do fine-tuningu stylu i formatu wystarcza kilkaset–kilka tysięcy przykładów — załaduj wycinek (np. split="train[:1000]") i zwiększaj skalę tylko, gdy jakość przestaje rosnąć.
Do czego LIMA: Less Is More for Alignment nadaje się najlepiej?
Style and format alignment with a tiny curated set - quality over quantity. Należy do sekcji „Instrukcje / SFT" naszego centrum zbiorów danych, gdzie znajdziesz alternatywy i zbiory komplementarne.