Magpie-Align
3 mln samodzielnie wygenerowanych par instrukcji, powstałych przez skłonienie Llama 3 do tworzenia zarówno instrukcji, jak i odpowiedzi, za pomocą nowatorskiego szablonu pre-query. W przeciwieństwie do wcześniejszych zbiorów Magpie nie wymaga danych zalążkowych ani ludzkiej kurateli, a wysoką jakość osiąga dzięki filtrowaniu pod kątem alignmentu.
from datasets import load_dataset
ds = load_dataset("Magpie-Align/Magpie-Pro-300K-Filtered")Podgląd przykładowego wiersza
{
"instruction": "Explain how transformer attention mechanisms work using a library analogy.",
"response": "Imagine a library where each book (token) can query the card catalog (keys) to find related books (values). The attention mechanism...",
"model": "Meta-Llama-3-8B-Instruct"
}Fine-tuning z tym zbiorem danych
Szacowany VRAM do fine-tuningu z QLoRA (model bazowy 4-bit + adaptery LoRA), przy zachowawczych ustawieniach:
Pierwszy fine-tuning? Przejdź przewodnik krok po kroku: Zrób fine-tuning pierwszego LLM w godzinę
Najczęstsze pytania
Czy mogę użyć Magpie-Align komercyjnie?
Tak — Magpie-Align jest udostępniony na licencji Apache 2.0, liberalnej licencji pozwalającej na użycie komercyjne, w tym trenowanie modeli wdrażanych w produkcie. Przed publikacją sprawdź wymogi atrybucji na karcie zbioru.
Ile danych zawiera Magpie-Align i czy potrzebuję wszystkich?
Magpie-Align zawiera 3M Pairs. Rzadko potrzebujesz całości: do fine-tuningu stylu i formatu wystarcza kilkaset–kilka tysięcy przykładów — załaduj wycinek (np. split="train[:1000]") i zwiększaj skalę tylko, gdy jakość przestaje rosnąć.
Do czego Magpie-Align nadaje się najlepiej?
Fresh synthetic SFT data without seed data or scraping. Należy do sekcji „Instrukcje / SFT" naszego centrum zbiorów danych, gdzie znajdziesz alternatywy i zbiory komplementarne.