Infinity-Instruct — LLM Instrukcje / SFT Dataset
A 7.5M high-quality instruction dataset from the Beijing Academy of AI, combining foundational skills (math, code, reasoning) with conversational ability. Used to train models that surpass Llama 3 70B while being much smaller.
Dataset Details
| Provider | BAAI |
| Category | Instrukcje / SFT |
| Size | 7.5M Instructions |
| License | Apache 2.0 |
| Downloads | 420k |
| Tags | Large-Scale, Diverse, BAAI, Multi-domain, Trending |
from datasets import load_dataset
ds = load_dataset("BAAI/Infinity-Instruct")
Fine-tuning z tym zbiorem danych
Szacowany VRAM do fine-tuningu z QLoRA (model bazowy 4-bit + adaptery LoRA), przy zachowawczych ustawieniach:
| 7B QLoRA | ~6GB VRAM |
| 13B QLoRA | ~10GB VRAM |
Sprawdź, czy Twoje GPU to udźwignie →
Pierwszy fine-tuning? Przejdź przewodnik krok po kroku: Zrób fine-tuning pierwszego LLM w godzinę
Powiązane zbiory danych
- OpenOrca — Explanation-style SFT at scale (the Orca recipe)
- Magpie-Align — Fresh synthetic SFT data without seed data or scraping
- Python-Edu — Continued pretraining for Python code understanding
- OpenHermes 2.5 — The default general-purpose SFT mix for 7B-13B fine-tunes
Najczęstsze pytania
Czy mogę użyć Infinity-Instruct komercyjnie?
Tak — Infinity-Instruct jest udostępniony na licencji Apache 2.0, liberalnej licencji pozwalającej na użycie komercyjne, w tym trenowanie modeli wdrażanych w produkcie. Przed publikacją sprawdź wymogi atrybucji na karcie zbioru.
Ile danych zawiera Infinity-Instruct i czy potrzebuję wszystkich?
Infinity-Instruct zawiera 7.5M Instructions. Rzadko potrzebujesz całości: do fine-tuningu stylu i formatu wystarcza kilkaset–kilka tysięcy przykładów — załaduj wycinek (np. split="train[:1000]") i zwiększaj skalę tylko, gdy jakość przestaje rosnąć.
Do czego Infinity-Instruct nadaje się najlepiej?
Large-scale general SFT when you need millions of samples. Należy do sekcji „Instrukcje / SFT" naszego centrum zbiorów danych, gdzie znajdziesz alternatywy i zbiory komplementarne.
← Wszystkie zbiory danych | Fine-Tuning Guide