s1K-1.1
Zaledwie 1000 ultrastarannie dobranych pytań ze śladami rozumowania — wyselekcjonowanych z 59 tys. kandydatów pod kątem trudności, różnorodności i jakości, ze śladami wygenerowanymi ponownie przez DeepSeek R1 w wydaniu 1.1. Fine-tuning Qwen2.5-32B na s1K (26 minut na 16 kartach H100) w połączeniu z „budget forcing” podczas wnioskowania pozwolił przewyższyć o1-preview w matematyce konkursowej. LIMA świata rozumowania: dowód, że jakość danych bije ilość.
from datasets import load_dataset
ds = load_dataset("simplescaling/s1K-1.1")Podgląd przykładowego wiersza
{
"question": "How many positive integers n ≤ 1000 are divisible by neither 5 nor 7?",
"solution": "686",
"cot_type": "math",
"deepseek_thinking_trajectory": "By inclusion-exclusion: 1000 - 200 - 142 + 28 = 686..."
}Fine-tuning z tym zbiorem danych
Szacowany VRAM do fine-tuningu z QLoRA (model bazowy 4-bit + adaptery LoRA), przy zachowawczych ustawieniach:
Pierwszy fine-tuning? Przejdź przewodnik krok po kroku: Zrób fine-tuning pierwszego LLM w godzinę
Najczęstsze pytania
Czy mogę użyć s1K-1.1 komercyjnie?
Tak — s1K-1.1 jest udostępniony na licencji Apache 2.0, liberalnej licencji pozwalającej na użycie komercyjne, w tym trenowanie modeli wdrażanych w produkcie. Przed publikacją sprawdź wymogi atrybucji na karcie zbioru.
Ile danych zawiera s1K-1.1 i czy potrzebuję wszystkich?
s1K-1.1 zawiera 1k Rows. Rzadko potrzebujesz całości: do fine-tuningu stylu i formatu wystarcza kilkaset–kilka tysięcy przykładów — załaduj wycinek (np. split="train[:1000]") i zwiększaj skalę tylko, gdy jakość przestaje rosnąć.
Do czego s1K-1.1 nadaje się najlepiej?
Cheap, fast reasoning fine-tunes — 1k samples means minutes of training, not days. Należy do sekcji „Rozumowanie" naszego centrum zbiorów danych, gdzie znajdziesz alternatywy i zbiory komplementarne.