Brak miejsca na dysku / nieudane pobieranie GGUF przy dużych modelach
Pobieranie padło w połowie, a dysk jest pełny
Autor Jakub Rusinowski
Błąd
Error: write /root/.ollama/models/blobs/sha256-...: no space left on device
Kiedy się pojawia
Pobieranie modelu albo plik z Hugging Face ciągnie się chwilę, po czym pada — „no space left on device”, obcięty plik albo błąd sumy kontrolnej pod sam koniec. Najczęściej dotyka to wysokich kwantyzacji i większych modeli, z których każdy potrafi ważyć dziesiątki gigabajtów.
Co się właściwie dzieje
Gryzą tu dwie rzeczy. Po pierwsze, pliki GGUF są duże i kilka pobrań w wysokiej kwantyzacji po cichu zapełni dysk — albo partycję (/ czy katalog domowy), która jest mniejsza, niż ci się wydaje. Po drugie, pobieranie potrzebuje miejsca tymczasowego: plik jest zapisywany, czasem weryfikowany albo rozpakowywany, więc w trakcie może być potrzebne więcej wolnego miejsca niż rozmiar docelowy. Zerwane łącze albo dobicie do sufitu w trakcie zapisu zostawia uszkodzony kawałek.
Jak to naprawić
- 1
Pobierz niższą kwantyzację — mniej dysku, ten sam modelNajczęstsze rozwiązanie
Wybrana kwantyzacja to jednocześnie rozmiar pliku, na który się godzisz. Q8_0 modelu bywa dwa–trzy razy większe od jego Q4_K_M, a różnicy w jakości najpewniej nie zauważysz. Dobranie właściwej kwantyzacji oznacza mniejsze pobranie, które i mieści się na dysku, i lepiej działa na twoim GPU — rozwiązuje więc problem miejsca i problem VRAM-u naraz. Sprawdź, czego naprawdę potrzebujesz, zanim ściągniesz plik o wadze 40 GB.
Sprawdź, co pasuje do Twojego sprzętuwybierz kwantyzację, która zmieści się na twoim dysku i GPU, zanim zaczniesz pobieraćOtwórz kalkulator VRAM → - 2
Sprawdź i zwolnij miejsce na dysku
Zobacz, dokąd ucieka miejsce, i zrób porządek. Najłatwiejszym zyskiem są stare modele, z których już nie korzystasz — każdy potrafi zajmować wiele gigabajtów.
df -h . # free space on this filesystem ollama list # see installed models and sizes ollama rm <model> # remove ones you do not need - 3
Przenieś katalog modeli na większy dysk
Jeśli dysk systemowy jest mały, a masz większy, przenieś tam katalog z modelami. Ollama respektuje
OLLAMA_MODELS, Hugging Face —HF_HOME. Ustaw lokalizację na pojemniejszym dysku przed pobieraniem.export OLLAMA_MODELS=/mnt/big-drive/ollama # or for Hugging Face downloads: export HF_HOME=/mnt/big-drive/hf - 4
Przy niestabilnym łączu wznawiaj, zamiast zaczynać od nowa
Przy dużych pobraniach zerwane połączenie nie powinno oznaczać startu od zera. Ollama wznowi przerwane pobieranie, gdy uruchomisz je ponownie; przy bezpośrednich pobraniach z Hugging Face użyj narzędzia obsługującego wznawianie, żeby nie ściągać dziesiątek gigabajtów drugi raz.
# Ollama: just re-run, it resumes ollama pull <model> # HF: the CLI resumes partial downloads huggingface-cli download <repo> <file.gguf>
Powiązane
Najczęściej zadawane pytania
Ile ważą pliki modeli GGUF?
To zależy od rozmiaru modelu i kwantyzacji — od mniej niż gigabajta przy małych modelach w niskiej kwantyzacji po ponad 40 GB przy dużych modelach w wysokiej. Poziom kwantyzacji to główna dźwignia, którą masz w ręku; niższe kwantyzacje są dramatycznie mniejsze.
Pobieranie ciągle psuje się pod koniec. Dlaczego?
Zwykle albo skończyło ci się miejsce w trakcie zapisu, albo zerwało połączenie. Najpierw zwolnij miejsce, potem użyj pobierania z wznawianiem (ponowne ollama pull albo CLI Hugging Face), żeby chwilowa przerwa nie zmarnowała całego transferu.
Czy mogę przenieść modele poza dysk systemowy?
Tak. Ustaw OLLAMA_MODELS (Ollama) albo HF_HOME (Hugging Face) na pojemniejszy dysk przed pobieraniem; istniejące modele też można tam przenieść. Dzięki temu duże pliki GGUF nie zajmują małej partycji systemowej.