Dla środowisk o wysokim poziomie bezpieczeństwa lub preppersów — oto jak przejść w 100% w tryb offline.
1. Najpierw pobierz wszystko
Potrzebujesz plików modelu (.gguf) oraz instalatora (Ollama lub LM Studio) na pendrivie.
2. Wczytywanie modeli w Ollama (sideloading)
Jeśli masz plik .gguf (np. llama3.gguf) i brak internetu:
- Utwórz plik o nazwie
Modelfile:
FROM ./llama3.gguf- Uruchom:
ollama create my-offline-model -f Modelfile - Uruchom:
ollama run my-offline-model
3. Weryfikacja integralności
Zawsze porównuj sumę kontrolną SHA256 pobranych plików z repozytorium Hugging Face, aby upewnić się, że podczas pobierania nie doszło do uszkodzenia ani manipulacji.