Laptop liczy model na karcie zintegrowanej, a nie na RTX-ie

nvidia-smi pokazuje bezczynne GPU, choć model pracuje

Autor Jakub Rusinowski

Błąd

+-----------------------------------------+
| Processes:                              |
|  GPU   PID   Type   Process name   Usage |
|=========================================|
|  No running processes found              |
+-----------------------------------------+

1. 1

   Ustaw preferencję graficzną Windowsa — dla terminala tak samo jak dla aplikacji

   Wejdź w Ustawienia → System → Ekran → Grafika, dodaj plik wykonywalny i wybierz Opcje → Wysoka wydajność. Zrób to dla pliku od wnioskowania (ollama.exe, LM Studio albo python.exe z twojego środowiska wirtualnego) oraz dla hosta terminala, z którego go uruchamiasz — WindowsTerminal.exe, powershell.exe czy Code.exe. Ta druga połowa to krok, który wszyscy pomijają, i to zwykle ona realnie zmienia wynik, bo proces potomny dziedziczy preferencję rodzica.

   PowerShellKopiuj

   # PowerShell — the full paths you will need to browse to
   (Get-Command ollama).Source
   where.exe python
   (Get-Process WindowsTerminal -ErrorAction SilentlyContinue).Path

   Czy zadziałało?Zamknij terminal, otwórz nowy, uruchom generowanie i obserwuj. Karta dedykowana powinna teraz pokazywać proces i niezerowe obciążenie.

   PowerShellKopiuj

   nvidia-smi --query-compute-apps=pid,process_name,used_memory --format=csv

2. 2

   Ustaw także preferencję w Panelu sterowania NVIDIA

   Panel sterowania NVIDIA → Zarządzaj ustawieniami 3D. Na karcie Ustawienia globalne ustaw *Preferowany procesor graficzny* na Wysokowydajny procesor NVIDIA, a w Ustawieniach programu dodaj te same pliki wykonywalne. To osobny mechanizm od ustawienia Windowsa, a nie jego duplikat, i przy niektórych wersjach sterownika to właśnie on decyduje. Ustawienie obu nie jest nadmiarowe — usuwa zmienną.

   Czy zadziałało?Karta Ustawienia programu powinna wypisywać twój plik wykonywalny z wybranym procesorem NVIDIA. Potem powtórz sprawdzenie z rozwiązania 1.

   PowerShellKopiuj

   nvidia-smi dmon -c 10

3. 3

   Sprawdź tryb MUX albo grafikę hybrydową w BIOS-ie

   Wiele laptopów gamingowych udostępnia ustawienie firmware'u — różnie nazywane MUX switch, Graphics Mode, Hybrid / Discrete albo Advanced Optimus — które na poziomie sprzętu decyduje, która karta obsługuje ekran i która jest dostępna. Nadpisuje ono oba powyższe ustawienia programowe. Ustawione na tryb dedykowany całkowicie wyłącza układ zintegrowany z gry i cała ta klasa problemów znika; kosztem jest czas pracy na baterii, a zmiana zwykle wymaga restartu. Narzędzia producentów (Armoury Crate, Lenovo Vantage, Alienware Command Center) często udostępniają ten sam przełącznik bez wchodzenia do BIOS-u.

   Uwaga: Zmiana trybu grafiki w firmwarze może zostawić cię z czarnym ekranem przy następnym starcie, jeśli matryca jest podpięta do drugiego układu. Zanim to zmienisz, dowiedz się, jak w twoim modelu wyczyścić CMOS albo uruchomić tryb awaryjny.
4. 4

   Podłącz zasilanie i sprawdź politykę energetyczną producenta

   Kilku producentów wyłącza albo mocno dławi kartę dedykowaną na baterii, a część robi to bez słowa. Jeśli prędkość jest dobra z gniazdka i kiepska bez, to właśnie ten mechanizm, a nie twoja zła konfiguracja. Sprawdź też tryb zasilania samego Windowsa — Ustawienia → System → Zasilanie i bateria → Tryb zasilania ustawiony na *Najlepsza efektywność energetyczna* przechyla cały system w stronę karty zintegrowanej. Długie wnioskowanie to i tak ciężkie, ciągłe obciążenie, które do pracy na baterii się nie nadaje.

   PowerShellKopiuj

   # PowerShell — on mains or on battery, and what power scheme is active?
   (Get-CimInstance -ClassName Win32_Battery).BatteryStatus  # 2 = on AC power
   powercfg /getactivescheme

5. 5

   Przypnij GPU wprost przez CUDA_VISIBLE_DEVICES, po UUID

   Kiedy karta dedykowana jest już dostępna dla procesu, możesz wskazać ją bezpośrednio. Użyj nvidia-smi -L, żeby wypisać urządzenia, i wybierz UUID zamiast indeksu liczbowego — indeksy wynikają z kolejności wyliczania i potrafią się zmienić po restarcie, aktualizacji sterownika albo podpięciu zewnętrznego GPU, więc konfiguracja przypięta do 0 pewnego ranka po cichu wskaże co innego. Pamiętaj, że ustawienie tej zmiennej na nieistniejące urządzenie wymusza liczenie na CPU — to inny objaw, opisany na sąsiedniej stronie.

   PowerShellKopiuj

   # PowerShell — list devices with their UUIDs
   nvidia-smi -L
   # GPU 0: NVIDIA GeForce RTX 4060 Laptop GPU (UUID: GPU-1a2b3c4d-...)
   
   # Pin by UUID for this session
   $env:CUDA_VISIBLE_DEVICES="GPU-1a2b3c4d-..."
   ollama serve

   Czy zadziałało?Wybrana karta pokazuje proces wnioskowania i rosnące zużycie pamięci, gdy model jest załadowany.

   PowerShellKopiuj

   nvidia-smi --query-compute-apps=process_name,used_memory --format=csv

6. 6

   Powiedz sobie uczciwie, czy karta dedykowana jest dość dużaNajczęstsze rozwiązanie

   Warto to sprawdzić, zanim spędzisz wieczór na preferencjach graficznych: laptopowe karty dedykowane mają często od 4 do 8 GB, a mobilne warianty desktopowych układów potrafią nieść mniej pamięci i mniejszą przepustowość, niż sugeruje nazwa. Jeśli twój RTX ma 6 GB, model 7B w Q4 się zmieści, a 8B w Q5 już nie — i wymuszenie karty dedykowanej tej arytmetyki nie zmieni. Zestaw model z realnym VRAM-em karty: jeśli się nie mieści, mniejszy model na właściwym GPU bije duży przelewający się do RAM-u systemowego.

   PowerShellKopiuj

   # PowerShell — the real numbers for the card in this laptop
   nvidia-smi --query-gpu=name,memory.total,memory.used --format=csv

   Sprawdź, co pasuje do Twojego sprzętusprawdź, które modele zmieszczą się na laptopowym GPU z 6 albo 8 GBOtwórz kalkulator VRAM →