NVIDIALaptopowe GPUPoprzednia generacja

NVIDIA GeForce RTX 3080 Ti Laptop GPU do lokalnych LLM

Autor: Jakub Rusinowski · Ostatnia aktualizacja:

Z 16 GB GDDR6 przy 512 GB/s RTX 3080 Ti Laptop GPU uruchamia 81 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to OLMo 2 13B Instruct (~15.8 GB), a najlepszy wybór to EuroLLM 22B przy 14–27 tok/s.

16 GB GDDR6, 512 GB/s: laptopowy GPU z 16 GB najczęściej spotykany na rynku wtórnym. To nie desktopowy RTX 3080 Ti z 12 GB. Pobór mocy zależy od obudowy i nie jest zapisany.

Modele, które działają na RTX 3080 Ti Laptop GPU

Q4_K_M, kontekst 8K, 16 GB do wykorzystania. Uszeregowane według jakości i szybkości.

ModelVRAMSzybkość
EuroLLM 22B
EuroLLM
14.1 GB14–27 tok/s
GPT-OSS 20B
GPT-OSS
13.8 GB66–127 tok/s
InternLM 3 20B Instruct
InternLM 3
12.9 GB15–29 tok/s
Cosmos 3 Nano
Cosmos 3
10.5 GB31–60 tok/s
StarCoder 2 15B
StarCoder 2
10.8 GB20–39 tok/s
Qwen 3 14B
Qwen 3
11.1 GB20–38 tok/s
Phi-4 (14B)
Phi-4 Family
10.9 GB20–39 tok/s
Cogito v1 14B
Cogito v1
10.9 GB20–39 tok/s
Ministral 3 14B
Ministral 3
9.3 GB21–40 tok/s
DeepSeek R1 Distill Qwen 14B
DeepSeek R1
10.6 GB21–40 tok/s
Mellum2.1 12B Thinking
Mellum2.1
9 GB93–179 tok/s
Gemma 4 12B (Unified)
Gemma 4
8 GB24–45 tok/s
Pokazano 12 z 81

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt AMD Radeon RX 9060 XT 16GB — 16 GB VRAM · 160 W board powerUruchom w chmurze RTX 4090 w RunPod — od $0.34/godz. · stawka sprawdzona 2026-07

lub porównaj w Vast.ai od $0.35/godz. (typical low · varies)

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

Specyfikacja

Specyfikację zaktualizowano 2026-10-07.

Pamięć
16 GB GDDR6
Przepustowość pamięci
512 GB/s
Szyna pamięci
256-bit
Architektura
Ampere GA103
Seria
RTX 30-series (Laptop)
Rok premiery
2022
Backendy obliczeniowe
CUDA
Dostępne dla modeli
16 GB
Najlepsze do16 GB laptop AI

Podobne GPU

Najczęstsze pytania

Czy NVIDIA GeForce RTX 3080 Ti Laptop GPU uruchomi lokalne LLM?

Tak. Z 16 GB (16 GB dostępne dla modelu) uruchamia 81 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to OLMo 2 13B Instruct, potrzebuje około 15.8 GB.

Jak szybki jest NVIDIA GeForce RTX 3080 Ti Laptop GPU w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 36–69 tok/s przy Q4_K_M. Llama 3.3 70B się nie mieści: potrzebuje około 44 GB, a dostępne jest 16 GB. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 16 GB?

Wśród najlepszych, które się mieszczą: EuroLLM 22B, GPT-OSS 20B, InternLM 3 20B Instruct, Cosmos 3 Nano, StarCoder 2 15B.