NVIDIADesktopowe GPUAktualna generacja

NVIDIA GeForce RTX 4070 Ti Super do lokalnych LLM

Autor: Jakub Rusinowski · Ostatnia aktualizacja:

Z 16 GB przy 672 GB/s RTX 4070 Ti Super uruchamia 81 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to OLMo 2 13B Instruct (~15.8 GB), a najlepszy wybór to EuroLLM 22B przy 26–50 tok/s.

Najlepsza karta 16 GB z serii 40. Szeroko dostępna na rynku wtórnym. Wygodnie obsługuje wszystkie modele 13–14B.

Modele, które działają na RTX 4070 Ti Super

Q4_K_M, kontekst 8K, 16 GB do wykorzystania. Uszeregowane według jakości i szybkości.

ModelVRAMSzybkość
EuroLLM 22B
EuroLLM
14.1 GB26–50 tok/s
GPT-OSS 20B
GPT-OSS
13.8 GB107–206 tok/s
InternLM 3 20B Instruct
InternLM 3
12.9 GB28–54 tok/s
Cosmos 3 Nano
Cosmos 3
10.5 GB56–107 tok/s
StarCoder 2 15B
StarCoder 2
10.8 GB37–72 tok/s
Qwen 3 14B
Qwen 3
11.1 GB37–70 tok/s
Phi-4 (14B)
Phi-4 Family
10.9 GB37–71 tok/s
Cogito v1 14B
Cogito v1
10.9 GB37–71 tok/s
Ministral 3 14B
Ministral 3
9.3 GB38–73 tok/s
DeepSeek R1 Distill Qwen 14B
DeepSeek R1
10.6 GB38–73 tok/s
Mellum2.1 12B Thinking
Mellum2.1
9 GB141–271 tok/s
Gemma 4 12B (Unified)
Gemma 4
8 GB43–82 tok/s
Pokazano 12 z 81

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt NVIDIA GeForce RTX 4070 Ti Super 16GB — 16 GB VRAM · 285 W board powerUruchom w chmurze RTX 4090 w RunPod — od $0.34/godz. · stawka sprawdzona 2026-07

lub porównaj w Vast.ai od $0.35/godz. (typical low · varies)

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Ujawnienie afiliacyjne: Niektóre odnośniki na tej stronie to linki afiliacyjne — jeśli dokonasz zakupu za ich pośrednictwem, LLM Configurator może otrzymać prowizję bez dodatkowych kosztów dla Ciebie. Jako uczestnik programu Amazon Associates, LLM Configurator zarabia na kwalifikujących się zakupach.
NVIDIA GeForce RTX 4070 Ti Super 16GB
16 GB VRAM · 285 W board power
Ceny w 2026 są niestabilne — sprawdź aktualną ofertę.

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

Specyfikacja

Specyfikację zaktualizowano 2026-07-12.

Pamięć
16 GB
Przepustowość pamięci
672 GB/s
Architektura
Ada Lovelace AD103
Seria
RTX 40-series
Pobór mocy
285 W
Rok premiery
2024
Cena premierowa
$799
Dostępne dla modeli
16 GB
Najlepsze do14B modelsbest 16GB valuecoding
Polecany pierwszy model (Ollama)

Podobne GPU

Najczęstsze pytania

Czy NVIDIA GeForce RTX 4070 Ti Super uruchomi lokalne LLM?

Tak. Z 16 GB (16 GB dostępne dla modelu) uruchamia 81 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to OLMo 2 13B Instruct, potrzebuje około 15.8 GB.

Jak szybki jest NVIDIA GeForce RTX 4070 Ti Super w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 63–121 tok/s przy Q4_K_M. Llama 3.3 70B się nie mieści: potrzebuje około 44 GB, a dostępne jest 16 GB. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 16 GB?

Wśród najlepszych, które się mieszczą: EuroLLM 22B, GPT-OSS 20B, InternLM 3 20B Instruct, Cosmos 3 Nano, StarCoder 2 15B. Najszybszy start to Ollama: ollama run llama3.1:8b.