NVIDIADesktopowe GPUAktualna generacja

NVIDIA H100 80GB (SXM) do lokalnych LLM

Autor: Jakub Rusinowski · Ostatnia aktualizacja: 7 października 2026

Z 80 GB HBM3 przy 3350 GB/s H100 80GB (SXM) uruchamia 138 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Devstral-2 123B (~75.1 GB), a najlepszy wybór to GPT-OSS 120B przy 184–381 tok/s.

Moduł SXM: 80 GB HBM3 przy 3,35 TB/s, do 700 W. Drugi rekord H100 w katalogu to karta PCIe z 2000 GB/s.

Sprawdź mój sprzęt →Pełna tabela benchmarków

Modele, które działają na H100 80GB (SXM)

Q4_K_M, kontekst 8K, 80 GB do wykorzystania. Uszeregowane według jakości i szybkości.

Model	VRAM	Szybkość	Zmieści się?
GPT-OSS 120B GPT-OSS	71.9 GB	184–381 tok/s	Mieści się
Llama 4.5 Scout Llama 4.5	66.6 GB	95–198 tok/s	Mieści się
Llama 4 Scout 17B Llama 4	68.2 GB	101–210 tok/s	Mieści się
Llama 3.2 Vision 90B Llama 3.2 Vision	57.8 GB	29–61 tok/s	Mieści się
Qwen3-Coder-Next (80B-A3B MoE) Qwen3-Coder	49.1 GB	173–360 tok/s	Mieści się
Kolibri 1 Kolibri	48.4 GB	214–444 tok/s	Mieści się
Nemotron 3.5 Bolt 74B Nemotron 3.5	45.6 GB	156–323 tok/s	Mieści się
Llama 3.3 70B Instruct Llama 3.3	45.7 GB	36–75 tok/s	Mieści się
Cogito v1 70B Cogito v1	45.7 GB	36–75 tok/s	Mieści się
Apertus 70B Apertus	43.1 GB	36–75 tok/s	Mieści się
Cosmos 3 Super Cosmos 3	39.4 GB	66–137 tok/s	Mieści się
K2 Horizon MoVA 36B-A4B K2 Horizon	25 GB	178–369 tok/s	Mieści się

Pokazano 12 z 138

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt NVIDIA DGX Spark (128GB) — 128 GB VRAM · 150 W board power Uruchom w chmurze NVIDIA A100 80GB w RunPod — od $1.39/godz. · stawka sprawdzona 2026-07

lub porównaj w Vast.ai od $0.77/godz. (typical low · varies)

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

H100 80GB (SXM)157–327 tok/s H100 80GB (PCIe)120–250 tok/s RTX 5090113–234 tok/s RTX PRO 6000 Blackwell113–234 tok/s RTX PRO 6000 Blackwell (Max-Q Edition)113–234 tok/s A100 80GB (PCIe)102–196 tok/s RTX PRO 5000 Blackwell (48 GB)94–194 tok/s RTX PRO 5000 Blackwell (72 GB)94–194 tok/s

Specyfikacja

Specyfikację zaktualizowano 2026-10-07.

Pamięć: 80 GB HBM3
Przepustowość pamięci: 3,350 GB/s
Szyna pamięci: 5120-bit
Architektura: Hopper GH100
Seria: Data center
Pobór mocy: 700 W
Rok premiery: 2022
Backendy obliczeniowe: CUDA
Dostępne dla modeli: 80 GB

Najlepsze dorented 80 GB70B at Q4/Q8

Podobne GPU

NVIDIA H100 80GB (PCIe)80 GB · 2,000 GB/sTyle samo VRAM, −40% przepustowości · $25,000 NVIDIA A100 80GB (PCIe)80 GB · 1,935 GB/sTyle samo VRAM, −42% przepustowości · $15,000 NVIDIA RTX PRO 6000 Blackwell96 GB · 1,792 GB/s+16 GB VRAM, −47% przepustowości · $8,565

Najczęstsze pytania

Czy NVIDIA H100 80GB (SXM) uruchomi lokalne LLM?

Tak. Z 80 GB (80 GB dostępne dla modelu) uruchamia 138 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to Devstral-2 123B, potrzebuje około 75.1 GB.

Jak szybki jest NVIDIA H100 80GB (SXM) w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 157–327 tok/s przy Q4_K_M. Dla Llama 3.3 70B szacunek wynosi 37–77 tok/s. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 80 GB?

Wśród najlepszych, które się mieszczą: GPT-OSS 120B, Llama 4.5 Scout, Llama 4 Scout 17B, Llama 3.2 Vision 90B, Qwen3-Coder-Next (80B-A3B MoE).

Więcej o tej karcie

Narzędzia

Poradniki