NVIDIADesktopowe GPUAktualna generacja

NVIDIA H100 80GB (PCIe) do lokalnych LLM

Name: LLM Configurator — GPU VRAM Checker
Author: LLM Configurator

Autor: Jakub Rusinowski · Ostatnia aktualizacja: 21 lipca 2026

Z 80 GB przy 2000 GB/s H100 80GB (PCIe) uruchamia 138 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Devstral-2 123B (~75.1 GB), a najlepszy wybór to GPT-OSS 120B przy 147–306 tok/s.

Referencyjny GPU centrów danych do serwowania LLM-ów: 80 GB HBM3, silnik transformerowy FP8, pierwszorzędne wsparcie vLLM/TensorRT-LLM. Jeden H100 obsłuży model 70B dla całego działu; 2–4 sztuki poradzą sobie z modelami MoE 100B+. Brak oficjalnej ceny katalogowej — podana wartość to typowa cena rynkowa pojedynczej karty PCIe; większość firm kupuje ją w serwerze OEM albo wynajmuje godzinowo (zobacz katalog chmur), zanim zdecyduje się na zakup.

Sprawdź mój sprzęt →Pełna tabela benchmarków

Modele, które działają na H100 80GB (PCIe)

Q4_K_M, kontekst 8K, 80 GB do wykorzystania. Uszeregowane według jakości i szybkości.

Model	VRAM	Szybkość	Zmieści się?
GPT-OSS 120B GPT-OSS	71.9 GB	147–306 tok/s	Mieści się
Llama 4.5 Scout Llama 4.5	66.6 GB	66–136 tok/s	Mieści się
Llama 4 Scout 17B Llama 4	68.2 GB	70–146 tok/s	Mieści się
Llama 3.2 Vision 90B Llama 3.2 Vision	57.8 GB	18–38 tok/s	Mieści się
Qwen3-Coder-Next (80B-A3B MoE) Qwen3-Coder	49.1 GB	136–283 tok/s	Mieści się
Kolibri 1 Kolibri	48.4 GB	182–378 tok/s	Mieści się
Nemotron 3.5 Bolt 74B Nemotron 3.5	45.6 GB	119–246 tok/s	Mieści się
Llama 3.3 70B Instruct Llama 3.3	45.7 GB	23–47 tok/s	Mieści się
Cogito v1 70B Cogito v1	45.7 GB	23–47 tok/s	Mieści się
Apertus 70B Apertus	43.1 GB	23–47 tok/s	Mieści się
Cosmos 3 Super Cosmos 3	39.4 GB	43–90 tok/s	Mieści się
K2 Horizon MoVA 36B-A4B K2 Horizon	25 GB	141–293 tok/s	Mieści się

Pokazano 12 z 138

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt NVIDIA H100 80GB PCIe — 80 GB VRAM · 350 W board power Uruchom w chmurze NVIDIA H100 80GB w RunPod — od $2.89/godz. · stawka sprawdzona 2026-07

lub porównaj w Vast.ai

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Ujawnienie afiliacyjne: Niektóre odnośniki na tej stronie to linki afiliacyjne — jeśli dokonasz zakupu za ich pośrednictwem, LLM Configurator może otrzymać prowizję bez dodatkowych kosztów dla Ciebie. Jako uczestnik programu Amazon Associates, LLM Configurator zarabia na kwalifikujących się zakupach.

NVIDIA H100 80GB PCIe

80 GB VRAM · 350 W board power

Ceny w 2026 są niestabilne — sprawdź aktualną ofertę.

Sprawdź cenę na Amazon

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

H100 80GB (SXM)157–327 tok/s H100 80GB (PCIe)120–250 tok/s RTX 5090113–234 tok/s RTX PRO 6000 Blackwell113–234 tok/s RTX PRO 6000 Blackwell (Max-Q Edition)113–234 tok/s A100 80GB (PCIe)102–196 tok/s RTX PRO 5000 Blackwell (48 GB)94–194 tok/s RTX PRO 5000 Blackwell (72 GB)94–194 tok/s

Specyfikacja

Specyfikację zaktualizowano 2026-07-21.

Pamięć: 80 GB
Przepustowość pamięci: 2,000 GB/s
Architektura: Hopper GH100
Seria: Server
Pobór mocy: 350 W
Rok premiery: 2022
Cena premierowa: $25,000
Dostępne dla modeli: 80 GB

Najlepsze doproduction inference at scale70B+ modelsfine-tuningvLLM serving

Polecany pierwszy model (Ollama)

Podobne GPU

NVIDIA A100 80GB (PCIe)80 GB · 1,935 GB/sTyle samo VRAM, −3% przepustowości · $15,000 NVIDIA H100 80GB (SXM)80 GB · 3,350 GB/sTyle samo VRAM, +68% przepustowości NVIDIA RTX PRO 6000 Blackwell96 GB · 1,792 GB/s+16 GB VRAM, −10% przepustowości · $8,565

Najczęstsze pytania

Czy NVIDIA H100 80GB (PCIe) uruchomi lokalne LLM?

Tak. Z 80 GB (80 GB dostępne dla modelu) uruchamia 138 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to Devstral-2 123B, potrzebuje około 75.1 GB.

Jak szybki jest NVIDIA H100 80GB (PCIe) w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 120–250 tok/s przy Q4_K_M. Dla Llama 3.3 70B szacunek wynosi 23–48 tok/s. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 80 GB?

Wśród najlepszych, które się mieszczą: GPT-OSS 120B, Llama 4.5 Scout, Llama 4 Scout 17B, Llama 3.2 Vision 90B, Qwen3-Coder-Next (80B-A3B MoE). Najszybszy start to Ollama: ollama run llama3.3:70b.

Czy uruchomię to na H100 80GB (PCIe)?

Więcej o tej karcie

Narzędzia

Poradniki