NVIDIADesktopowe GPUAktualna generacja

NVIDIA A100 80GB (PCIe) do lokalnych LLM

Name: LLM Configurator — GPU VRAM Checker
Author: LLM Configurator

Autor: Jakub Rusinowski · Ostatnia aktualizacja: 21 lipca 2026

Z 80 GB przy 1935 GB/s A100 80GB (PCIe) uruchamia 138 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Devstral-2 123B (~75.1 GB), a najlepszy wybór to GPT-OSS 120B przy 129–248 tok/s.

Koń roboczy centrów danych fali AI z lat 2021–2023, dziś najbardziej opłacalny wybór do firmowego wnioskowania on-premise: 80 GB HBM2e przy 1,9 TB/s uruchamia Llama 3.3 70B w Q4 w całości na jednej karcie. Brak oficjalnej ceny katalogowej — ceny rynkowe pojedynczych sztuk spadły znacznie poniżej poziomu premierowego, w miarę jak wypierają ją floty H100/B200, a rynek używanych i odnawianych kart jest aktywny. Podano wersję PCIe; wariant SXM wymaga płyty nośnej HGX.

Sprawdź mój sprzęt →Pełna tabela benchmarków

Modele, które działają na A100 80GB (PCIe)

Q4_K_M, kontekst 8K, 80 GB do wykorzystania. Uszeregowane według jakości i szybkości.

Model	VRAM	Szybkość	Zmieści się?
GPT-OSS 120B GPT-OSS	71.9 GB	129–248 tok/s	Mieści się
Llama 4.5 Scout Llama 4.5	66.6 GB	52–101 tok/s	Mieści się
Llama 4 Scout 17B Llama 4	68.2 GB	57–109 tok/s	Mieści się
Llama 3.2 Vision 90B Llama 3.2 Vision	57.8 GB	14–27 tok/s	Mieści się
Qwen3-Coder-Next (80B-A3B MoE) Qwen3-Coder	49.1 GB	118–226 tok/s	Mieści się
Kolibri 1 Kolibri	48.4 GB	166–319 tok/s	Mieści się
Nemotron 3.5 Bolt 74B Nemotron 3.5	45.6 GB	100–193 tok/s	Mieści się
Llama 3.3 70B Instruct Llama 3.3	45.7 GB	17–33 tok/s	Mieści się
Cogito v1 70B Cogito v1	45.7 GB	17–33 tok/s	Mieści się
Apertus 70B Apertus	43.1 GB	17–33 tok/s	Mieści się
Cosmos 3 Super Cosmos 3	39.4 GB	34–65 tok/s	Mieści się
K2 Horizon MoVA 36B-A4B K2 Horizon	25 GB	123–235 tok/s	Mieści się

Pokazano 12 z 138

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt NVIDIA A100 80GB PCIe — 80 GB VRAM · 300 W board power Uruchom w chmurze NVIDIA A100 80GB w RunPod — od $1.39/godz. · stawka sprawdzona 2026-07

lub porównaj w Vast.ai od $0.77/godz. (typical low · varies)

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Ujawnienie afiliacyjne: Niektóre odnośniki na tej stronie to linki afiliacyjne — jeśli dokonasz zakupu za ich pośrednictwem, LLM Configurator może otrzymać prowizję bez dodatkowych kosztów dla Ciebie. Jako uczestnik programu Amazon Associates, LLM Configurator zarabia na kwalifikujących się zakupach.

NVIDIA A100 80GB PCIe

80 GB VRAM · 300 W board power

Ceny w 2026 są niestabilne — sprawdź aktualną ofertę.

Sprawdź cenę na Amazon

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

H100 80GB (SXM)157–327 tok/s H100 80GB (PCIe)120–250 tok/s RTX 5090113–234 tok/s RTX PRO 6000 Blackwell113–234 tok/s RTX PRO 6000 Blackwell (Max-Q Edition)113–234 tok/s A100 80GB (PCIe)102–196 tok/s RTX PRO 5000 Blackwell (48 GB)94–194 tok/s RTX PRO 5000 Blackwell (72 GB)94–194 tok/s

Specyfikacja

Specyfikację zaktualizowano 2026-07-21.

Pamięć: 80 GB
Przepustowość pamięci: 1,935 GB/s
Architektura: Ampere GA100
Seria: Server
Pobór mocy: 300 W
Rok premiery: 2021
Cena premierowa: $15,000
Dostępne dla modeli: 80 GB

Najlepsze do70B modelsfine-tuningproven server platformused market value

Polecany pierwszy model (Ollama)

Podobne GPU

NVIDIA H100 80GB (PCIe)80 GB · 2,000 GB/sTyle samo VRAM, +3% przepustowości · $25,000 NVIDIA H100 80GB (SXM)80 GB · 3,350 GB/sTyle samo VRAM, +73% przepustowości NVIDIA RTX PRO 6000 Blackwell96 GB · 1,792 GB/s+16 GB VRAM, −7% przepustowości · $8,565

Najczęstsze pytania

Czy NVIDIA A100 80GB (PCIe) uruchomi lokalne LLM?

Tak. Z 80 GB (80 GB dostępne dla modelu) uruchamia 138 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to Devstral-2 123B, potrzebuje około 75.1 GB.

Jak szybki jest NVIDIA A100 80GB (PCIe) w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 102–196 tok/s przy Q4_K_M. Dla Llama 3.3 70B szacunek wynosi 18–34 tok/s. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 80 GB?

Wśród najlepszych, które się mieszczą: GPT-OSS 120B, Llama 4.5 Scout, Llama 4 Scout 17B, Llama 3.2 Vision 90B, Qwen3-Coder-Next (80B-A3B MoE). Najszybszy start to Ollama: ollama run llama3.3:70b.

Czy uruchomię to na A100 80GB (PCIe)?

Więcej o tej karcie

Narzędzia

Poradniki