NVIDIADesktopowe GPUPoprzednia generacja

NVIDIA GeForce GTX 1080 Ti do lokalnych LLM

Autor: Jakub Rusinowski · Ostatnia aktualizacja:

Z 11 GB GDDR5X przy 484 GB/s GTX 1080 Ti uruchamia 72 modele z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Phi-4 (14B) (~10.9 GB), a najlepszy wybór to Ministral 3 14B.

11 GB GDDR5X, 484 GB/s. Pascal nie ma rdzeni tensorowych i ma bardzo wolne FP16, więc uruchamia skwantyzowane modele przez llama.cpp, ale nic, co wymaga nowoczesnych kerneli. Brak kalibracji szybkości dla Pascala: tylko werdykty dopasowania.

Modele, które działają na GTX 1080 Ti

Q4_K_M, kontekst 8K, 11 GB do wykorzystania. Uszeregowane według jakości i szybkości.

ModelVRAMSzybkość
Ministral 3 14B
Ministral 3
9.3 GB—
Mellum2.1 12B Thinking
Mellum2.1
9 GB—
Gemma 4 12B (Unified)
Gemma 4
8 GB—
Mistral NeMo 12B
Mistral Family
9.4 GB—
Bielik PL 11B v3.0 Instruct
Bielik
7.4 GB—
Llama 3.2 Vision 11B
Llama 3.2 Vision
8.5 GB—
Llama 3.2 11B Vision Instruct
Llama 3.2 Family
8.5 GB—
Falcon 3 10B Instruct
Falcon 3
8.4 GB—
Qwen 3.5 9B
Qwen 3.5
6.5 GB—
GLM-4 9B
GLM-4.7 / GLM-Z1
6.2 GB—
K2 Horizon 7B
K2 Horizon
7.4 GB—
GLM-4.6V-Flash 9B
GLM-4.6V
6.2 GB—
Pokazano 12 z 72

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt Intel Arc B580 12GB — 12 GB VRAM · 190 W board powerUruchom w chmurze RTX 4090 w RunPod — od $0.34/godz. · stawka sprawdzona 2026-07

lub porównaj w Vast.ai od $0.35/godz. (typical low · varies)

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

Specyfikacja

Specyfikację zaktualizowano 2026-10-07.

Pamięć
11 GB GDDR5X
Przepustowość pamięci
484 GB/s
Szyna pamięci
352-bit
Architektura
Pascal GP102
Seria
GTX 10-series
Pobór mocy
250 W
Rok premiery
2017
Cena premierowa
$699
Backendy obliczeniowe
CUDA, VULKAN
Dostępne dla modeli
11 GB
Najlepsze doused 11 GBlegacy rigs

Podobne GPU

Najczęstsze pytania

Czy NVIDIA GeForce GTX 1080 Ti uruchomi lokalne LLM?

Tak. Z 11 GB (11 GB dostępne dla modelu) uruchamia 72 modele z katalogu przy Q4_K_M i kontekście 8K; największy to Phi-4 (14B), potrzebuje około 10.9 GB.

Jak szybki jest NVIDIA GeForce GTX 1080 Ti w inferencji AI?

Strona nie ma kalibracji szybkości dla architektury Pascal GP102, więc publikuje dla tej karty werdykty dopasowania, ale nie szacunek tokenów na sekundę. Llama 3.3 70B się nie mieści: potrzebuje około 44 GB, a dostępne jest 11 GB.

Jakie LLM uruchomię na 11 GB?

Wśród najlepszych, które się mieszczą: Ministral 3 14B, Mellum2.1 12B Thinking, Gemma 4 12B (Unified), Mistral NeMo 12B, Bielik PL 11B v3.0 Instruct.