AMD Radeon RX 7900 XT do lokalnych LLM
Autor: Jakub Rusinowski · Ostatnia aktualizacja:
Z 20 GB przy 800 GB/s RX 7900 XT uruchamia 103 modele z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Nemotron-Cascade 2 30B-A3B (~19.9 GB), a najlepszy wybór to Qwen 3.6 27B przy 17–34 tok/s.
20 GB VRAM to wyjątkowy punkt pośredni — mieści modele 14B z większym kontekstem niż karty 16GB. Świetne dla użytkowników AMD chcących więcej VRAM niż 7800 XT.
Modele, które działają na RX 7900 XT
Q4_K_M, kontekst 8K, 20 GB do wykorzystania. Uszeregowane według jakości i szybkości.
| Model | Pamięć · znacznik = 20 GB | VRAM | Szybkość |
|---|---|---|---|
| Qwen 3.6 27B Qwen 3.6 | 17.6 GB | 17–34 tok/s | |
| Qwen 3.5 27B Qwen 3.5 | 17.1 GB | 17–35 tok/s | |
| 1-bit Bonsai 27B Bonsai 27B | 17.1 GB | 17–35 tok/s | |
| Ternary Bonsai 27B Bonsai 27B | 17.1 GB | 17–35 tok/s | |
| Ternary Bonsai 2 27B Ternary Bonsai 2 | 17.6 GB | 18–38 tok/s | |
| Trinity Mini Trinity | 16.9 GB | 90–186 tok/s | |
| Gemma 4 26B-A4B Gemma 4 | 16.5 GB | 57–118 tok/s | |
| Devstral Small 2505 24B Devstral | 16.6 GB | 19–40 tok/s | |
| Devstral Small 2 24B Devstral | 16.6 GB | 19–40 tok/s | |
| Magistral Small 24B Magistral Small | 15.3 GB | 19–39 tok/s | |
| Mistral Small 3 (24B) Mistral Family | 17.2 GB | 19–39 tok/s | |
| LFM2.5-24B-A2B LFM2.5 | 15.5 GB | 97–202 tok/s |
Kup kartę lub wynajmij tyle samo pamięci
Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.
lub porównaj w Vast.ai od $0.35/godz. (typical low · varies)
Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.
Szybkość na tle innych GPU
Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy
Specyfikacja
Specyfikację zaktualizowano 2026-07-12.
- Pamięć
- 20 GB
- Przepustowość pamięci
- 800 GB/s
- Architektura
- RDNA 3 Navi 31
- Seria
- RX 7000-series
- Pobór mocy
- 315 W
- Rok premiery
- 2022
- Cena premierowa
- $899
- Dostępne dla modeli
- 20 GB
Podobne GPU
Najczęstsze pytania
Czy AMD Radeon RX 7900 XT uruchomi lokalne LLM?
Tak. Z 20 GB (20 GB dostępne dla modelu) uruchamia 103 modele z katalogu przy Q4_K_M i kontekście 8K; największy to Nemotron-Cascade 2 30B-A3B, potrzebuje około 19.9 GB.
Jak szybki jest AMD Radeon RX 7900 XT w inferencji AI?
Szacujemy, że uruchamia Llama 3.1 8B z szybkością 47–98 tok/s przy Q4_K_M. Llama 3.3 70B się nie mieści: potrzebuje około 44 GB, a dostępne jest 20 GB. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.
Jakie LLM uruchomię na 20 GB?
Wśród najlepszych, które się mieszczą: Qwen 3.6 27B, Qwen 3.5 27B, 1-bit Bonsai 27B, Ternary Bonsai 27B, Ternary Bonsai 2 27B. Najszybszy start to Ollama: ollama run qwen3:14b.
Co dalej
Czy uruchomię to na RX 7900 XT?
Więcej o tej karcie
Narzędzia