Can I Run GPT-oss 120B on NVIDIA L40S?
Autor: Jakub Rusinowski · Ostatnia aktualizacja: 10 lipca 2026
No — the GPT-oss 120B family does not fit in the NVIDIA L40S's 48 GB VRAM.
Ujawnienie afiliacyjne: Niektóre odnośniki na tej stronie to linki afiliacyjne — jeśli dokonasz zakupu za ich pośrednictwem, LLM Configurator może otrzymać prowizję bez dodatkowych kosztów dla Ciebie. Jako uczestnik programu Amazon Associates, LLM Configurator zarabia na kwalifikujących się zakupach.
NVIDIA L40S Specs
| VRAM | 48 GB |
| Memory Bandwidth | 864 GB/s |
Why It Does Not Fit
Every GPT-oss 120B variant requires more VRAM than the NVIDIA L40S provides (48 GB).
Nearest GPU That Fits
NVIDIA A100 80GB (80 GB VRAM).
NVIDIA A100 80GB PCIe
Sugerowana cena premierowa: $15,000
Ceny w 2026 są niestabilne — sprawdź aktualną ofertę.
FAQ
Can I run GPT-oss 120B on the NVIDIA L40S?
No — the GPT-oss 120B family does not fit in the NVIDIA L40S's 48 GB VRAM.
What GPU should I get instead to run GPT-oss 120B?
The NVIDIA A100 80GB (80 GB VRAM) is the cheapest upgrade that fits it.
GPT-oss 120B on Other GPUs
Popular Models on the NVIDIA L40S
VRAM Tier
Troubleshooting
Buying Guide
← Can I Run It? | GPT-oss 120B Model Page | NVIDIA L40S GPU Page | Check Your Hardware