Can I Run Cogito v1 on NVIDIA L40S?

Autor: Jakub Rusinowski · Ostatnia aktualizacja: 10 lipca 2026

Yes — the Cogito v1 family runs on the NVIDIA L40S.

Ujawnienie afiliacyjne: Niektóre odnośniki na tej stronie to linki afiliacyjne — jeśli dokonasz zakupu za ich pośrednictwem, LLM Configurator może otrzymać prowizję bez dodatkowych kosztów dla Ciebie. Jako uczestnik programu Amazon Associates, LLM Configurator zarabia na kwalifikujących się zakupach.

Sprawdź cenę na Amazon — NVIDIA L40S 48GB

NVIDIA L40S Specs

VRAM48 GB
Memory Bandwidth864 GB/s

Cogito v1 Variants That Fit

Cogito v1 70BQ4_K_M · 40 GB · ~22 tok/s (est.)
Cogito v1 32BQ4_K_M · 20 GB · ~43 tok/s (est.)
Cogito v1 14BQ4_K_M · 9 GB · ~96 tok/s (est.)
Cogito v1 8BQ4_K_M · 5 GB · ~173 tok/s (est.)
Cogito v1 3BQ4_K_M · 2 GB · ~400 tok/s (est.)

FAQ

Can I run Cogito v1 on the NVIDIA L40S?

Yes — the Cogito v1 family runs on the NVIDIA L40S.

Which Cogito v1 variant fits best on the NVIDIA L40S?

Cogito v1 70B at Q4_K_M quantization (40 GB), estimated ~22 tokens/sec.

Cogito v1 on Other GPUs

Popular Models on the NVIDIA L40S

VRAM Tier

Troubleshooting

Buying Guide

← Can I Run It? | Cogito v1 Model Page | NVIDIA L40S GPU Page | Check Your Hardware