Lokální jazykové modely přestaly být koníčkem nadšenců. Llama, Mistral nebo Qwen dnes běží na běžné grafické kartě — bez cloudu a bez měsíčních poplatků. Jediné, co tomu stojí v cestě, je paměť grafické karty.
Kolik VRAM potřebujete
Velikost modelu v paměti se počítá z počtu parametrů a z kvantizace (jak moc jsou váhy osekané na úkor přesnosti).
| Model | Kvantizace | Přibližně VRAM | Co to znamená |
|---|---|---|---|
| 7–8 B | Q8 | ~9 GB | rychlé, kvalitní na běžnou práci |
| 7–8 B | Q4 | ~5–6 GB | dobrý poměr kvalita/cena |
| 13–14 B | Q4 | ~8–9 GB | znatelně lepší úsudek |
| 32 B | Q4 | ~20 GB | na složitější úlohy, kód a analýzu |
| 70 B | Q4 | ~40 GB | srovnatelné s komerčními cloudy |
Čísla jsou orientační — záleží na architektuře modelu, délce kontextu a na tom, kolik si necháte pro operační paměť. Počítejte s rezervou 10–20 %.
Co máme skladem podle VRAM
| VRAM | Modelů skladem | Cena od | Vhodné pro |
|---|---|---|---|
| 8 GB | 336 | 1 699 Kč | 7–8B modely v Q4 |
| 12 GB | 36 | 19 711 Kč | 7–8B v Q8, 13B v Q4 |
| 16 GB | 62 | 18 080 Kč | 14B v Q8, 32B v Q4 |
| 24 GB | 18 | 30 382 Kč | 32B pohodlně |
| 32 GB | 4 | 62 108 Kč | 32B v Q8, 70B s kvantizací |
Nejzajímavější pásmo je 16 GB. Začíná na 18 080 Kč a zvládne 32B model v Q4.
Na co si dát pozor
Zdroj. Grafika s 24 GB si v zátěži vezme 350–450 W. Počítejte výkon karty × 1,5.
Skřín. 32GB a 96GB karty mají 2–3 sloty na výšku a 30–35 cm na délku.
Operační paměť. Model se načítá z disku do RAM, 32 GB je minimum, 64 GB komfort.
Kde začít
Grafické karty skladem · Počítačové zdroje · Pracovní stanice · AI hardware
Počty modelů a ceny jsou z našeho katalogu k 18. 10. 2026, zaokrouhlené dolů.