Tenhle stroj je postavený tak, aby dělal víc věcí najednou. Smysl dvou karet není dvojnásobná rychlost jednoho modelu, ale dvě role zároveň: na jedné kartě běží jazykový model pro tým, druhá obsluhuje přepisy nahrávek, vyhledávání ve firemních datech a vytěžování dokladů. Čísla níže jsou naměřená, ne odhadnutá.

První karta, jazykový model. Na denní práci — překlady, shrnutí, třídění e-mailů — jede Gemma 4 26B ve 4bitové kvantizaci: 19,9 GB paměti při kontextu 32 tisíc tokenů, tedy zhruba padesáti stranách textu, a 100 tokenů za sekundu. Když jde víc o přesnost než o rychlost, nastoupí Qwen3.8-27B s 20,4 GB: 33 tokenů za sekundu na dotaz a 93 při osmi souběžných uživatelích. Obojí se pohodlně vejde na jednu kartu.

Druhá karta, všechno ostatní. Přepis hlasu na text běží na Whisperu large-v3 (faster-whisper, fp16) spolu s pyannote pro rozlišení mluvčích — dohromady jen 4 až 5 GB paměti a dvacetiminutová nahrávka je hotová za dvě minuty. Zbytek karty zůstává volný na embeddingy pro vyhledávání, reranker a vytěžování dokladů. Právě proto tu druhá karta je: aby přepisy a hledání nemusely čekat, až dopíše model.

Když je potřeba ten největší model. Qwen3-Coder-Next (80B MoE, 51 GB) se rozloží přes obě karty a používá se jako auditor a tester vlastního vývoje — hledá chyby v kódu i v celých systémech, od CRM přes skladový systém po e-shop. Ve srovnání našel všech 8 zasazených chyb, zatímco placený cloudový model 7. Přes obě karty jde ze 56 na 105 tokenů za sekundu na dotaz a ze 155 na 296 při osmi souběžných. Zabere ale 23 GB na každé kartě, takže zbytek provozu musí počkat nebo běžet na procesoru — pouští se mimo špičku.

Kam až to sahá. Model třídy 70B se ve 4 bitech na jednu kartu nevejde vůbec, má 40 až 43 GB. Jde jen přes obě karty naráz a zbude na něj jen pár gigabajtů kontextu, odpovědi jsou pomalejší a druhá karta je po tu dobu pro zbytek provozu nepoužitelná. Sami jsme ho neměřili; jediný ověřený údaj je model o velikosti 51 GB, který se do 48 GB celý nevešel a část musela do operační paměti. Berte 70B jako strop, ne jako provozní režim.

Kvalita proti placenému cloudu. Na reálných firemních úlohách byl lokální Qwen3.8-27B přesnější než DeepSeek i Gemini: třídění e-mailů 73 % proti 60 %, doporučování produktů 67 % proti 60 %, vytěžování dokladů 8 z 8 u obou. A odpovídá rychleji — 1,2 sekundy na e-mail proti třem až pěti sekundám. Modely do 32 miliard parametrů na jedné kartě tedy plnohodnotně nahradí placené cloudové služby, bez poplatků a bez odesílání dat ven.

Základní deska ASUS ProArt X870E-Creator WiFi je pro dvě grafiky postavená: oba sloty jedou v režimu PCIe 5.0 x8/x8, tedy plnou rychlostí na obě karty. To je rozdíl proti běžným deskám, kde druhá karta dostane jen čtyři linky — tady dává smysl i tensor-parallel provoz přes vLLM, ne jen rozdělení modelu po vrstvách. Propojovací můstek NVLink k tomu potřeba není, přes PCIe vychází na dvou kartách skoro dvojnásobek. Navrch má deska 10Gb síť pro rychlý přenos modelů a datasetů po firemní síti, čtyři sloty M.2, dvakrát USB4 a Wi-Fi 7.

Chlazení jsme změřili, ne odhadli. Deset minut plné zátěže obou karet: maximálně 67 a 62 °C, ventilátory na 69 a 60 procentech, žádné škrcení výkonu. Obě karty jsou v provedení Turbo s radiálním ventilátorem, který horký vzduch vyfukuje rovnou ven ze skříně — u dvou karet nad sebou je to zásadní, běžné tříventilátorové modely by se navzájem dusily. Skříň Fractal Design Torrent je postavená právě na maximální průtok vzduchu. Celý server si v tomhle testu bral 686 W, takže zdroj 1300 W Gold má rezervu i na krátké špičky, kterými jsou 3090 pověstné.

Procesor Ryzen 9 9900X s dvanácti jádry a 64 GB DDR5 zvládá přípravu dat, indexaci dokumentů pro RAG i obsluhu více uživatelů naráz, aniž by brzdil grafiky. Dva disky SN850X po 2 TB oddělí modely od firemních dat. Součástí je PiKVM V4 Mini — vzdálená správa stroje na úrovni klávesnice a obrazu, takže se k počítači dostanete, i když neběží operační systém. U stroje v serverovně nebo na jiné pobočce to ušetří cestu.

Na co se hodí: jazykový model pro celý tým, asistent nad firemními dokumenty, vyhledávání ve vlastních datech, vytěžování dokladů, přepis nahrávek s rozlišením mluvčích, audit kódu a dotrénování menších modelů metodou LoRA — a to všechno souběžně, což je celý smysl dvou karet. Na co ne: plný trénink modelů od nuly, na ten se používají serverové karty s 80 GB paměti.