Zatímco referenční grafické karty při tovární konfiguraci končí zpravidla na 450 wattech (a ani na této metě nejsou dlouho, minulá generace při vydání dosahovala 350 wattů), výpočetní GPU využívané i jako AI akcelerátory navyšují spotřebu o dost výrazněji. Stávající generace postavená na architektuře Hopper dosahuje u klasické SXM konfigurace 700-800 wattů (dle modelu) a podle společnosti Dell máme s generací nadcházející, tedy Blackwell, počítat rovnou s 1000 watty na GPU (to jen aby nedošlo k mýlce, že jde o hodnotu pro dvoučipovou konfiguraci).
Jsme nadšeni z dění kolem B100 a B200, a myslíme si, že je to příležitost k předvedení inženýrského umu. Podle našeho vyhodnocení tepelné stránky by nemělo být nutné použití přímého kapalinového chlazení, abyste odvedli 1000 wattů z grafického jádra. — Jeff Clarke, Dell (COO, vice-předseda) |
Z vyjádření Dellu vyplývá, že kilowattové spotřeby nemusí dosáhnout hned první varianta chystaná na letošní rok (Nvidia B100), ale až refresh (Nvidia B200) připravovaný pro příští rok. Mezi oběma modely nicméně nebude žádný extrémní rozdíl, takže už B100 se jistě této hodnotě přiblíží (850-900 wattů?).
Nejen, že mezigenerační posuny u výrobních procesů s každou další generací upadají, ale již s ohledem na cílový segment je žádoucí vyždímat z dostupného křemíku každé procento výkonu a to i na úkor vyšší spotřeby. Ceny výkonných AI akcelerátorů jsou nyní tak vysoké, je zkrátka žádoucí i na úkor vyšší spotřeby dosáhnout požadovaného cílového výkonu s nižším počtem GPU. Nemluvě o tom, že ani infrastruktura není levná a počet GPU, mezi něž je cílový výkon rozložen, definuje i kolik bude potřeba základních desek, procesorů, pamětí a zkrátka všech komponent škálujících s počtem dílů celé skládačky.
Nárůst spotřeby v tomto segmentu tak nebude jen záležitostí Nvidie – lze ho očekávat u všech výrobců výkonných AI akcelerátorů.
