Nvidia rozšiřuje svou pozici na trhu s umělou inteligencí i mimo výrobu grafických čipů. Firma podle výsledků zveřejněných ve středu staví náskok na systémech, které řídí datový provoz kolem GPU a zvyšují efektivitu obřích datacenter.
Vera doplňuje výkon GPU
Hodnota akcií Nvidie mezi začátkem roku 2023 a polovinou roku 2025 vzrostla desetkrát, poté se ale růst zpomalil kvůli obavám z konkurence na trhu grafických procesorů. Nová data teď ukazují, že firma buduje náskok i v jiné oblasti infrastruktury.
Nvidia aktuálně nasazuje architekturu Vera Rubin, která kombinuje GPU Rubin s procesorem Vera, akcelerátorem Groq 3 LPX a doplňkovými jednotkami pro úložiště a síťování. Tyto systémy neprovádějí samotné výpočty, ale zajišťují, aby data proudila k procesoru co nejefektivněji.
„Vera je důležitá, protože do jednoho serveru nebo výpočetní platformy se vejde jen omezené množství paměti“ — Jason Hardy, viceprezident Nvidie pro technologie úložišť
S růstem výpočetního výkonu datacenter roste i kapacita paměti, což pomohlo firmám jako Micron zbohatnout v druhé vlně investic do infrastruktury. Dostat data ve správný okamžik k procesoru ale zůstává složitým úkolem, zejména když firmy usilují o co nejnižší spotřebu energie na jeden zpracovaný token.
Podle Hardyho procesor Vera přináší až trojnásobné zrychlení těchto operací. Umožňuje tak naplno využít kapacitu flashové paměti bez zpomalení celého systému.
Konkurenční přístup OpenAI
Podobný problém řeší i další firmy mimo Nvidii. OpenAI při vývoji čipu Jalapeño zvolilo odlišnou cestu a snažilo se přesun dat mezi součástmi systému omezit na minimum už v návrhu.
Firma v blogovém příspěvku z tohoto měsíce uvedla, že Jalapeño navrhla tak, aby celá pracovní zátěž zůstala v jednom propojeném systému, což pomáhá zpracování zrychlit od začátku do konce.
Nvidia a OpenAI tak řeší stejný problém opačným způsobem, jeden pomocí chytřejšího řízení datového toku mezi komponentami, druhý eliminací přesunu dat uvnitř jednoho čipu. Konkurenční boj se tím přesouvá na novou vrstvu infrastruktury.
Podle dostupných informací zatím Nvidia v této oblasti systémové efektivity drží náskok před rivaly z řad výrobců čipů i hyperscalerů, kteří dosud soupeřili především na poli samotných grafických procesorů.
