Pēdējo desmit gadu laikā hiperscale mākoņu arhitektūrās galvenā uzmanība ir pievērsta prognozējamām x86 serveru flotēm, kas optimizētas vispārējam mērķim. Tā ēra beidzas. Ar ģeneratīvo AI, fonda modeļi, simulācija, un paātrināta analītika tagad patērē nepieredzētu daudzumu skaitļošanas, hiperskaleri strauji pāriet uz GPU pirmajām arhitektūrām — ja grafikas procesori, paātrinātāji un pielāgots silīcijs nav sekundārie papildinājumi, bet gan galvenie skaitļošanas dzinēji.

Šī pāreja ir datu centru dizaina, ekonomikas, piegādes ķēžu un programmatūras ekosistēmu pārveidošana globālā mērogā. Lūk, kā hiperskaleri gatavojas GPU pirmajai nākotnei un ko tas nozīmē pārējai nozarei.

Datu centra pārveidošana augstas intensitātes GPU Kopas

Vēsturiski plaukti tika projektēti ap procesora siltumenerģiju — reti pārsniedzot 8–12 kW uz statīvu.
Modernās AI kopas pārsniedz 30 kW, 60 kW un pat 100+ kW uz statīvu.

Hiperskaleri reaģē ar:

Šķidrā dzesēšana kā noklusējuma

• Tiešas līdz mikroshēmas aukstās plates kontūras GPU mezgliem

• Aizmugurējo durvju siltummaiņi hibrīdiem parkiem

• Objekta ūdens infrastruktūras modernizācija

• Dzesētāja sadales vienības (CDU) rindu līmeņa plānojumā

Specializēti augstas intensitātes podi

• Tikai GPU rindas ar stingru termisko zonējumu

• Nodalīti gaisa plūsmas koridori

• Jauda un dzesēšana neatkarīgi no universālas skaitļošanas zālēm

Siltumizturīgas jaudas plānošana

MI kopas tagad vada teritorijas izvēle, nevis CPU.

Dzesēšanas jauda nosaka:

• cik daudz GPU var izvietot

• kur tos var novietot

• cik ātri klasteri var novērtēt

Datu centra atjaunināšana Enerģijas piegāde

Viens plaukts AI paātrinātāji var izdarīt 50+ kW, radot milzīgu spriedzi elektroenerģijas infrastruktūrā.

Hiperskaleri reaģē ar:

Ēkas apakšstacijas-piepilsētas pilsētiņas

Lai nodrošinātu vairāku simtu miljonu MW pieejamību GPU jaudas palielināšanai.

Pārmērīgas HV izplatīšanas plaša izmantošana

Uzņēmēji pievieno:

• 110 kV – 230 kV ienākošās plūsmas

• uzlabotas komutācijas stacijas

• tīkla noturības modeļi

Jauda orķestrācija + trīcēšana

GPU kopām piemēro:

• dinamiskos jaudas griestus,

• slodzes regulēšana,

• plānotie secinājumi,

• un pat darba slodzes evakuāciju.

Stratēģiskais GPU Iepirkums un silīcija cauruļvadi

Jaunais kaujas laukums ir silīcija piegāde.

Agresīvs GPU Pirmsiepirkšana

Hyperscalelers tagad veic pasūtījumus 12–24+ mēnešus iepriekš, nostiprināšana:

• NVIDIJA H sērijas kopas,

• AMD instinkts;

• Intel Gaudi,

• un jaunām paātrinātāju līnijām.

Multi-vendor stratēģija

Neviens nav all-in uz vienu pārdevēju.

Hyperscaleers tagad regulāri:

• jaukt piegādātājus kopās,

• pieņemt specializētus paātrinātājus katram uzdevumam,

• novērtēt izmaksas uz kvadrātmetru, salīdzinot ar izmaksām uz kvadrātmetru, salīdzinot ar izmaksām uz kvadrātmetru.

Pielāgotas silīcija programmas

Ikviens būvē savu mikroshēmas:

• Google TPU

• AWS vilciens un inferentia

• Microsoft Maia

• Meta MTIA

GPU pirmais ne vienmēr nozīmē Tikai GPU.

Tas nozīmē paātrināti.

GPU Megaclusters būvētie tīkla audumi

GPU darbojas labi tikai tad, ja tie var sazināties ar zemu latentumu un augstu joslas platumu.

Hiperskaleri iegulda:

Masas mēroga HPC-stila audumi

• 400G → 800G → 1.6T pārejas

• AI optimizētas topoloģijas

• pārslogota maršrutēšana

Ļoti liela kopu plānošana

Kopas, kas ietver:

• tūkstošiem mezglu,

• desmitiem tūkstošu GPU,

• koordinēta audumu pārvaldība.

Tīkla vadības plaknes pārkvalifikācija

Tostarp:

• AI satiksmes klasifikācija,

• kopas līmeņa joslas platuma prognoze,

• siltuma + elektroenerģija + tīkla savstarpējās atkarības modelēšana.

Tīklu veidošana tagad ir trūkums.
Hiperskaleri tai uzbrūk agresīvi.

Programmatūra un plānošana Transformācija

Pāreja nav tikai aparatūra.

Darbības modelis tiek pārrakstīts.

GPU- Aware plānotāji

Plānotāji pielāgo:

• GPU atmiņas fragmentācija

• tensorais paralēlisms

• multi GPU replikācija

• modeļa kontrolpunktu modeļi

Dinamisks sadalījums, salīdzinot ar rezervēšanu

GPU kustas starp:

• apmācības darba slodze,

• darba slodzes regulēšana,

• secinājumu kopas,

• sērijas cauruļvadi

Bieži minūtes.

Darbības laika & platformas standartizācija

Hyperscaleers ir converging par:

• PyTorch kā bāzes scenārijs

• CUDA/XLA/ROCm rīku ķēdes

• unificēti draiveri un kodolu steki

Programmatūras kohēzijai ir izšķiroša nozīme, lai efektīvi palielinātu paātrinātājus.

AI-Focused klastera operācijas

GPU mākoņu darbībai nepieciešamas jaunas zināšanas, tostarp:

Temperatūras izturīgu uzdevumu plānošana

Darba vietu maiņa, pamatojoties uz:

• dzesēšanas efektivitāte

• ārējie laika apstākļi

• elektroenerģijas cenu noteikšanas signāli

Telemetrijas sprādziens

Hyperscaleers tagad vāc:

• katra GPU termokartes

• dati par paplātes enerģiju

• reāllaika tīkla izmantošana

• mācību efektivitātes modeļu metrika;

• dzesēšanas cilpas veselības rādītāji

Paredzētā tehniskā apkope (atbalstīts ar RA)

Iepriekšnoteikta ML izmantošana:

• GPU atteices iespējamība

• Ventilatora degradācija

• auksto plāksni efektivitātes zudumi

• termiskās pastas novecošana

• NIC atteices režīmi

GPU ops komandas kļūst tikpat specializētas kā HPC inženieri.

GPU-Pirmā ekonomikas un uzņēmējdarbības stratēģija

Šī pāreja nav lēta.

Hiperskaleri pārstrukturē savus finanšu modeļus ap:

CapEx megacikli

Miljardiem budžetā paredzēts:

• MI kopas,

• augsta blīvuma izplešanās,

• saistības attiecībā uz silīciju.

GPU monetizācijas stratēģijas

Tostarp:

• AI apmācība SKU

• jaudas līmeņi

• GPU rezervētās instances

• vietas GPU

• GPU “Reģionos ietilpstošie reģioni”

Izplatītā globālā izvietošana

Ne katrs reģions var atbalstīt GPU blīvumu.

Sagaidāmais:

• AI pirmie reģioni

• pirmais secinājums

• malas secinājumu zonas

Darbaspēka sagatavošana

Hyperscaleers nevar mērogot GPU infrastruktūru, nemainot darbaspēka spējas.

Sagaidāmais:

• Vairāk HPC inženieru nekā jebkad agrāk

• Starpdisciplīnu tīkls + skaitļošanas + dzesēšanas speciālisti

• Aparatūras dzīves cikla analītiķi

• Kopu fizikas inženieri

• Silīcija piegādes plānotāji

• Fab-partnerības programmu vadītāji

Šī darbaspēka pāreja jau notiek.

Autoceļš līdz 2026.–2028. gadam

No šā brīža līdz 2020. gadu beigām ir paredzēts, ka hiperscaleers:

• Būvēt vairāk GPU optimizēti megakampiji

• Ieguldījumi vairāki silīcija cauruļvadi

• Izvietot exabaiti mēroga uzglabāšana MI kontrolpunktiem

• Dzesēšana no gaisa pirmās → šķidruma pirmās → hibrīda šķidrums/sadegšana

• Standartizēt akseleratora tipa mākoņdatošanas pakalpojumi

• Ieviest arvien automatizētas apmācības vide;

• Paplašināt suverēnos un privātos GPU mākoņpiedāvājumus

Pirmā GPU nav īslaicīga tendence.

Tas ir jaunais arhitektūras centrs gravitācijas.

Secinājums

Hyperscalelers gatavojas GPU pirmajām darba slodzēm visos arhitektūras slāņos — no silīcija iegūšanas līdz datucentru dizainam, tīkla audumiem, dzesēšanas topoloģijām, programmatūras stekiem, klasteru grafiku sastādīšanai un globālās kapacitātes plānošanai.

Šīs pārmaiņas ir būtiskas:

• CPU kļūst par atbalsta aktu

• GPU un paātrinātāji ir zvaigznes

• MI veido infrastruktūru no zemes uz augšu

Uzņēmumi, kas pārņems šo pāreju, noteiks mākoņdatošanas, modeļu apmācības un globālās aprēķināšanas ekonomikas nākamo desmitgadi.

Sākusies GPU ēra.

Un hiperskaleri ir sacīkšu dominēt tajā.