Viimase kümne aasta jooksul, hüperscale pilvede arhitektuur on keskendunud prognoositav x86 serveripargid optimeeritud üldotstarbeline arvutada. See ajastu on lõppemas. Tänu generatiivsele tehisintellektile, vundamendimudelitele, simulatsioonile ja kiirendatud analüüsile, mis tarbivad enneolematus koguses arvutusi, hüperskalaatorid liiguvad kiiresti GPU esimese arhitektuuri suunas ® kus graafika töötlemise seadmed, kiirendid, ja custom räni ei ole teisejärgulised lisad, vaid algmootorid arvutada.

Üleminek on andmekeskuse disaini, majanduse, tarneahelate ja tarkvara ökosüsteemide ümberkujundamine ülemaailmsel tasandil. Siin, kuidas hüperskalaatorid valmistuvad GPU esimeseks tulevikuks ja mida see tähendab ülejäänud tööstuse jaoks.

Suure tundlikkusega GPU andmekeskuste ümberkujundamine Klastrid

Ajalooliselt ehitati riiuleid ümber CPU termiliste seadmete, mis harva ületasid 8212 kW riiuli kohta.
Nüüdisaegne tehisintellekt 30 kW, 60 kW ja isegi 100+ kW riiuli kohta.

Hüperskalaatorid reageerivad:

Vedelikjahutus vaikimisi

• Otsekiibilised külmsildid GPU sõlmedele

• Tagumised soojusvahetid hübriidlaevastikele

• Hoonete veeinfrastruktuuri ajakohastamine

• Külmutusseadmete jaotusühikud (CDUd) reatasandi disainilahendustes

Spetsialiseerunud suure tundlikkusega podid

• Ainult GPU read range soojusliku tsooniga

• Eraldatud õhuvoolukoridorid

• Üldotstarbelistest arvutussaalidest sõltumatu võimsus ja jahutus

Soojustundliku võimsuse planeerimine

AI klastrid nüüd sõita koha valikmitte protsessorid.

Jahutusvõimsus määrab kindlaks:

• Mitu GPU- d saab kasutusele võtta

• kuhu neid saab paigutada

• Kui kiiresti klastrid suudavad mastaapida

Andmekeskuse leiutamine Toiteedastus

Üht tüüpi tehisintellekti kiirendid suudavad juhtida 50+ kW, põhjustades tohutut pinget energia infrastruktuurile.

Hüperskalaatorid reageerivad:

Hoone alajaama kõrvalasuvad ülikoolilinnakud

Tagada GPU võimsuse suurendamiseks mitmesaja MW ulatuses kättesaadavus.

Üleliigse HV jaotuse tugev kasutamine

Operaatorid lisavad:

• 110 kV 230 kV sissetulevad toiteallikad

• arenenud kommutatsioonijaamad

• võrgu-püsivuse projekteerimine;

Võimsusorkester + kõigutamine

GPU klastrite suhtes kohaldatakse järgmist:

• dünaamilised jõuväljad,

• koormuse muutmine,

• kavandatud järeldus;

• ja isegi soojus-põhine töökoormus evakuatsioon.

Strateegiline GPU Hanked ja ränijuhtmed

Uus lahinguväli on ränivaru.

Agressiivne GPU Külastuseelne

Hyperscalers nüüd täita tellimusi 12 93/524+ kuud ettekindlustamine:

• NVIDIA H-seeria klastrid,

• AMD instinkt,

• Intel Gaudi

• ja tekkivad kiirendid.

Mitmeliikmeline strateegia

Keegi ei tegele ühe müüjaga.

Hyperscalers nüüd rutiinselt:

• segama tarnijaid üle klastrite;

• erikiirendid iga ülesande kohta;

• hinnata kulumaksumust tonni kohta võrreldes kuluga TFLOPi kohta vs kuluvatt.

Kohandatud räniprogrammid

Igaüks ehitab oma kiipe:

• Google TPU

• AWS Trainium & Inferentia

• Microsoft Maia

• Meta- MTIA

Esimene GPU tähendab alati Ainult GPU.

See tähendab kiirendatud esimest.

GPU- megaklasteridele ehitatud võrguriided

GPU-d toimivad hästi ainult siis, kui nad suudavad suhelda madala latentsi ja suure ribalaiusega.

Hyperskalers investeerivad:

Mass-scale HPC-Style kangad

• 400G → 800G → 1,6T üleminekud

• Optimeeritud topoloogiad

• liiklusummikutest teadlik marsruutimine;

Ultra suur klastrite ajakava

Klastrite ulatus:

• tuhanded sõlmed,

• kümneid tuhandeid GPUsid,

• koordineeritud kangahaldus.

Võrgu juhtimistasandi ümberõpe

Sealhulgas:

• AI liiklusklassifikatsioon;

• klastritasandi ribalaiuse prognoos;

• soojus + võimsus + võrgu vastastikune sõltuvus modelleerimine.

Võrgustik on nüüd kitsaskoht.
Hyperscalers ründavad seda agressiivselt.

Tarkvara planeerimine Transformeerimine

Vahetus ei ole lihtsalt riistvara.

Operatiivmudel on ümber kirjutatud.

GPU- Aware ajakavad

Ajastaja kohandab:

• GPU mälu killustatus

• tensor rööpsus

• multi-GPU replikatsioon

• mudeli kontrollpunkti mustrid

Dünaamiline jaotamine võrreldes reserveerimisega

GPU liigub:

• koolituskoormus,

• häälestamise töökoormus;

• järeldada klastrid;

• partiijuhtmed

Sage: minutit.

Käivitamise ja platvormi standardimine

Hüperskalaatorid lähenevad:

• PyTõrke algtase

• CUDA/XLA/ROCm tööriistakanalid

• Ühendatud draiverid ja kernelikorstnad

Tarkvara ühtekuuluvus on kiirendite tõhusaks suurendamiseks väga oluline.

Katkestatud tehisintellektioperatsioonid

GPU pilvede kasutamine nõuab uusi teadmisi, sealhulgas:

Temperatuuriteadlik ülesannete ajakava

Tööde vahetus põhineb:

• jahutustõhusus

• ilmastikutingimused

• võimsuse hinnasignaalid

Telemeetria plahvatus

Hyperskalers nüüd koguda:

• GPU-põhised soojuskaardid

• hammasülekande energiaandmed

• reaalajas võrgu kasutamine

• koolitustõhususe mudeli näitajad

• jahutustsükli tervisenäitajad

Ettenägelik hooldus (AI-abi)

ML-i kasutamine eeltuvastuseks:

• GPU rikke tõenäosus

• ventilaatori lagunemine

• Külmutusplaadi kasutegur

• termopasta vananemine

• NIC rikkerežiimid

GPU operatsioonide meeskonnad on muutumas sama spetsialiseerunud kui HPC insenerid.

GPU esimene majandus- ja äristrateegia

See vahetus ei ole odav.

Hyperskalers on ümber oma finantsmudelid ümber:

CapEx megatsüklid

Miljardid eelarves:

• AI klastrid,

• suure tihedusega laiendused,

• ja räniga seotud kohustused.

GPU raha kogumise strateegiad

Sealhulgas:

• AI koolitus SKU

• Tootmisvõimsuse tasemed

• GPU reserveeritud juhtumid

• koht GPU- d

• GPU piirkonnas

Distributeeritud globaalne paigutus

Mitte iga piirkond ei saa toetada GPU tihedust.

Oodata:

• Esimesed tehisintellektipiirkonnad

• Esimesed piirkonnad

• äärepüügipiirkonnad

Tööjõu ettevalmistamine

Hyperskalers saab mastaabi GPU infrastruktuuri muutmata tööjõu suutlikkust.

Oodata:

• Rohkem HPC insenerid kui kunagi varem

• Risttreenitud võrk + arvutus + jahutusspetsialistid

• Hardware elutsükli analüütikud

• Klastrifüüsika insenerid

• Ränivarustuse planeerijad

• Fab-partnership programmi juhid

See tööjõu üleminek on juba käimas.

Tee 2026.2028

Kuni 2020. aastate lõpuni oodatakse hüperskalaatoritelt järgmist:

• Ehita rohkem GPU optimeeritud megalaagrid

• Investeeringud Mitu ränijuhtmet

• Paigaldamine exabyte-skaalal ladustamine AI kontrollpunktide puhul

• Küttevedelike väljavool õhust-esimesest → vedelikust-esimesest → hübriidvedelikust/imendumisest

• Standardimine kiirendiga pilveteenused

• Kehtestatakse üha rohkem automaatne koolituskeskkond;

• Ava suveräänne ja privaatne GPU pilvede pakkumine

GPU esimene ei ole ajutine trend.

See on uus arhitektuuriline gravitatsioonikeskus.

Järeldus

Hyperskalers valmistuvad GPU-esimene töökoormus igal kihil arhitektuuri ® alates räni hankimisest andmekeskuse disain, võrgu kangas, jahutustopoloogiad, tarkvara korstnad, klastri planeerimine ja globaalse võimsuse planeerimine.

See nihe on sügav:

• protsessorid muutuvad toetusaktiks

• Tähed on GPUd ja kiirendid

• AI kujundab infrastruktuuri algusest peale

Ettevõtted, kes seda üleminekut läbivad, määravad kindlaks järgmise aastakümne pilvandmetöötluse, mudelikoolituse ja globaalse majanduse.

GPU ajastu on alanud.

Ja hüperskalaatorid võitlevad selle üle.