Data Center Power Crisis - A rejtett költsége AI & Cloud

Bevezetés

A felhőalapú számítástechnika és a mesterséges intelligencia (AI) növekedése drámai változást idézett elő a digitális gazdaság alapját képező infrastruktúrában. Ami gyakran a "mesterséges intelligencia" és a "felhő mindenütt" közös izgalma mögött rejtőzik, az a hatalmas energia és energiaipari infrastruktúra a modern adatközpontok által jelenleg előírt teher. Ebben a cikkben megvizsgálom az adatközpontokban kialakuló "hatalmi válságot" - hogy mi ez, miért történik ez, milyen költségekkel jár (gazdasági, környezeti, társadalmi), és mit jelent ez a szervezetek számára (beleértve azokat is, amelyek nehéz munkaterhelést végeznek, mint például a GPU / CPU teljesítményértékelés, a virtualizáció és a nagy teljesítményű felhőalapú infrastruktúra).

A probléma skálája

1, 1 Villamosenergia-fogyasztás globális szinten

• A Nemzetközi Energiaügynökség (IEA) szerint az adatközpontok globális villamosenergia-fogyasztása jelenleg 415 terawattóra (TWh) - a globális villamosenergia-fogyasztás mintegy 1,5% -a 2024-ben. IEA+ 2Az Energiaügyi Minisztérium Energiája.+ 2

• Az előrejelzések szerint ez közel dupla 2030-ig (~ 945 TWh-ig) a Nemzetközi Energiaügynökség alapforgatókönyvében, amely akkor a globális villamosenergia-fogyasztás alig 3% -át tenné ki. IEA+ 1

• Az USA-ban például a ~ 183 TWh-t (az USA villamosenergia-fogyasztásának 4% -a) használó adatközpontok 2024-ben elégettek, és ez 2030-ra várhatóan több mint kétszeresére fog nőni (~ 426 TWh-ra). Pew Kutatóközpont+ 1

1, 2 A MI munkaterhelések gyors növekedése

• A növekedés nem csak a "több adatközpont", hanem a gyorsított munkaterhelés - GPU / TPU klaszterek, nagy nyelvi modell képzés, összehasonlító. A gyorsított (AI- specifikus) szerverek esetében az IEA évi ~ 30% -os növekedést, míg a hagyományos szerverek esetében ~ 9% -os növekedést jelent. IEA

• A Goldman Sachs által készített jelentés szerint az adatközpont a globális energiaszükséglet növekedésével 165% az évtized végére (2023-hoz képest) erősen az MI & cloud infrastruktúra vezérli. Goldman Sachs

• Az Egyesült Államokban, Morgan Stanley figyelmeztet a áramkiesés 2028-ig az adatközpontok esetében akár 20% -ot is elérhet, amit ez a mesterséges intelligencia-berendezés hajt. Yahoo Finance

1.3 Az energiahálózatok és az infrastruktúra zavarai

• Ahogy a kereslet megnő, az átviteli, termelési, hálózati tehetetlenségi és helyi közművek terhelése növekszik. Például sok állam és közmű már most is látja az adatközpontokat, amelyek az alállomások és a hálózati összeköttetések korszerűsítését teszik szükségessé. Világerőforrás-intézet+ 1

• Egyes régiókban az adatközpontok már most is jelentős részt vesznek a helyi villamosenergia-ellátásból, ami kihat a helyi háztartásokra, az iparra és az infrastruktúra tervezésére. Pew Kutatóközpont

Miért történik ez: A illesztőprogramok

2.1 Hiperskála AI és felhőterhelés

• A generatív mesterséges intelligenciára való áttérés, a nagy modell képzés, a méretarányos ösztönzés (real-time, 24 / 7) sokkal többet tesz szükségessé teljesítménysűrűség mint a szerverek korábbi generációi. Például, egy túlméretezett szerver rack ház sok GPU lehet rajzolni tíz kilowatt helyett néhány. arxiv+ 1

• A méretgazdaságosság és a teljesítmény szükségessége miatt ezek a létesítmények gyakran a hűtés, az energiaellátás, a redundancia, a munkaidő határait feszegetik, amelyek mindegyike növeli a költségeket és az összetettséget.

2.2 Helyzetalapú méretezés és csoportosítás

• Számos adatközpont a kedvező feltételekkel rendelkező régiókban tömörül (például alacsony energiaköltség, hűvösebb éghajlat, adókedvezmények). De az ilyen csoportosulás létrehoz helyi stressz a rácson - még akkor is, ha a globális kép kezelhetőnek tűnik. Pew Kutatóközpont

• Az infrastruktúra, hogy támogassa ezeket a nagy helyszínek - power-alállomások, nagy kapacitású transzformátorok, hosszú átviteli vonalak - gyakran elmarad mögött az épület-out tempó.

2.3 Energiahatékonysági és hűtési általános költségek

• A számítási teljesítményen túl az adatközpontból származó villamos energia jelentős része hűtési, szellőztetési, teljesítményeloszlási veszteségek. Minél erősebb a létesítmény, annál nagyobb a mellékköltségek. Pew Kutatóközpont+ 1

• Egyes hűtőrendszerek a kevésbé hatékony létesítményekben a teljes adatközpont-teljesítmény legfeljebb ~ 30% -át (vagy több) fogyaszthatják. A magas hatékonyságú hiperskálák csökkentik ezt, de a sűrűség növekedésével a hűtési igények is növekednek. Pew Kutatóközpont

2.4 A megújulóenergia-integráció és az időszakos kihívások

• Számos üzemeltető célja a megújuló energia (szél / napenergia) vagy akár az atomenergia felhasználása adatközpontjai számára. A megújuló energiaforrások azonban szakaszos, és a valós idejű igények AI számítás gyakran igényel stabil, magas minőségű energiát. A közművek hosszú utat jelentenek a kapacitás vagy átviteli vonalak hozzáadásához, a bonyolult engedélyezéshez és a megújuló energiaforrások teherrel való összehangolásának nehézségéhez. Business Insider

• Ezért a gyakorlatban számos létesítmény még mindig a fosszilis tüzelőanyaggal működő tartalékra vagy a hagyományos forrásokból származó hálózati energiára támaszkodik - ami növeli a kibocsátásokat és bonyolítja a fenntarthatósági narratívákat.

Rejtett költségek - Túl a kiszolgáló törvényjavaslat

3.1 Gazdasági / hálózati költségek

• Amikor az adatközpontok a hálózat kapacitásának nagy részét igénylik, a közüzemi fejlesztések (termelés, átvitel, alállomások) költsége gyakran áthárul egyéb ügyfelek - háztartások és kisebb vállalkozások. Néhány amerikai államban például a háztartások magasabb számlákat látnak, mert a közüzemi szolgáltatásoknak emelniük kell az árakat az infrastruktúra változásainak fedezésére. Pew Kutatóközpont+ 1

• Azokban a régiókban, ahol szűk a hálózati kapacitás, az adatközpont-összeköttetésekre való várakozás éveket nyújthat - késleltetheti az üzleti kilövéseket vagy kényszerítheti az áthelyezést. MLQ

3.2 Környezeti és szénlábnyomra gyakorolt hatások

• A villamos energiát hasznosító adatközpontok számos régióban nagyrészt fosszilis tüzelőanyagokból származnak. Ha a használat nem párosul a megújuló energiaforrásokkal, a kibocsátás emelkedik. Egyes adatközpont-bővítések azt kockáztatják, hogy a fosszilis üzemanyagoktól függő infrastruktúrát évekig bezárják. Pénzügyi idők+ 1

• A hűtés és a villamos energia infrastruktúrájának használata víz (különösen a párolgási hűtés) - ami azt jelenti, hogy az adatközpontok a vízigényes régiókban létrehoznak másodlagos környezeti nyomás. Wikipedia

3.3 Lehetőség költségek és infrastrukturális verseny

• Az óriás adatközpontok által használt szárazföldi, energia-, víz- és hűtőforrások egyébként a gyártást, a helyi közösségeket vagy a kisebb vállalkozásokat szolgálhatnák. Ez kérdéseket vet fel regionális sajáttőkekülönösen, ha a helyi előnyök (munkahelyek, adóbevételek) az erőforrás-felhasználáshoz képest korlátozottak.

• Az erőintenzív munkafolyamatokra támaszkodó vállalkozások (például a GPU-alapú teljesítményértékelés, a magas áteresztőképességű virtualizáció) esetében az energia és hűtés iránti növekvő verseny a következőket eredményezheti:

  • A tárhely magasabb költsége / felhőszámítás

  • A kapacitás hosszabb átfutási ideje

  • Lehetséges, hogy alacsonyabb hozzáférés "prémium" teljesítmény / alacsony látens infrastruktúra

3.4 Megbízhatóság és rugalmassági kockázat

• A túlterhelés vagy a közel-kapacitás hálózatok kockázatai miatt csökken a lazaság, csökken az ellenálló képesség a meghibásodásokkal vagy szélsőséges időjárással szemben, és nagyobb az esély a kimaradásra vagy a redundanciára. Mindkét adatközpont és a környező infrastruktúra (otthonok, kórházak stb.). A közművek már figyelmeztettek ezekre a stresszpontokra. Business Insider+ 1

Mit jelent ez a nehéz munkákhoz: benchmarking, virtualizáció és felhőépítészet

Tekintettel arra, hogy a GPU / CPU teljesítményértékelésre, a virtualizációra, a csomagolásra és a hibrid / felhőalapú telepítésekre összpontosít, az erő- és infrastrukturális dimenzió egyre fontosabb. Íme:

4.1 A referenciakereteknek tartalmazniuk kell az infrastruktúra költségeit

• Ha benchmarking lakosztályokat vagy virtualizációs készleteket (pl. GPU off-load, multi-node klaszterek, virtualizáció VMware / VirtualBox, AI inference csővezetékek) tervezünk, ne csak nyers számítási metriákat (GFLOPS, sávszélesség), hanem az energiaköltség, a hűtés és az energiahatékonyság munkahelyenként.

• A felhőtelepítések esetében (például a Microsoft Azure / AWS / GCP-n) a költségeket egyre inkább befolyásolják a mögöttes infrastrukturális korlátok (energia és hűtés), amelyek befolyásolhatják az árképzést, a rendelkezésre állást és a teljesítményt.

4.2 Virtualizáció és hibrid számítási következmények

• Ha hibrid vagy on-prem + cloud modelleket telepítesz (pl. Windows VM, GPU / CPU off-load a helyi dobozokból a felhőbe), fel akarod mérni a határköltség és energia-lábnyom az adatközpont komlójából. Egyes munkaterhek helyi szinten (a hűtési / áramköltségtől függően) hatékonyabbak lehetnek, mint a felhőn, ha korlátozott teljesítményű régióban vannak elhelyezve.

• Virtualizáció hangszerelés kell ellenőrizni Az e rendeletben előírt intézkedések összhangban vannak a Növények, Állatok, Élelmiszerek és Takarmányok Állandó Bizottságának véleményével,, különösen többbérlő / hiperskála környezetben. A munkaterhelés ütemezéséhez szükség lehet az időpontok / helyszínek kiválasztására, amikor az energiaráták / rendelkezésre állás kedvező.

4.3 A földrajzi és energiaforrással kapcsolatos döntések kérdése

• a felhő- vagy adatközpontú régiók kiépítési kiválasztásakor, energiaforrás-keveréka hálózati kapacitás, a költségnövekedés kockázata, a hűtési környezet kérdése. Egyes régiók látens kockázatot jelenthetnek az energiahiány vagy az adatközpontba való behatolás miatt a jövőben magasabb költségek miatt.

• Például az alacsony tartalék-termelési árréssel rendelkező adatközpont-régió felemelkedhet vagy korlátozódhat. Ez hatással lehet a SLA-k költségeire és teljesítményére.

4.4 Fenntarthatósági és marketing szempontok

• Ha benchmarking eredményeket, cikkeket vagy modulokat tesz közzé (ahogy gyakran teszi), akkor az energia / hatékonyság dimenzióval (pl. "X GFLOPS / kWh ebben a régióban") kapcsolatos érdeklődést válthat ki a közönség számára - különösen a környezeti nyomás növekedésével.

• A közösség az IT szakemberek és teljesítmény rajongók, kiemelve energiaköltség feladatonként, hűtési hatékonyság, A villamosenergia-fogyasztás referenciaértékenként- és egy differenciátort ad hozzá.

Stratégiák a krízis kirobbantására

Itt van néhány használható stratégia mind a makró (ipari / közüzemi), mind a mikro- (vállalati / telepítési) szinten.

5, 1 Ipari / közüzemi szinten

• Követelmény-reagálási programok: A nagy adatközpontok részt vehetnek a grid- kereslet-válasz rendszerekben (a csúcsok alatti terhelés csökkentése) a hálózati stressz enyhítése érdekében. A Google LLC például olyan megállapodásokat írt alá az USA-ban, amelyek az AI- data-center energiafogyasztását a csúcshálózati kereslet idején csökkentik. Reuters

• Hálózati és átviteli beruházások: A kiépülés támogatásához a közüzemi szolgáltatóknak hozzá kell adniuk a termelési kapacitást, az átviteli vonalakat és alállomásokat - gyakran dekades- hosszú folyamatot. A késések növelik a szűk keresztmetszetek kockázatát. Deloitte

• Zöld energiaforrás + mikrohálózatok: Az adatközpontok megújuló energiaforrásokat, telephelyen történő termelést, akkumulátortárolást vagy mikrografizálást biztosíthatnak a megfeszített hálózatoktól való függés csökkentése érdekében.

• Átláthatóság és jelentéstétel: Az üzemeltetőknek jelentést kell tenniük a tényleges energiafelhasználásról, a hűtési mérőszámokról, a PUE-ról (energiafelhasználás hatékonysága) stb., hogy a szabályozó hatóságok és a közösségek felmérhessék a hatást. Sok elemző felhívja a figyelmet a nyilvánosságra hozatal hiányára. Pénzügyi idők

5. 2 A telepítés / vállalkozás szintjén

• A régió és energiaforrás gondos kiválasztása: Válasszon olyan adatközpontú régiókat, ahol jó a hálózati kapacitás, kedvező a teljesítményarány, erős a megújuló energiaforrások aránya és alacsony a megszorítások kockázata.

• A munkaterhelés ütemezésének optimalizálása: A nagy terhelések (viszonyítási alap futások, modellképzés) esetében az Off-top órákban vagy alacsonyabb energiaköltség esetén a menetrend. A költségek / idő tekintetében regionális különbségeket kell alkalmazni.

• Erőtudatos teljesítményértékelés és architektúra: Az intézkedés nem csak az időt számítja ki, hanem a felhasznált energiát (kWh) referenciaértékenként. Optimalizálja az energia / eredmény, nem csak a nyers sebesség.

• A hűtés és a hatékonyság javítása: Az on-prem vagy az éle telepítések, fontolja meg a nagy hatásfokú hűtés, liquid- hűtés, rack- density trade- off, szerver kiválasztása az energia-hatékonyság.

• Hibrid / élű alternatívák feltárása: Olyan forgatókönyvek esetében, ahol a felhőalapú adatközpontok korlátozásokkal vagy magasabb költségekkel szembesülhetnek, a helyi vagy szélszámítási módszer jobb kereskedelmi megoldást jelenthet.

Kockázatok és kilátások

6, 1 Mi van, ha a növekedés ellenőrzés nélkül folytatódik?

• A legfontosabb elemzők figyelmeztetnek a hálózati kapacitás hiányakülönösen az erőigényes régiókban. A Morgan Stanley becslése szerint 20% -os hiány az amerikai adatközpontokban 2028-ig kijózanító mutató. Yahoo Finance

• Ha a teljesítmény továbbra is korlátozott, a potenciális kockázatok közé tartoznak:

  • Magasabb működési költség (az energiaárak emelkedése)

• Az adatközpont telepítésének hosszabb ideje

• A számítási intenzív munkaterhelések gyakoribb korlátozása vagy korlátozása

• A madárinfluenza-infrastruktúra fokozatos kiépülése (a rózsás növekedési várakozásokkal ellentétben)

• Valószínűleg magasabb környezeti lábnyom, ha fosszilis tüzelőanyagokat használnak a hiányosságok pótlására

6.2 Pozitív kilátások / mozgatórugók a változáshoz

• Hatékonyságnövelés: A kalkuláló kereslet növekedésével a chip architektúra, a hűtés és a munkaterhelés javulása mérsékelheti az energia növekedését.

• Megújuló és atomenergia-hasznosítás: Néhány nagy technológiai vállalat már aláírta a nukleáris vagy nagyléptékű megújuló energiaforrásokkal való energiavásárlási megállapodásokat. Például egyes adatközpontokat a kereslet kielégítése érdekében új atomerőművekkel párosítanak. Le Monde

• Okosabb hálózati integráció: Az adatközpontok rugalmas terhelésekké válhatnak, a számítást olyan időpontokra kell átszámítani, amikor az energia olcsó, vagy a megújuló energiaforrások bőségesek (kereslet-válasz).

• Metrics és átláthatóság: Mivel az érdekeltek (kormányok, befektetők, közösségek) több kérdést tesznek fel, az adatközpontok valószínűleg több energia / hűtési mutatót fognak közzétenni, ami lehetővé teszi az intelligensebb tervezést és teljesítményértékelést.

Ajánlott intézkedések az Ön számára és közönsége

Tekintve az érdeklődését és munkáját benchmarking, virtualizáció, csomagolás, IT közösségi tartalom, itt vannak konkrét intézkedések lehet gondolni:

1. Energiaméret belefoglalása a teljesítményértékelési jelentésekbe

   • Ha a GPU / CPU referenciaértékeket futtatja, ne csak a "futási időt", hanem a "felhasznált energiát (kWh)", és számítsuk ki a "GFLOPS / kWh" vagy hasonló hatékonysági intézkedést.

   • Hasonlítsa össze a különböző felhőket / régiókat nemcsak a költségeken, hanem az energiahatékonyságon is.

2. A tartalom írása az oldalhoz / fórumhoz

   • Kézműves cikk vagy sorozat címe "A felhő energiaköltsége: amit minden informatikai profinak tudnia kell" - profil energia korlátok, regionális hálózati stressz, hűtési aggályok, költségkockázat.

3. Kínáljon egy útmutatót a "Kiválasztása felhő régió teljesítmény & teljesítmény", amely kiegészíti a többi teljesítmény - / virtualization- fókuszált tartalom.

4. Virtualizáció és hibrid használat esetei

   • Fedezze fel, hogyan onprem GPU / CPU offload (a GPU kiszámítja offloading GTX 770 + Quadro K420, stb) hasonlítja össze energia-wise versus using a hypersize cloud cluster in a restricted region.

   • Közzététel esettanulmányok vagy eszköztár (pl. Power Profiler, Plug- in a GPU klaszterenergia mérésére) a közösség számára.

5. Csomagolási és alkalmazási szempontok

   • Modulok / pluginok / alkalmazások (pl. Joomla modulok, GPU / AI teljesítményértékelési alkalmazások) tervezésekor fontolja meg az "öko-mode" opciók hozzáadását: pl. ütemezés a csúcsidő alatt, fojtószelep alacsonyabb teljesítményhez, log power-fogyasztás mérések.

6. A virtualizáció (VMware / VirtualBox stb.) érdekében a teljesítményfelvétel csökkentésére szolgáló legjobb dokumentumok, például a túlellátás elkerülése, az üresjárati terhelések konszolidálása, a hűtés / befogadás funkcióinak lehetővé tétele.

7. A felhőszolgáltatók átláthatóságának előmozdítása

   • Kövesse nyomon, hogy mely felhő- / adatközpont-szolgáltatók tesznek közzé mérőszámokat (PUE, energia-mix, vízhasználat), és emelje ki azokat tartalmában.

   • Ösztönözni a közösségi tagokat, hogy kérdezzék meg: "Mi a régió energiaforrása? Mekkora a tartalék hálózati kapacitás? Vannak-e energiakvóták / elhatárolási kockázatok?"

Következtetés

A felhő és a mesterséges intelligencia rejtett költsége nem csak az előfizetési díjakból fizetett dollár, hanem a masszív, gyorsan felgyorsuló áram- és infrastrukturális terhek Ez áll az összes "számítási ciklus" mögött. A Data- központok már nem az internet passzív hátsó szobái, hanem ipari méretű villamosenergia-fogyasztók amelynek növekedése jelentős következményekkel jár a közművekre, a hálózatokra, a háztartásokra, az iparra, a környezetre és az olyan teljesítményorientált informatikai szakemberekre, mint maga.

A válság (vagy talán kihívás) valós: a növekvő kereslet, a korlátozott kínálat, az idősödő hálózatok, a hűtési és környezeti terhek mind a szükséges felelősségteljesebb tervezés, region- tudatos telepítés, energiahatékony architektúra, és Átlátszó mérőszámok. Bárki számára, aki nehéz munkaterhelést épít - benchmarking GPU / CPU, virtualizáció, csomagolási modulok, felhő telepítések - ezt a dimenziót már nem lehet figyelmen kívül hagyni.