Data Center Power Crisis - Ukryty koszt AI & Cloud

Wprowadzenie

Wzrost chmury obliczeniowej i sztucznej inteligencji (AI) spowodował dramatyczne zmiany w infrastrukturze leżącej u podstaw gospodarki cyfrowej. Co często pozostaje ukryte za wspólnym podnieceniem "AI wszędzie" i "cloud uniquity" jest ogromny energia oraz infrastruktura energetyczna obciążenie, które obecnie nakładają nowoczesne centra danych. W tym artykule analizuję pojawiający się "kryzys energetyczny" w centrach danych - co to jest, dlaczego się dzieje, jakie są jego koszty (ekonomiczne, środowiskowe, społeczne) oraz co oznacza dla organizacji (w tym tych, którzy prowadzą ciężkie roboty, takie jak benchmarking GPU / CPU, wirtualizacja i infrastruktura chmur o wysokiej wydajności).

Skala problemu

1, 1 Zużycie energii elektrycznej w skali globalnej

• Według Międzynarodowej Agencji Energetycznej (IEA) światowe zużycie energii elektrycznej z centrów danych jest obecnie około 415 terawat- godzin (TWh) - około 1,5% światowego zużycia energii elektrycznej w 2024 r. MAE+ 2Dział Energetyki Energety.gov+ 2

• Prognozy wskazują, że to może być prawie podwójne do 2030 r. (do ~ 945 TWh) w scenariuszu bazowym IEA - który stanowiłby niewiele poniżej 3% światowego zużycia energii elektrycznej w tamtym czasie. MAE+ 1

• Na przykład w Stanach Zjednoczonych centra danych spłonęły przez ~ 183 TWh w 2024 roku, co przewiduje się ponad dwukrotnie do 2030 roku (do ~ 426 TWh). Pew Research Center+ 1

1, 2 Szybki wzrost obciążeń związanych z ptasią grypą

• Wzrost jest nie tylko z "więcej centrów danych", ale z przyspieszone obciążenia robocze - GPU / TPU klastry, duże szkolenia dla modeli językowych, inference- at- scale. Dla serwerów akceleracyjnych (specyficznych dla AI-) IEA projektuje wzrost o ~ 30% rocznie w porównaniu z ~ 9% dla serwerów konwencjonalnych. MAE

• Raport Goldman Sachs projekts data center globalny popyt na energię rośnie do 165% do końca dekady (w porównaniu z 2023 r.) silnie napędzany infrastrukturą AI & cloud. Goldman Sachs

• W USA, Morgan Stanley ostrzega przed niedobór mocy w wysokości do 20% dla centrów danych do 2028 r., napędzanych przez tę sztuczną inteligencję. Yahoo Finance

1.3 Skutki dla sieci energetycznych i infrastruktury

• Wraz ze wzrostem popytu wzrasta obciążenie przesyłu, wytwarzania, bezwładności sieci i lokalnych usług użyteczności publicznej. Na przykład, wiele państw i mediów już widzi klastry centrum danych wymagające aktualizacji do podstacji i wzajemnych połączeń sieci. Światowy Instytut Zasobów+ 1

• W niektórych regionach centra danych zużywają już znaczne udziały w lokalnych dostawach energii elektrycznej, co ma wpływ na lokalne gospodarstwa domowe, przemysł i planowanie infrastruktury. Pew Research Center

Dlaczego to się dzieje: Kierowcy

2.1 Hiperskala AI i obciążenia pracą w chmurze

• Przesunięcie do generatywnej SI, duże szkolenie modelu, wnioskowanie w skali (real- time, 24 / 7) nakłada znacznie wyższe gęstość mocy niż wcześniejsze pokolenia serwerów. Na przykład stojak na serwery hiperskalowe, w którym znajduje się wiele GPU, może raczej rysować dziesiątki kilowatów niż kilka. arXiv+ 1

• Ze względu na korzyści skali i potrzebę osiągania wyników, zakłady te często wykorzystują możliwości chłodzenia, dostarczania energii, zwalniania, przestoju - wszystko to zwiększa koszty i złożoność.

2.2 skalowanie i grupowanie oparte na lokalizacji

• Wiele centrów danych gromadzi się w regionach o korzystnych warunkach (np. niskie koszty energii, chłodny klimat, zachęty podatkowe). Ale takie grupowanie tworzy naprężenie miejscowe w sieci - nawet jeśli obraz globalny może wyglądać na możliwy do zarządzania. Pew Research Center

• Infrastruktura wspierająca te duże obiekty - podstacje mocy, transformatory o dużej przepustowości, długie linie przesyłowe - często pozostaje w tyle za build- out tempo.

2.3 Nieefektywność energetyczna i koszty ogólne chłodzenia

• Poza obliczeniem poboru energii, znaczna część energii elektrycznej w centrum danych przechodzi do chłodzenie, wentylacja, straty w dystrybucji mocy. Im większa gęstość obiektu, tym większe dodatkowe koszty. Pew Research Center+ 1

• Niektóre systemy chłodzenia mogą zużywać do ~ 30% (lub więcej) całkowitej mocy centrum danych w mniej wydajnych obiektach. Wysokowydajne urządzenia hiper scale zmniejszają to, ale wraz ze wzrostem gęstości, zapotrzebowanie na chłodzenie wzrasta. Pew Research Center

2.4 Integracja odnawialnych źródeł energii i wyzwania o charakterze przerywanym

• Wielu operatorów ma na celu wykorzystanie energii odnawialnej (wiatrowej / słonecznej) lub nawet jądrowej do zasilania swoich centrów danych. Jednak odnawialne źródła energii przerywane, a w czasie rzeczywistym wymagania obliczenia AI często wymagają stabilnej, wysokiej jakości mocy. Narzędzia raportują długie okresy wiodące w celu dodania przepustowości lub linii przesyłowych, skomplikowanych pozwoleń i trudności w dostosowaniu odnawialnych źródeł energii do obciążenia. Business Insider

• Dlatego też w praktyce wiele obiektów nadal opiera się na zapasach paliw kopalnych lub zasilaniu sieci ze źródeł tradycyjnych - co podnosi emisje i komplikuje narracje dotyczące zrównoważonego rozwoju.

Ukryte koszty - Poza ustawą o serwerze

3.1 Efekty zewnętrzne kosztów gospodarczych / sieci

• Kiedy centra danych wymagają dużej części zdolności przepustowej sieci, koszt aktualizacji użyteczności (wytwarzanie, transmisja, podstacje) często przenosi się na inni klienci - gospodarstwa domowe i mniejsze przedsiębiorstwa. Na przykład gospodarstwa domowe w niektórych stanach amerykańskich widzą wyższe rachunki, ponieważ media muszą podnieść stawki, aby pokryć zmiany w infrastrukturze. Pew Research Center+ 1

• W regionach, w których przepustowość sieci jest napięta, czas oczekiwania na połączenia między centrami danych może wydłużyć lata - opóźniając rozpoczęcie działalności gospodarczej lub zmuszając do relokacji. MLQ

3.2 Skutki dla środowiska i śladu węglowego

• Centra danych zasilające energię elektryczną nadal w dużej mierze pochodzą z paliw kopalnych w wielu regionach. Jeśli wykorzystanie dwóch źródeł energii i odnawialnych nie wzrośnie odpowiednio, emisje wzrosną. Niektóre rozszerzenie centrum danych grozi blokadą infrastruktury zależnej od paliw kopalnych przez lata. Czasy finansowe+ 1

• Chłodzenie i infrastruktura energetyczna wykorzystują wodę (szczególnie chłodzenie oparów) - co oznacza, że centra danych w regionach zestresowanych wodą tworzą wtórne obciążenia środowiskowe. Wikipedia

3, 3 Konkurs kosztów i infrastruktury

• Zasoby gruntów, energii, wody i chłodzenia wykorzystywane przez olbrzymie centra danych mogłyby w przeciwnym razie służyć produkcji, społecznościom lokalnym lub mniejszym przedsiębiorstwom. To rodzi pytania na temat kapitał regionalnyzwłaszcza jeśli lokalne korzyści (miejsca pracy, dochody z podatków) są ograniczone w stosunku do zużycia zasobów.

• W przypadku przedsiębiorstw, które opierają się na wpływowych przepływach pracy (np. benchmarkingu opartego na GPU-, wirtualizacji o wysokiej przepustowości), rosnąca konkurencja o energię i chłodzenie może skutkować:

  • Wyższy koszt hostingu / obliczenia chmury

  • Dłuższe okresy realizacji dla przepustowości

  • Potencjalnie niższy dostęp do infrastruktury energetycznej / o niskim opóźnieniu

3.4 Ryzyko wiarygodności i niezawodności

• Siatki o dużym obciążeniu lub bliskim obciążeniu mogą być mniej luźne, mniej odporne na awarie lub ekstremalne warunki pogodowe, a także większe szanse na przepłukanie lub zmniejszenie redundancji. Zarówno dla samych centrów danych oraz dla otaczającej infrastruktury (domy, szpitale itp.). Narzędzia ostrzegają już o tych punktach stresowych. Business Insider+ 1

Co oznacza dla ciężkich prac: benchmarking, Virtualization & Cloud Architecture

Biorąc pod uwagę Państwa skupienie się na analizie porównawczej GPU / CPU, wirtualizacji, pakowania i rozmieszczeniu hybrydowym / w chmurze, wymiar mocy i infrastruktury jest coraz bardziej istotny. Oto jak:

4.1 Ramy odniesienia muszą uwzględniać koszty infrastruktury

• Projektując zestawy porównawcze lub stosy wirtualizacji (np., GPU off- load, klastry wielowęzłowe, wirtualizacja z VMware / VirtualBox, rurociągi AI), należy wziąć pod uwagę nie tylko surowe wskaźniki obliczeniowe (GFLOPS, szerokość pasma), ale także koszt energii, koszty chłodzenia i efektywność energetyczna na jedno miejsce pracy.

• W przypadku rozmieszczania chmur (np. w przypadku Microsoft Azure / AWS / GCP) koszty są w coraz większym stopniu ponoszone przez podstawowe ograniczenia infrastrukturalne (energia i chłodzenie), które mogą mieć wpływ na ceny, dostępność i wydajność.

4.2 Wirtualizacja i implikacje w zakresie obliczeń hybrydowych

• Jeśli używasz modeli hybrydowych lub on- prem + cloud (np. Windows VM, GPU / CPU off- load z lokalnych pól do chmury), będziesz chciał ocenić koszt krańcowy oraz ślad energetyczny Chmielu z centrum danych. Niektóre ładunki robocze mogą być bardziej wydajne lokalnie (w zależności od kosztów chłodzenia / energii) niż w przypadku chmury, jeżeli są one prowadzone w regionie o ograniczonej mocy.

• Orchestracja wirtualizacji musi monitorować kwoty mocy, szczególnie w środowiskach wielolokatorskich / hiperskalowych. Harmonogram obciążenia pracą może wymagać wybrania czasu / lokalizacji, gdy ceny energii / dostępność są korzystne.

4.3 Wybór geograficzny i energetyczny ma znaczenie

• Wybierając regiony w chmurze lub centrum danych do rozmieszczenia, mieszanka źródeł energii, przepustowość sieci, ryzyko eskalacji kosztów energii, znaczenie chłodzenia środowiska. Niektóre regiony mogą mieć utajone ryzyko niedoboru energii lub wyższych przyszłych kosztów z powodu penetracji centrum danych.

• Na przykład region centrum danych o niskim marginesie zapasowego wytwarzania może stawić czoła podwyżkom lub ograniczeniom. Może to mieć wpływ na SLA, koszt i wydajność ciężkich prac.

4.4 Kąt zrównoważonego rozwoju i marketingu

• Jeśli publikujesz wyniki benchmarkingu, artykuły lub moduły (jak często), to dodanie wymiaru energii / efektywności (np. "X GFLOPS na kWh w tym regionie") może stać się dla Twojej widowni wielkim zainteresowaniem - zwłaszcza w miarę wzrostu ciśnienia w środowisku.

• Dla społeczności specjalistów IT i entuzjastów wydajności, podkreślając energia - koszt na zadanie, efektywność chłodzenia, Przyciąganie energii ze źródeł odnawialnych na wskaźnik referencyjny, dodaje rozróżnienie.

Strategie łagodzenia kryzysu

Oto niektóre strategie działania zarówno na poziomie makro (przemysł / użyteczność), jak i na poziomie mikro (przedsiębiorstwa / rozmieszczenie).

5. 1 Na poziomie przemysłu / użyteczności

• Programy reagowania na zapotrzebowanie: Duże centra danych mogą uczestniczyć w systemach reagowania na zapotrzebowanie na sieci (zmniejszając obciążenie podczas szczytów) w celu zmniejszenia naprężeń sieci. Na przykład Google LLC podpisało umowy w Stanach Zjednoczonych, aby zmniejszyć zużycie energii w centrum AI- data- podczas szczytowego zapotrzebowania na sieć. Reuters

• Inwestycje w sieci i sieci przesyłowe: W celu wsparcia budowania-out, narzędzia muszą dodać moc wytwórczą, linie przesyłowe i podstacje - często proces dziesięcioletni. Opóźnienia zwiększają ryzyko wystąpienia wąskich gardeł. Deloitte

• Zielone źródła energii + mikrosieci: Centra danych mogą pozyskiwać odnawialne źródła energii, budować wytwarzanie na miejscu, magazynowanie baterii lub mikrosieci w celu zmniejszenia zależności od napiętych sieci.

• Przejrzystość i sprawozdawczość: Operatorzy muszą zgłaszać rzeczywiste zużycie energii, wskaźniki chłodzenia, PUE (efektywność zużycia energii) itp., aby umożliwić organom regulacyjnym i społecznościom ocenę wpływu. Wielu analityków przywołuje brak ujawnienia. Czasy finansowe

5. 2 Na poziomie rozmieszczania / przedsiębiorstwa

• Należy starannie wybrać region i źródło energii: Wybrać regiony w centrum danych o dobrej przepustowości sieci, korzystnych wskaźnikach mocy, silnej kombinacji odnawialnych źródeł energii i niskim ryzyku ograniczeń.

• Optymalizacja harmonogramu obciążenia pracą: W przypadku dużych obciążeń roboczych (biegi wzorcowe, szkolenie modelowe), harmonogram w godzinach poza szczytem lub gdy koszty energii są niższe. Wykorzystanie regionalnych różnic kosztów / czasu.

• Power- aware benchmarking & architecture design: Zmierzyć nie tylko czas obliczenia, ale również zużytą energię (kWh) na wskaźnik referencyjny. Optymalizacja dla energii na wynik, nie tylko dla prędkości pierwotnej.

• Poprawa chłodzenia i wydajności: Dla instalacji on- prem lub krawędzi, rozważyć wysokiej wydajności chłodzenie, chłodzenie płynne, rack- gęstość handlu, wybór serwera dla efektywności energetycznej.

• Poznaj alternatywy hybrydowe / krawędziowe: W scenariuszach, w których centra danych w chmurze mogą napotkać ograniczenia lub wyższe koszty, lokalna lub krańcowa kalkulacja może być lepszym rozwiązaniem.

Ryzyko i perspektywy

6. 1 Co jeśli wzrost będzie kontynuowany bez kontroli?

• Kluczowe analitycy ostrzegają przed niedobory zdolności przesyłowej sieci, zwłaszcza w regionach o dużej mocy. Morgan Stanley szacuje, że 20% niedobór energii w centrum danych USA do 2028 roku jest wskaźnikiem trzeźwości. Yahoo Finance

• Jeżeli moc pozostaje ograniczona, potencjalne zagrożenia obejmują:

  • Wyższy koszt operacyjny (wzrost cen energii)

• Dłuższe okresy wdrażania centrów danych

• Częstsze ograniczenia lub ograniczenia w stosunku do pracy pracochłonnej

• Wolniejsze uruchomienie infrastruktury w zakresie ptasiej grypy (wbrew oczekiwaniom wzrostu)

• Ewentualnie wyższy ślad środowiskowy, jeżeli paliwa kopalne są wykorzystywane do wypełnienia luk

6.2 Pozytywne perspektywy / dźwignie zmian

• Wzrost wydajności: Nawet w miarę wzrostu popytu, poprawa w architekturze chipów, chłodzenie i harmonogram obciążenia pracą może umiarkować wzrost mocy.

• Energia odnawialna i energia jądrowa: Niektóre duże firmy technologiczne podpisują już umowy zakupu energii elektrycznej z odnawialnych źródeł energii o dużej skali, aby nadążyć. Na przykład niektóre centra danych są połączone z odnowionymi elektrowniami jądrowymi w celu zaspokojenia popytu. Le Monde

• Inteligentniejsza integracja siatki: Centra danych mogą stać się elastycznymi ładunkami, przechodząc do czasów, gdy energia jest tania lub odnawialne są obfite (popyt).

• Wskaźniki i przejrzystość: Ponieważ zainteresowane strony (rządy, inwestorzy, społeczności) zadają więcej pytań, centra danych prawdopodobnie opublikują więcej wskaźników energii / chłodzenia, co umożliwi lepsze planowanie i analizę porównawczą.

Zalecane działania dla Ciebie i Twojej publiczności

Biorąc pod uwagę Twoje zainteresowanie i pracę w benchmarkingu, wirtualizacji, pakowania, treści społeczności IT, Oto konkretne działania można rozważyć:

1. Dołącz do swoich raportów porównawczych

   • Podczas uruchamiania wskaźników GPU / CPU, uchwycić nie tylko "runtime", ale "energia zużyta (kWh)" i obliczyć "GFLOPS za kWh" lub podobny pomiar wydajności.

   • Porównaj różne chmury / regiony nie tylko pod względem kosztów, ale także pod względem efektywności energetycznej.

2. Napisz zawartość witryny / forum

   • Zrób artykuł lub serię zatytułowaną "Koszt energii z chmury obliczeniowej: co każdy profesjonalista IT powinien wiedzieć" - ograniczenia mocy profilu, obciążenie sieci regionalnej, obawy o chłodzenie, ryzyko kosztów.

3. Zaoferuj poradnik dla "Wybór regionu chmur przez moc i wydajność", który uzupełnia inne performance- / wirtualizacja- zorientowane treści.

4. Wirtualizacja i przypadki hybrydowego wykorzystania

   • Poznaj sposób, w jaki on-prem GPU / CPU off- load (Twój GPU oblicza off-loading z GTX 770 + Quadro K420, itp.) porównuje energetycznie w porównaniu z wykorzystaniem klastra chmur hiperskali w ograniczonym regionie.

   • Publikować badania przypadków lub oprzyrządowanie (np., Power Profiler, Plug- in do pomiaru GPU klaster energii) dla społeczności.

5. Uwagi dotyczące pakowania i rozmieszczenia

   • Projektując moduły / wtyczki / aplikacje (np. moduły Joomla, aplikacje benchmarking GPU / AI), należy rozważyć dodanie opcji "eco-mode": np. planowanie zadań w godzinach poza szczytem, przepustnica dla niższego poboru mocy, wskaźniki zużycia energii logowania.

6. W celu wirtualizacji (VMware / VirtualBox itp.), najlepsze praktyki dokumentowania w celu ograniczenia poboru mocy, np. unikanie nadmiernej rezerwy, konsolidacja obciążeń biernych, umożliwiają chłodzenie / funkcje zasilania hosta.

7. Zaangażowanie w przejrzystość dostawców usług w chmurze

   • Śledź, które dostawcy usług w chmurze / centrum danych publikują wskaźniki (PUE, koszyk energetyczny, zużycie wody) i podkreślaj je w swojej treści.

   • Zachęcić członków społeczności do pytania: "Jakie jest źródło energii w tym regionie? Jaka jest wolna przepustowość sieci? Czy istnieją kwoty mocy / ryzyko odcięcia?"

Wniosek

Ukryte koszty chmury i AI to nie tylko dolary zapłacone w opłatach abonamentowych - to jest masywne, szybko przyspieszające obciążenie energią i infrastrukturą To leży za tymi wszystkimi cyklami obliczeniowymi. Centra danych nie są już biernymi salonami w Internecie; są odbiorcy energii w skali przemysłowej którego wzrost niesie za sobą daleko idące konsekwencje dla przedsiębiorstw użyteczności publicznej, sieci, gospodarstw domowych, przemysłu, środowiska - oraz dla specjalistów IT zorientowanych na wyniki, takich jak ty.

Kryzys (lub być może wyzwanie) jest realny: rosnący popyt, ograniczona podaż, starzenie się sieci, chłodzenie i obciążenia środowiskowe wskazują na potrzebę bardziej odpowiedzialne planowanie, rozmieszczenie wiedzy regionalnej, architektura efektywna energetycznieoraz przezroczyste pomiary. Dla każdego, kto buduje ciężkie ładunki robocze - analiza porównawcza GPU / CPU, wirtualizacja, moduły opakowań, rozmieszczenie chmur - wymiar ten nie może być dłużej ignorowany.