Data Center Powercrea ⇩ Прихована вартість комп' ютера і хмари

Вступ

Підвищення хмарного обчислювального та штучного інтелекту (АІ) викликало драматичну зміну інфраструктури, яка є основою цифрової економіки. Те, що часто залишається прихованим за спільним захопленням 'AI всюди, і хмара кувіті це величезний енергія і електрика тягар сучасних стандартів даних. У цій статті я розглядаю початкову кризу в даних, що полягає в тому, що це таке, чому воно відбувається, які його витрати (економічні, екологічні, соціальні), і що це означає для організацій (включаючи ті, що виконують важкі роботи, такі як GPU/CPU separing, віртуальна і високоефективна хмарна інфраструктура).

Масштаби проблеми

1. 1 Попит на електроенергію на глобальних масштабах

• Згідно з Міжнародним енергетичним агентством (ЄЯ), на сьогодні існує глобальне споживання електроенергії від центрів даних. 415 терават- годин (TWh) У 2024 році приблизно 1,5% глобального споживання електроенергії. IEA+2Department of Energy.gov+2

• Проекції показують, що це може бути майже double До 2030 року (до - 945 TW) в сценарії базової події } який буде представлятися лише нижче 3% глобального споживання електроенергії в той час. IEA+ 1

• Наприклад, у США центри даних згоріли через ~183 ТВХ у 2024 році (що становить 4% споживання електроенергії в США) і, за прогнозами, у більше ніж 2030 році (для ~426 тВ). Центр дослідження Pew+ 1

1. 2 Швидкий ріст навантаження на комп'ютер

• Ріст не лише з }/Но даних, але й з Прискорені робочі завдання Скупчення GPU/TPU, тренування у великих мовних моделях, обчислення на рівні. Для пришвидшених серверів (специфічних для AI) проектів IEA зростання - 30% на рік порівняно з ~9% для звичайних серверів. IEA

• Звіт від Goldman Sachs проектів Центр даних глобального попиту на енергію зростає до 165% за десятиліттям (порівняно з 2023) Керована хмарною інфраструктурою ШІ. Goldman Sachs

• У США Морган Стенлі попереджає про power shortfall До 20% для центра данных в 2028 году под прикрытием ШІ. Фінанси Yahoo

1,3 М'язи електромережі та інфраструктури

• З шипами попиту, напруження на передачу, генерацію, інерцію та місцеву систему. Наприклад, у багатьох штатах і програмах вже передбачено діапазони даних, які потребують оновлення для підстанцій і встановлення з' єднань з ґраткою. Інститут світових ресурсів+ 1

• У деяких регіонах дані вже споживають значні акції місцевої електрики, які мають пробний ефект для місцевих домогосподарств, індустрії та планування інфраструктури. Центр дослідження Pew

Чому це відбувається: водії

2. 1 Гіпершаровий комп' ютер і навантаження на хмари

• Перемикання на генеративний комп' ютер комп' ютер, велике тренування моделей, визначення масштабу (справжній час, 24 години) накладає на набагато більше щільність живлення ніж попередні покоління завдань сервера. Наприклад, багато ГПУ можуть малювати десятки кіловатів, а не кілька. ArXiv+ 1

• У зв'язку з економікою масштабування і потребою швидкодії, ці приміщення часто просувають обгорток охолодження, доставки сили, перерозподіл часу, і все це збільшує вартість та складність.

Масштабування і групування базуються на 2. 2

• Багато центрів даних скупчуються у регіонах з сприятливими умовами (наприклад, низькими витратами на електроенергію, холоднішим кліматом, податковими стимулами). Але таке групування створює Локалізований стрес навіть якщо глобальна картина виглядає прийнятною. Центр дослідження Pew

• інфраструктура, що підтримує ці великі ділянки } Е-підстанції, трансформатори високошвидкісної місткості, довгі лінії передач часто знаходяться позаду темпу збирання.

2. 3 Неефективність і охолодження над головою

• Без обчислювальних електроенергій, надходить значна частка струму даних охолодження, вентиляція, втрати живлення. Чим більше електроенергії обладнали приміщення, тим більше накладного. Центр дослідження Pew+ 1

• Деякі системи охолодження можуть поглинути до -30% (або більше) сукупною потужністю у менш ефективними об'єктах. Високоефективні гіпермасштаби зменшують це, але з ростом щільності, охолодження вимог. Центр дослідження Pew

2,4 з можливістю поновлення інтеграції та нерівних викликів

• Багато операторів мають на меті використовувати відновлювальну енергію (вітро/сулярну) або навіть ядерну для живлення своїх центрів даних. Проте, відновлювані - це інтервалиІ вимоги в реальному часі часто вимагають стабільної, високоякісної сили. Утиліта повідомляє про довгі періоди подачі для додавання потужностей або ліній передачі, складні дозволи і труднощі у вирівнюванні відновлювальних ресурсів з навантаженням. Бізнес- інерт

• Отже, на практиці багато об'єктів все ще залежать від резервної копії скам'янілих решток або сили решітки з традиційних джерел, які піднімають викиди та ускладнюють можливість відтворення.

Приховані вартості ведьми на сервері

3. 1 Економічна/ ґраткова вартість зовнішніх можливостей

• Коли дані-центри вимагають великі частини поверхні поверхні, витрати на оновлення засобів (покоління, передача, підстанції) часто передаються до інші клієнти }Вісі та менші підприємства. Наприклад, сім'ї в деяких штатах США бачать вищі рахунки, оскільки комунальні послуги мусять підвищувати рівень, щоб покрити зміни інфраструктури. Центр дослідження Pew+ 1

• У регіонах, де є щільна пропускна здатність, період очікування для міжконтрольного зв'язку з даними може тягнутися роками, і бізнес починає працювати або змушує переміститися. MLQ

3.2 довкілля і вплив на вуглець

• Електроенергія і досі значною мірою залежить від викопного палива в багатьох регіонах. Якщо вживання подвійних і відновлювальних засобів відповідно, то викиди збільшуються. Деякі з інформаційних центрів ризикують блокуванням у придатній для скам'янілих інфраструктурах протягом багатьох років. Фінансові часи+ 1

• Охолодження та енергетична інфраструктура використовують воду (особливо евапоративне охолодження), що означає, що дані-точки у областях з водою-напружені області створюють другорядний тиск навколишнього середовища. Вікіпедія

3. 3 Конкуренція з фінансування та інфраструктури

• Земля, влада, вода і охолодження ресурсів, що використовуються гігантськими центрами даних, могли б слугувати виробництвам, місцевим громадам або меншим бізнесом. Це викликає запитання Регіональний капітал, Особливо, якщо місцеві вигоди (роботи, податкові надходження) обмежені відносно споживання ресурсів.

• Для підприємств, які покладаються на енерго-інтуктивні робочі потоки (наприклад, засноване на GPU, система високої комп' ютерної комп' ютерної системи віртуальної системи), підвищення конкуренції за електроенергією та охолодження може призвести до:

  • Вища вартість обчислення вузла/ хмари

  • Довша кількість свинцю для потужностей

  • Найнижчий доступ до інфраструктури низького рівня

Поліпшення та підвищений ризик

• Перенавантаження або майже-коштовна мережа ризикує зменшити спад, менш стійкості до невдач або екстремальної погоди, і вищий шанс на коричневі чи зменшену ремундацію. Обидва для самих даних і для оточення інфраструктури (домів, лікарень тощо). Інструменти вже попереджають про це. Бізнес- інерт+ 1

Що це означає для важкої роботи: Бенхмарка, віртуальна і хмарна архітектура

Враховуючи ваше фокусування на лавках GPU/CPU, віртуальній, упаковці і гібридних/хмарних втіхах, вимір енерго-інфраструктури все більше і більше актуальний. Тут йде як:

4. 1 оболонка бенхмарка повинна включати витрати на інфраструктуру.

• Якщо ви розробляєте комплекти з поділками на таблиці або стеки віртуальної орієнтації (наприклад, GPU off-, багато- node- скупчення, віртуальну версію з VMware/VirtualBox, трубопроводи AICT), розгляньте не лише необчислювальні виміри (GFLOPS, пропускна здатність), а також енергетична вартість, охолодження над головою та енергоефективність на кожну роботу.

• Витрати на використання хмар (наприклад, на Microsoft Azure / AWS / GCP) дедалі більше впливають на основні обмеження інфраструктури (силу та охолодження), які можуть впливати на ціноутворення, доступність і швидкодію.

4. 2 Віртуалізація та гібридні обчислення

• Якщо ви розробляєте гібридні або на-prem + моделі хмар (наприклад, ваші Windows VMs, GPU/CPU off- load з локальних коробок до хмар), ви хочете оцінити граничні витрати і енерго- стоповий друк С тех стрибков по базе данных. Деякі робочі місця можуть бути ефективнішими локальними (це залежить від вартості охолодження/ енергопостачання), ніж на хмарі, якщо їх розмістити в області з обмеженою потужністю.

• Орієнтація віртуальної системи повинна стежити за квоти живлення, особливо у середовищах багатогранної/ гипер. Розклад робіт на робочому місці може потребувати визначення часових/локації, якщо частота енергоресурсів/ швидкодії є сприятливими.

4. 3 Географічні та енергоресурси мають значення

• Під час вибору діапазонів хмар або центрів даних для розгортання, змішування джерела енергіїЕлектроенергія, ризик ескалації, охолодження. Деякі регіони можуть мати запізнілий ризик скорочення сили або вищі майбутні витрати через проникнення з даними.

• Наприклад, регіон даних з низьким рівнем запасів на полях може бути впровадженим або обмеженою швидкістю. Це може вплинути на SLAS, вартість і виконання ваших важких робіт.

4. 4 Сталий і маркетинг

• Якщо ви публікуєте результати з шикування, статті або модулі (так як ви часто робите), то додавання енергії/ефективності об'єму (напр., g., g) ГКПС на кВГ у цьому регіоні) може стати загальним інтересом для ваших слухачів, особливо тоді, коли тиск оточення зростає.

• Для вашої спільноти спеціалістів та ентузіастів швидкодії, підсвічування енергія- вартість за завдання, охолоджувальна ефективність, server- power drawing for passwordmarkДодайте інакшого.

Стратегія зменшити кризу

Ось декілька стратегій, які можуть діяти, як на макро (інтригованому/утилізованому) рівні, так і на рівні мікросхеми (встановлення/розробка).

5. 1 На рівні промисловості та регулювання

• Програми заміни попиту: Великі центри даних можуть брати участь у схемах ґратки- відсіків (обмеження навантаження під час вершин) для зменшення навантаження на мережу. Наприклад, Google LLC підписував угоди в США, щоб зменшити використання комп'ютерної даної електроенергії під час найвищого попиту на мережу. Reuters

• Інвестиції ґратки і трансляції: Для підтримки збирання програм потрібно додати потужність створення, лінії передач і підстанцій часто десятки років процесу. Затримка тут збільшує ризик вузьких місць. ДелуетCity in New York USA

• Агресивне живлення + мікробридиди: Data-centres може отримувати відновлювані відновлювальні пристрої, будувати на генераціях акумуляторів, накопичення батарей або мікробриди, щоб зменшити довіру до пошкодженої мережі.

• Прозорість і звіт: Оператори повинні повідомити про реальне використання енергії, охолодження показників, PUE (ефективність використання енергії) тощо, щоб дозволити регуляторам і спільнотам оцінити вплив. Багато аналітиків викрикують брак розкриття. Фінансові часи

5. 2 На рівні впровадження/ введення

• Уважно виберіть джерело & енергії регіону: Оберіть діапазони даних з хорошою потужністю ґратки, сприятливою частотою живлення, потужною відновлювальною сумішшю і низьким ризиком обмеження.

• Оптимізувати розклад роботи: Для важкої праці (бікмарка працює, модель тренування), розклад протягом вихідних годин, або коли вартість електроенергії нижча. Використовувати локальні відмінності у витратах/ часі.

• Втулок для роботи з комп' ютером: Виміряти не лише час, але й енергію, яка споживається (кВт) для позначки поля. Оптимізувати для використання енергії на результат, не тільки для швидкості сирої.

• Покращення & ефективності: Для визначення на рівні або на межі, подумайте про охолодження високоефективності, охолодження рідкої рідини, торгівлю з нерівністю, вибір сервера для енергоефективності.

• Альтернативи використання гібридів: У випадках, коли центри даних хмар можуть зіткнутися з обмеженнями або вищими витратами, обчислення локальних або меж може бути кращим компромісом.

Ризики й світогляд

6. 1 А що, коли ріст продовжується безконтрольно?

• Про це попереджають аналітики Брак можливості ґраткиОсобливо в енергетичних регіонах. Морган Стенлі підрахував 20% дефіциту в американській інформаційній силі до 2028 року - це протверезний показник. Фінанси Yahoo

• Якщо влада залишається обмеженою, до потенційних ризиків належать:

  • Вищі поточні витрати (ціна енергії зростає)

• Довші ключові години для показу даних

• Частіші обмеження або обмеження обчислювальних робіт

• Повільніший вихід від інфраструктури комп' ютерного інтелекту (всупереч очікуванням рожевого росту)

• Можливо, для наповнення прогалин нагромадженням паливного палива, що є більшим від екологічного рівня.

6. 2 Позитивні перспективи та важелі для змін

• Видобутки ефективності: Навіть коли зростає попит на обчислювальну систему, поліпшення в архітектурі чіпів, охолодження та планування роботи може посилюватися.

• Поновлювані та ядерні електроенергії: деякі великі технологічні компанії вже підписують угоди про переобладнання енергії з ядерними або великими відновлюваними відновлюваними ресурсами, щоб підтримувати темп. Наприклад, деякі джерела даних поєднуються з відновленими ядерними заводами, щоб задовольнити попит. Le Monde

• Інтеграція смарт- ґратки: Відсотки даних можуть стати гнучкими завантаженнями, зміщуючи обчислення до часу, коли живлення є дешевим або відновлювальним (відновлення).

• Метриця і прозорість: Як заповнювачі (уряди, інвестори, спільноти) задають більше питань, центри даних, ймовірно, опублікують більше енергії та охолодження вимірів, що дають можливість розумніші плани та розмітка.

Рекомендовані дії для вашої аудієнції

Враховуючи вашу зацікавленість і роботу у позначці місця, віртуальній системі, пакування, IT спільноті, ось декілька дій, які ви можете розглянути:

1. Включити енергетичні виміри до ваших звітів з поділками

   • Коли ви запускаєте GPU/CPU лавки marks, захоплюєте не лише 'runtime, але й енергетику, що споживає (kWh) і }GFLOPS на kWh або подібні вимірювання ефективності.

   • Порівняти різні хмари/ регуляції не лише за ціною, але й за енергоефективністю.

2. Записати вміст вашого сайту/ forum

   • Енергія хмарного обчислює статтю або серію статей: те, що має знати кожна ІТ - профілактика, регіональний стрес, охолодження витрат, ризик витрат.

3. Пропонуємо напрям для хмарної області за допомогою сили і продуктивності, яка доповнює інші результати -/віртуалізація-фокусований контент.

4. Віртуальність і гібридні випадки використання

   • Розв' язування способу вимкнення навантаження на GPU/CPU (ваше GPU обчислює вимкнене завантаження за допомогою GTX 770 + cursmo K420 тощо) порівнює енергетичні одиниці і використання скупчення хмар гіпермасштабних масштабів у обмеженому діапазоні.

   • Оприлюднити інформацію про регістри або інструменти (наприклад, Power Profiler, Додаток для вимірювання енергії скупчення GPU) для вашої спільноти.

5. Пакування і впровадження

   • Під час розробки модулів/ plugins/apps (наприклад, модулів Cuumla, модулів GPU/AI grepingapplications), скористайтеся додаванням параметрів }eco- cod: e. g., розклад завдань під час вихідних- peak годин, trottle для низької потужності, логарифмічних вимірів енергії.

6. Для віртуальної (VMware/VirtualBox тощо), документ, який найкраще працює, щоб зменшити потужність, наприклад, уникнути перевищення, об'єднання безробітних робіт, вмикання можливостей охолодження/ вузла.

7. З'єднайтеся з провайдерами хмарності} Прозорість

   • Слідкуйте за тим, які дані постачальники даних оприлюднюють метричні дані (PUE, енергетичні суміші, використання води) і підсвічують їх у вашому змісті.

   • Заохочуй членів суспільства запитати: ♫ Що є джерелом енергії цього регіону? Яка запасна потужність сітки? Чи є якісь обмеження на електроенергію? ⇩

Висновки

Прихована вартість хмари і ІІ є тільки долари, які виплачуються в підписці величезний, швидко прискорений об'єм енергії та інфраструктури що лежить за всіма цими циклами. Відсотки даних більше не пасивні задні кімнати Інтернету; вони Клієнти промислового розміру Который распространяет глубоко распространяемые вещества, сети, семьи, индустрии, окружение, и для выступления визитов, как и вы.

Криза (або, можливо, виклик) є реальністю: зростання попиту, обмежена пропозиція, похила мережа, охолодження та тягар довкілля все вказує на потребу більше відповідального планування, Опрацювання регіону, архітектура енергоефективної системи, і прозорі метри. Для кожного, хто будує важку роботу, накладають на себе тягарі, ігнорується GPU/CPU, віртуальна, упаковка модуля, хмарний простір, цей аспект більше не можна ігнорувати.