Tekućinom hlađeni AI poslužitelji suočavaju se s uskim grlima

 

 

 

S povećanjem isporuka Blackwell čipova, volja kupaca za prihvaćanjem tekućeg hlađenja također će rasti.

Insajderi iz industrije izvješćuju da ponuda univerzalnih uređaja za brzo odvajanje (UQD) za rješenja tekućeg hlađenja postaje tijesna, što bi moglo postati glavno usko grlo za rast tekućeg hlađenja poslužitelja AI.

 

Proizvođači ODM-a poslužitelja pokazuju da će se Nvidijini Blackwell AI čipovi, uključujući B100 i B200, početi isporučivati ​​ove godine, dok GB200 rješenje neće ući u masovnu proizvodnju do kraja 2024. ili 2025. Većina kupaca B100 i B200 još uvijek koristi dizajne hlađenja zrakom , ali proizvođači ODM-a izvješćuju o kontinuiranom porastu prodora tekućinskog hlađenja, predviđajući da će spremnost kupaca za usvajanje tekućeg hlađenja također rasti s povećanjem isporuka Blackwell čipova.

 

▲ AI poslužitelji hlađeni tekućinom

 

 

I Proširenje kapaciteta kako bi se zadovoljila rastuća potražnja za tekućinskim hlađenjem

 

Relevantne tvrtke proširuju proizvodnju kako bi dočekale novu eru tekućeg hlađenja. Proizvođač toplinskih modula Amlogic planira povećati svoj mjesečni proizvodni kapacitet vodeno rashladnih ploča s 30,000 na 300,000 jedinica.

 

Auras je osnovao novu tvornicu u Tajlandu kako bi odgovorio na geopolitičke brige i zahtjeve kupaca. Očekuje se da će ova tvornica započeti masovnu proizvodnju u trećem kvartalu. Osim proširenja lokalnih proizvodnih kapaciteta za rashladne ploče, Auras također planira proizvoditi jedinice za distribuciju hlađenja (CDU) i razvodnike za distribuciju rashladne tekućine (CDM) na lokalnoj razini, s planiranim mjesečnim kapacitetom od približno 2,000-3,{{2 }} postavlja.

 

Proizvođač toplinskih modula AVC izjavio je u svom nedavnom pozivu za zaradu da je njegov mjesečni proizvodni kapacitet rashladnih ploča u Kini i Vijetnamu oko 115,000 jedinica, što znači mjesečnu proizvodnju od oko 420,000 jedinica kada izračunato rashladnim pločama.

 

AVC planira proširiti svoje kapacitete za 50% do kraja godine. AVC također planira povećati svoj mjesečni proizvodni kapacitet za CDU na 1,000 jedinica i za CDM na 30,000 kompleta. AVC je naglasio da se ovaj planirani kapacitet može fleksibilno prilagoditi na temelju zahtjeva kupaca.

 

Termotehnološka tvrtka Goli Thermal Processing proširuje svoje kapacitete u tvornici Zhongli u Tajvanu zbog povećane potražnje kupaca za tekućinskim hlađenjem. Očekuje se da će do kraja trećeg tromjesečja mjesečni kapacitet za CDM porasti s 1,000 jedinica na 2,000 jedinice, a do kraja godine na 4,{{5} } jedinica, pri čemu se također očekuje da će godišnja proizvodnja CDU dosegnuti 2,000 jedinica do kraja godine.

 

Ovi proizvođači imaju velika očekivanja u pogledu potražnje za tekućinskim hlađenjem, uglavnom zbog računalne učinkovitosti i PUE standarda podatkovnih centara u Kini i EU, ali najznačajniji čimbenik je Nvidia koja je ukinula samonametnuta ograničenja na toplinske specifikacije za proizvođače čipova.

 

 

II Brzi rast hlađenja tekućinom dovodi do manjka UQD

 

Dok industrija željno očekuje dolazak ere tekućeg hlađenja, UQD je postao najveće usko grlo rasta. Proizvođači toplinskih modula istaknuli su da je ponuda UQD-ova nedavno postala tijesna. Iako je trenutni tržišni udio tekućinskog hlađenja samo jednoznamenkasti, ako u budućnosti poraste na dvoznamenkastu brojku, moglo bi biti teško nabaviti UQD.

 

Dobavljači UQD-a prvenstveno dolaze iz Europe i Sjedinjenih Država, poput velikih američkih tvrtki Parker Hannifin i CPC, švicarskog Staubli Internationala, danskog Danfossa i švedskog Cejna. Tajvanski gigant konektorskih komponenti Lotes također aktivno ulazi na tržište i započeo je isporuke uzoraka.

 

Predsjednik Anbo Technology, Liang Zhijian, istaknuo je da budući da hlađenje tekućinom primarno ima za cilj izbjegavanje curenja, a UQD su komponente koje su najsklonije curenju, opskrba UQD komponentama je najograničenija među komponentama tekućeg hlađenja. Ovo nije samo tehnički problem; relevantni proizvođači također imaju patentnu zaštitu, a Anbo Technology istražuje načine za probijanje tih patentnih prepreka.

 

Upućeni u industriju primijetili su da, iako proizvođači UQD-a imaju patentnu zaštitu, moraju također proći kroz višestruke provjere, uključujući OCP certifikaciju i provjere valjanosti klijenata, koje oduzimaju puno vremena i rada. Štoviše, postojeći europski i američki proizvođači nemaju namjeru proširivati ​​kapacitete, što će postati glavno usko grlo za brzi razvoj tekućinskog hlađenja.

 

Supermicro je jedan od najbrže rastućih proizvođača tekućinskih hlađenja. Osnivač i izvršni direktor Liang Jianhou istaknuo je da je tekuće hlađenje činilo samo 1% tržišta poslužitelja u posljednjih 30 godina, ali procjenjuje da će do 2025. godine stopa prodora skočiti na 30%.

 

 

III Hlađenje tekućinom kao potencijalno rješenje; AI bum vrši pritisak na mrežu

 

Brzi razvoj generativne umjetne inteligencije potaknuo je neviđeno širenje podatkovnih centara, izazivajući zabrinutost zbog njihovog utjecaja na električnu mrežu. Ovi energetski intenzivni objekti mogu dovesti do nestanka struje i povećanja troškova energije. Prema procjenama Instituta za istraživanje električne energije, do 2030. podatkovni centri mogli bi trošiti 9% električne energije Sjedinjenih Država, udvostručivši sadašnju brojku. Potrošnja električne energije velikog podatkovnog centra jednaka je potrošnji stotina tisuća kućanstava.

 

Sve veća potražnja za energijom od strane umjetne inteligencije posebno je zabrinjavajuća. Rani modeli umjetne inteligencije trošili su deset puta više energije od Google pretraživanja, dok noviji čipovi zahtijevaju još više energije. Stručnjaci upozoravaju da bi budući razvoj umjetne inteligencije mogao biti ograničen našom sposobnošću generiranja dovoljne snage.

 

Neke zemlje suočavaju se s ozbiljnim izazovima. Na primjer, do 2026. Irska bi mogla imati 30% svoje električne energije namijenjene podatkovnim centrima. U SAD-u, potrošnja električne energije za podatkovne centre koncentrirana je u 15 država, a najveće su u Teksasu i Virginiji. Kalifornija je u kritičnoj situaciji, s novim podatkovnim centrima koji će generirati potražnju za električnom energijom koja premašuje potrebe nuklearnih elektrana.

 

 

IV Podatkovni centri: velika potrošnja energije i porast hlađenja tekućinom

 

Računalni zahtjevi umjetne inteligencije podižu temperature poslužitelja i emisije ugljika, što rezultira značajnim povećanjem potražnje za rashladnim sustavima. Sustavi za hlađenje čine 40% ukupne potrošnje energije podatkovnog centra, što ih čini drugim najvećim izvorom potrošnje energije nakon samih poslužitelja. Predviđa se da će globalno tržište za hlađenje poslužitelja porasti s 20 milijardi dolara u 2024. na 90 milijardi dolara do 2027. Očekuje se da će tržište tekućih sustava za hlađenje u podatkovnim centrima porasti s 1% na 22%, s projiciranim rastom tržišne vrijednosti od 317 milijuna dolara do 7,8 milijardi dolara u sljedeće tri godine.

 

Rješenja tekućeg hlađenja, koja koriste vodu ili rashladne tekućine za hlađenje poslužitelja, postaju sve popularnija. Nove tehnologije uključuju imerzijsko hlađenje (uranjanje cijelih regala poslužitelja u nevodljive tekućine) i izravno hlađenje tekućinom (kruženje vode oko poslužitelja). Iako je trenutno skuplje od sustava zračnog hlađenja, hlađenje tekućinom može smanjiti potrošnju energije podatkovnog centra za 10% ili više.

 

Istraživačka tvrtka Global Market Insights predviđa da će globalno tržište tekućinskog hlađenja za podatkovne centre narasti s 2,1 milijarde dolara u 2022. na 12,2 milijarde dolara do 2032. Istraživanje Uptime instituta pokazalo je da 16% upravitelja podatkovnih centara vjeruje da će tekuće hlađenje postati primarno hlađenje metoda za 1-3 godina, dok 41% misli da će trebati 4-6 godina. Stoga je vjerojatnije da će se hibridne metode hlađenja pojaviti u kratkom roku.

 

Upsite Technologies, vodeći u upravljanju sustavima zračnog hlađenja za podatkovne centre, primijetio je da, iako tehnologija neprestano napreduje, postizanje 100% podatkovnih centara hlađenih tekućinom nije vjerojatno u kratkom roku, budući da oprema za hlađenje tekućinom još uvijek zahtijeva hlađenje zrakom za odvođenje topline . Iako je hlađenje tekućinom učinkovitije, zahtjevno ga je implementirati u velikoj mjeri i zahtijeva značajna ulaganja unaprijed. Hlađenje zrakom je jeftinije, ali i manje učinkovito. Stoga hibridni rashladni uređaji postaju sve popularniji kako bi se maksimizirale prednosti hlađenja tekućinom i zrakom.

 

 

V Energetska kriza podatkovnog centra zahtijeva hitnu akciju

 

Zbog svog utjecaja na okoliš, podatkovni centri dobivaju sve veću pažnju. Vlade diljem svijeta provode propise za kontrolu potrošnje energije i ugljičnog otiska. Kineske smjernice "Green Data Center" i slične inicijative u Njemačkoj, Singapuru i Japanu primjer su ovog trenda. Stručnjaci iz industrije kao što je Schneider Electric naglašavaju potrebu za sveobuhvatnom metrikom okoliša za procjenu održivosti podatkovnih centara, uključujući čimbenike izvan potrošnje energije, kao što su vodni resursi i stvaranje otpada.

 

Američka vlada vrši pritisak na velike tehnološke tvrtke da ulažu u čistu energiju i prepoznaju značajan utjecaj koji rastući zahtjevi za snagom umjetne inteligencije imaju na okoliš.

 

 

VI Pronalaženje odgovarajućih izvora energije: podatkovni centar i energetski izazovi

 

Podatkovni centri trebaju diverzificiranu mješavinu energije kako bi uravnotežili pouzdanost i održivost uz ispunjavanje rastućih zahtjeva. Obnovljivi izvori energije poput sunca i vjetra privlačni su zbog niskog ugljičnog otiska. Međutim, njihova ovisnost o vremenskim uvjetima može dovesti do nestabilnog izlaza, što ih čini neprikladnim kao jedinim izvorom energije za podatkovne centre. Izgradnja suvišnih objekata za kompenzaciju ove nedosljednosti može biti neophodna, ali skupa.

 

Nuklearna energija se pojavila kao potencijalno rješenje. Tradicionalne nuklearne elektrane daju pouzdanu snagu osnovnog opterećenja, generirajući stabilnu električnu energiju ključnu za rad podatkovnog centra. Štoviše, očekuje se da će globalno tržište nuklearne energije postići stalan rast tijekom sljedećeg desetljeća.

 

Inovacije u nuklearnom sektoru nude obećavajuće mogućnosti. Mali modularni reaktori (SMR) razvijaju se kao manje, sigurnije i skalabilnije alternative tradicionalnim nuklearnim elektranama. Iako su još u fazi istraživanja i razvoja, SMR-ovi imaju potencijal za izravnu implementaciju u podatkovnim centrima, pružajući namjensku čistu energiju.

 

▲ Globalno tržište tekućinskog hlađenja (milijardi USD)

 

 

Međutim, široko usvajanje SMR-ova suočava se sa značajnim preprekama. Regulatorni i proizvodni izazovi mogli bi odgoditi njihovu komercijalnu primjenu za nekoliko godina. Američka vlada aktivno istražuje rješenja, uključujući partnerstva s tehnološkim divovima za smanjenje troškova i pojednostavljenje procesa.

 

Drugi način da se smanje energetski zahtjevi podatkovnog centra je optimizacija opterećenja umjetne inteligencije. Prebacivanjem nekih zadataka umjetne inteligencije iz oblaka na lokalne uređaje s manjim modelima umjetne inteligencije koji zahtijevaju manje resursa, ukupna potrošnja energije može se smanjiti.

 

Budući razvoj podatkovnih centara zahtijeva višestruki pristup. Usvajanje raznolike energetske mješavine, uključujući pouzdane izvore energije poput nuklearne energije, uz aktivno traženje obnovljivih i inovativnih rješenja poput SMR-a, ključno je. Osim toga, optimizacija AI radnih opterećenja na lokalnim uređajima može dodatno promicati održivost podatkovnih centara.