NVIDIA podstiče prihvaćanje tekućeg hlađenja na preko 20% do 2025

 

Stopa prodora rješenja za tekuće hlađenje trebala bi se značajno povećati, skočivši s oko 10% u 2024. na više od 20% do 2025. Prema najnovijem istraživanju TrendForcea, isporuka NVIDIA-ine Blackwell platforme očekuje se u četvrtom kvartalu, što će povećati usvajanje rješenja za hlađenje tekućinom. Rastuća globalna svijest o ESG-u, zajedno s CSP-ovima koji ubrzavaju implementaciju AI poslužitelja, olakšava prelazak sa zračnog hlađenja na hlađenje tekućinom.

 

 

Na globalnom tržištu AI poslužitelja, NVIDIA ostaje dominantan dobavljač ove godine. U segmentu GPU AI poslužitelja, NVIDIA drži uvjerljivo vodstvo s tržišnim udjelom blizu 90%, dok AMD zaostaje na oko 8%. TrendForce napominje da iako su NVIDIA-ine Blackwell isporuke trenutno male zbog testiranja opskrbnog lanca u tijeku, velika potrošnja energije nove platforme - posebno GB200 rješenja montiranog u stalak - zahtijeva poboljšanu učinkovitost hlađenja, vjerojatno povećavajući usvajanje tekućeg hlađenja. Međutim, nizak omjer tekućeg hlađenja postojećeg poslužiteljskog ekosustava predstavlja izazov jer ODM-ovi moraju proći krivulju učenja kako bi učinkovito riješili probleme s curenjem i učinkovitošću hlađenja. TrendForce predviđa da će do 2025. više od 80% GPU-a na Blackwell platformi biti high-end, što će potaknuti tvrtke za napajanje i hlađenje da se natječu na tržištu tekućeg hlađenja AI, što će rezultirati novom dinamikom industrije.

 

 

I Google agresivno širi rješenja za tekuće hlađenje

 

Posljednjih su godina velike američke tvrtke u oblaku poput Googlea, AWS-a i Microsofta brzo izgradile AI poslužitelje prvenstveno pokretane NVIDIA GPU-ovima i vlasničkim ASIC-ovima. TrendForce izvještava da NVIDIA GB200 NVL72 kućište ima termalnu snagu (TDP) od približno 140 kW, što zahtijeva rješenje za hlađenje tekućinom, pretežno tekućina-zrak (L2A). Druge arhitekture, poput HGX i MGX Blackwell poslužitelja, prvenstveno koriste zračno hlađenje zbog manje gustoće.

 

Za tvrtke u oblaku koje razvijaju svoje AI ASIC-ove, Googleov TPU usvojio je rješenja za hlađenje zrakom i tekućinom, što ga čini vodećim u hlađenju tekućinom među američkim poduzećima. BOYD i Cooler Master ključni su dobavljači hladnih ploča. Kineska Alibaba najagresivnija je u širenju podatkovnih centara hlađenih tekućinom, dok druge tvrtke u oblaku nastavljaju favorizirati zračno hlađenje za svoje AI ASIC-ove.

 

TrendForce ukazuje da će tvrtke u oblaku odrediti dobavljače ključnih komponenti za rješenje tekućeg hlađenja kućišta GB200. Primarni dobavljači za hladne ploče uključuju Qihong i Cooler Master, dok razdjelnici dolaze od Cooler Mastera i Shuanghonga, a jedinice za distribuciju rashladne tekućine (CDU) isporučuju Vertiv i Delta. Nabavom ključnih komponenti otpornih na curenje, kao što su brzi rastavljači (QD), i dalje dominiraju strani proizvođači kao što su CPC, Parker Hannifin, Danfoss i Staubli.

 

▲ Dobavljači ključnih komponenti AI poslužitelja za rješenja tekućeg hlađenja

 

 

II Kako riješiti pregrijavanje AI čipa? Istražite 3 metode hlađenja poslužitelja

 

Prije dubljeg zalaženja u konkurenciju u hlađenju, bitno je razumjeti primarne metode hlađenja, koje se mogu kategorizirati u tri vrste: hlađenje zrakom, hlađenje tekućinom i hlađenje uranjanjem.

 

1. Zračno hlađenje: još uvijek vrlo traženo

Hlađenje zrakom najčešće je korištena metoda hlađenja u podatkovnim centrima i serverskim sobama poduzeća, slično opskrbi poslužitelja hladnim zrakom putem ventilatora, hladnjaka i toplinskih cijevi. Za postizanje optimalnih performansi hlađenja potrebna je napredna tehnologija zračnog hlađenja kao što su parne komore (3D VC) u kombinaciji s toplinskim cijevima i brojnim ventilatorima. Međutim, dok povećan protok zraka i brzina pojačavaju konvekciju topline, pretjerana buka i vibracije mogu negativno utjecati na okruženje poslužitelja. Prema Wu Junyingu, zamjeniku generalnog direktora, zračno hlađenje i dalje ima značajnu tržišnu potražnju budući da se H100 čipovi mogu adekvatno hladiti zrakom. Međutim, s isporukom čipova serije GB ubrzat će se tempo usvajanja tekućeg hlađenja.

 

2. Hlađenje tekućinom: glavno tržište za kojim jure svi dobavljači

Hlađenje tekućinom, također poznato kao izravno hlađenje tekućinom (DLC), može se dalje podijeliti na tekućina-zrak i tekućina-tekućina.

Tekućina u zrak: Ova metoda koristi cijevi za vodeno hlađenje za odvođenje topline iz čipova, pri čemu se zagrijana voda šalje ventilatorima na stražnjoj strani kućišta radi raspršivanja topline. Hlađenje tekućinom u zrak odgovor je na fizička ograničenja hlađenja zrakom u postojećim podatkovnim centrima, budući da zahtijeva minimalne izmjene infrastrukture poslužiteljske sobe – samo dodavanje stražnjih vrata ventilatora može poboljšati hlađenje. Trenutačno oko 60-70% podatkovnih centara još uvijek koristi ovu metodu hlađenja. Međutim, iako je tekućina-zrak održivo rješenje, ono nije optimalno; dodatni ventilatorski zid može podići razinu buke na 90-100 decibela (ekvivalentno prometnoj ulici od oko 80 decibela), što otežava osoblju da radi u prostoriji dulje vrijeme.

 

Liquid-to-Liquid: Ova metoda uključuje zatvaranje zatvorenih cjevovoda ispunjenih rashladnom tekućinom oko komponenti poslužitelja koje generiraju toplinu. Toplina se prenosi kroz toplinske bakrene ploče na rashladnu tekućinu, omogućujući ciklus izmjene tople i hladne tekućine. Za razliku od tekućine u zraku, ova metoda ne zahtijeva zidove ventilatora iza ormara poslužitelja, što značajno poboljšava iskorištenost prostora i smanjuje razinu buke. NVIDIA-in high-end GB200 NB072 koristi hlađenje tekućina-tekućina.

 

3. Potopno hlađenje: Sveti gral budućeg hlađenja?

Hlađenje potapanjem uključuje uranjanje cijelih poslužitelja u nevodljivu tekućinu, slično vrućoj kupki, učinkovito hlađenje ne samo čipova, već i CPU-a, memorije i drugih elektroničkih komponenti unutar poslužitelja. Međutim, pitanja kao što su zabrinutost za okoliš povezana s tekućinama za uranjanje, dugoročni učinci na elektroničke komponente i tekuće održavanje predstavljaju značajne izazove. Podatkovni centri koji razmatraju rješenja za uranjanje također moraju procijeniti strukturalni integritet podova zgrada i temeljne infrastrukture za električne i vodovodne sustave. Implementacija uronjenog hlađenja zahtijeva opsežno redizajniranje postrojenja, što rezultira znatnim troškovima.