Analyse van vloeistofkoeling en warmteafvoertechnologie in AI-datacenters
Generatieve AI en verschillende grote modellen brengen ons een geheel nieuwe applicatie-ervaring en stellen ook hogere eisen aan de rekenkracht. Voor managers van datacenters worden vanwege de aanzienlijke toename van de vermogensdichtheid van GPU-servers hogere eisen gesteld aan de koelapparatuur en technologie van datacenters. Daarom besteden ze, naast de focus op de rekenkracht zelf, ook meer aandacht aan de verschillende problemen die worden veroorzaakt door het stroomverbruik en de koeling van datacenters.
Gedreven door de sterke vraag naar AI-rekenkracht is het aantal GPU-servers in datacenters aanzienlijk toegenomen, wat heeft geleid tot steeds prominentere problemen met het energieverbruik. We weten dat het maximale totale vermogen van luchtgekoelde enkele kasten in datacenters 15 kW bedraagt. Met dezelfde rack-up-snelheid heeft de stroomgroei van GPU-servers de limiet van een enkele kast benaderd. Het stroomverbruik van GPU's neemt echter nog steeds voortdurend toe. Geconfronteerd met het hoge energieverbruik en de hoge dichtheidsscenario's is traditionele luchtkoeling duidelijk niet in staat om aan de behoeften op het gebied van energieverbruik en warmteafvoer te voldoen. Vloeistofkoelingtechnologie, met zijn ultrahoge energie-efficiëntie en ultrahoge warmtedichtheid, is een noodzakelijke optie geworden voor temperatuurbeheersingsoplossingen in intelligente rekencentra.
In traditionele luchtgekoelde datacenters bedraagt het energieverbruik voor de koeling van apparatuur en de warmteafvoer maar liefst 40%, terwijl de efficiëntie van de warmteafvoer niet hoog is. Vanwege de beperkingen wordt conventionele luchtkoeling in datacenters over het algemeen ontworpen met een enkele kastdichtheid van 8-10 kW. Omdat de thermische geleidbaarheid van vloeistofkoelingstechnologie 25 keer zo groot is als die van lucht en bijna 3000 keer meer warmte transporteert dan hetzelfde luchtvolume, kan er gemakkelijk een kastdichtheid van meer dan 30 kW worden bereikt. Daarom kan het veel ruimte besparen, de inzetdichtheid van kasten in een enkel datacenter verder verbeteren en de bezettingsgraad van het datacenteroppervlak verbeteren.
Er bestaat momenteel echter geen uniforme technologie- en constructiestandaard in de vloeistofkoelingsindustrie, en vergeleken met traditionele luchtgekoelde koeling zijn de bouwkosten van datacenters met vloeistofkoeling nog steeds te hoog. De snelle ontwikkeling van vloeistofkoelingstechnologie en het gebrek aan uniforme technologie en constructienormen hebben aanzienlijke uitdagingen met zich meegebracht voor het latere beheer en onderhoud.
Momenteel omvatten de belangrijkste vloeistofkoelingstechnologieën indirecte vloeistofkoelingstechnologie, vertegenwoordigd door een vloeistofkoelsysteem met koude platen, en directe vloeistofkoelingstechnologie, vertegenwoordigd door een immersievloeistofkoelsysteem. Vanwege de verschillen in het ontwerp van de warmteafvoer tussen de twee, zijn er ook aanzienlijke verschillen in de efficiëntie van de warmteafvoer.
Indirecte warmteafvoertechnologie wordt bereikt door contact te maken met de oppervlakken van CPU's, geheugen, GPU's, harde schijven en andere media zoals koude platen, waarbij de stroom koelvloeistof wordt gebruikt om warmte af te voeren. Naast koude platen en andere media omvat de indirecte vloeistofkoelingtechnologie ook componenten zoals warmtewisselaars, pijpleidingen, pompen, koelvloeistof en regelsystemen. Het vloeistofkoelsysteem met koude platen is de belangrijkste oplossing geworden voor indirecte vloeistofkoelingstechnologie. De belangrijkste voordelen van indirecte vloeistofkoelingstechnologie zijn dat er geen wijziging van de vorm van bestaande servers nodig is, dat er weinig technische ontwerpproblemen zijn, relatief weinig implementatieproblemen en relatief weinig problemen bij het latere gebruik en onderhoudsbeheer. Bovendien zijn de kosten lager vanwege het gebruik van een waterige ethyleenglycoloplossing als koelmedium.
Het nadeel is dat de efficiëntie van de warmteafvoer relatief laag is, en vanwege het grote aantal componenten is het uitvalpercentage relatief hoger. Momenteel is het vloeistofkoelsysteem met koude platen de voorkeursoplossing geworden voor de meeste datacenters.
Directe vloeistofkoelingstechnologie verwijst naar het directe contact tussen CPU, GPU, moederbord, geheugen, enz., en koelvloeistof, die rechtstreeks door het hardwareoppervlak stroomt om warmte te absorberen en af te voeren. Momenteel omvat de technologie voor directe vloeistofkoeling onderdompelingsvloeistofkoelsystemen en sproeivloeistofkoelsystemen. Afhankelijk van of het koelmedium een faseverandering ondergaat, kan het worden onderverdeeld in eenfasige onderdompeling en faseveranderingsonderdompeling.
Vergeleken met de indirecte warmtedissipatietechnologie heeft de directe vloeistofkoelingstechnologie geen tussenliggend geleidend medium tussen de vloeistof en de warmtebron, en kan de warmte directer naar de vloeistof worden overgedragen, wat resulteert in een hogere warmtedissipatie-efficiëntie. Directe vloeistofkoelingtechnologie is echter moeilijker en duurder in gebruik vanwege de noodzaak om het hele datacenter opnieuw te ontwerpen en te transformeren. Momenteel wordt directe vloeistofkoelingstechnologie voornamelijk gebruikt in scenario's die een hoge warmteafvoerefficiëntie vereisen.
Op dit moment zal het, naarmate het vloeistofkoelsysteem met koude platen volwassener wordt, de mainstream vloeistofkoelingstechnologie worden die als eerste de datacenters binnendringt. De kosten, bediening en onderhoud, veiligheid en andere problemen die van invloed zijn op de popularisering van vloeistofkoelingstechnologie met koude platen zullen ook worden opgelost met de ontwikkeling van technologie en de standaardisatie.
Met de voortdurende ontwikkeling van de technologie zullen ondergedompelde vloeistofkoelsystemen ook op grote schaal worden gebruikt in nieuwe datacenters met hoge dichtheid, waardoor de warmtedissipatie-efficiëntie van datacenters verder wordt verbeterd en de rekenkrachtniveaus aanzienlijk worden verbeterd.
