Directe chip-vloeistofkoelingtechnologie
Momenteel loopt vrijwel al het internetverkeer via datacenters. Naast de populariteit van generatieve AI-toepassingen zoals ChatGPT, is er een ongekende vraag naar rekenkracht. Wereldwijde datacenters maken zoveel mogelijk gebruik van krachtige GPU's en CPU's. Dit stelt ook overeenkomstig hogere eisen aan elektriciteit en energie.
Met de ontwikkeling van AI en high-performance computing is de configuratie van chips, servers en racks in datacenters steeds compacter geworden. Deze hoge dichtheid vereist krachtigere koelsystemen om ervoor te zorgen dat apparatuur binnen een veilig temperatuurbereik kan werken om de systeemprestaties en betrouwbaarheid te behouden.
Het is duidelijk dat de koelingskosten van datacenters het snelst groeiende deel van hun fysieke infrastructuurkosten zijn geworden, met een samengesteld jaarlijks groeipercentage van 16%. Het groeitempo van de koelingskosten in datacenters overtreft de bestaande mogelijkheden, terwijl de hoge prestaties behouden blijven. Volgens gegevens van het MIT Lincoln Laboratory zullen datacenters in 2030 tot 21% van de mondiale elektriciteitsvoorziening verbruiken. Om het energieverbruiksprobleem van AI op te lossen, ontwikkelt de industrie niet alleen gespecialiseerde AI-chips op maat om de efficiëntie van het energieverbruik te verbeteren, maar past ze ook efficiëntere koeltechnologie toe om datacenters te helpen maximale duurzaamheid te bereiken.
Onlangs presenteerde een bedrijf genaamd ZutaCore de eerste diëlektrische vloeistofgekoelde plaat met directe chip voor NVIDIA GPU's. Dit is een watervrij, direct-to-chip, tweefasig vloeistofkoelsysteem dat speciaal is ontworpen voor AI en krachtige computerwerklasten. Het bedrijf werkt samen met tal van leveranciers zoals Intel, Dell en Vitus, en meerdere serverfabrikanten werken ook samen met ZutaCore om de certificering en het testen van het Nvidia GPU-platform te voltooien.
De "HyperCool"-koeloplossing van ZutaCore is niet afhankelijk van vloeistof als koelmedium en maakt gebruik van een speciale diëlektrische vloeistof. Deze koelmethode brengt de koelvloeistof rechtstreeks in contact met de chip die moet worden gekoeld, waardoor warmte effectiever kan worden geabsorbeerd en afgevoerd in vergelijking met traditionele luchtkoeling of indirecte vloeistofkoeling. HyperCool-technologie kan ook de door datacenters gegenereerde warmte terugwinnen en hergebruiken, waardoor 100% hergebruik van warmte wordt bereikt.
Bovendien is het huidige energieverbruik van elke Nvidia H100 GPU maar liefst 700 W, wat een aanzienlijke uitdaging is voor datacenters die al onder druk staan bij het beheersen van warmte, energieverbruik en ruimte. Het is duidelijk dat HyperCool het energieverbruik voor koeling met 80% kan verminderen, GPU's van meer dan 1500 W kan ondersteunen en de rackdichtheid met 300% kan verhogen. Over het algemeen is koeling in datacenters een belangrijk aspect bij het garanderen van hardware-efficiëntie en het verlengen van de levensduur van apparatuur. Met de toename van de schaalgrootte van datacenters en de toenemende vraag naar computers worden efficiënte koelingsoplossingen steeds belangrijker.
Door voortdurend geoptimaliseerde koeling te bieden, kan de hardware van het datacenter op hoge prestatieniveaus blijven werken, waardoor prestatieschommelingen als gevolg van temperatuurproblemen worden vermeden, waardoor een rekenkracht wordt bereikt die veel verder gaat dan de traditionele faciliteiten. Dit is vooral van cruciaal belang voor toepassingen die afhankelijk zijn van high-performance computing, zoals kunstmatige intelligentie en big data-analyse.
