Hoe om te gaan met de toenemende vraag naar koeltechnologie in AI-servers
Momenteel bestaat de warmtedissipatiemodule voornamelijk uit actieve en passieve hybride warmtedissipatietechnologie die thermische leidingen bevat. De heatpipe-warmtedissipatiemodule is ontworpen en gecombineerd met componenten zoals luchtverspreiders, koellichamen en thermische leidingen, die een uniforme temperatuur-warmtedissipatie-werkomgeving voor interne elektronische componenten kunnen bieden, waardoor de werking van elektronische apparatuur stabieler wordt. Met de trend van multifunctionele en lichtgewicht elektronische terminalproducten heeft de thermische modulefabriek zich toegelegd op het ontwerpen van thermische oplossingen, voornamelijk gebaseerd op dampkamers en heatpipes.
De koellichaammodule is verdeeld in twee typen: "luchtgekoeld koellichaam" en "vloeistofgekoeld koellichaam". Een daarvan is het gebruik van lucht als medium, via tussenmaterialen zoals warmte-interfacematerialen, dampkamers (VC) of warmtepijpen, en wordt afgevoerd door convectie tussen het koellichaam of de ventilator en de lucht. "Vloeistofkoeling wordt voornamelijk bereikt door convectie met de vloeistof, waardoor de chip wordt gekoeld. Naarmate de warmteontwikkeling en het volume van de chip toenemen, neemt echter het thermische ontwerpvermogen (TDP) van de chip toe en neemt het gebruik van luchtgekoelde de warmteafvoer wordt geleidelijk onvoldoende.
Met de ontwikkeling van het Internet of Things, edge computing en 5G-toepassingen heeft data-AI de mondiale rekenkracht in een periode van snelle groei gebracht. Volgens onderzoeksbureau TrendForce was het verzendvolume van AI-servers uitgerust met GPGPU's (General Purpose GPU's) in 2022 goed voor ongeveer 1%. In 2023 wordt echter verwacht dat het verzendvolume van AI-servers zal groeien, aangedreven door ChatGPT-applicaties. met 38,4%, en de totale samengestelde jaarlijkse groei van AI-serververzendingen tussen 2022 en 2026 zal 29% bereiken.
Er zijn twee hoofdrichtingen voor het ontwerp van de volgende generatie koellichaammodules. De ene is om de bestaande warmtedissipatiemodules te upgraden met een 3D-dampkamer (3DVC), en de andere is om een vloeistofkoelsysteem te introduceren, waarbij vloeistof als convectief medium wordt gebruikt om de thermische efficiëntie te verbeteren. Daarom zal het aantal testgevallen voor vloeistofkoeling in 2023 aanzienlijk toenemen, maar 3DVC is slechts een overgangsoplossing. Er wordt geschat dat we tussen 2024 en 2025 het tijdperk van parallelle gaskoeling en vloeistofkoeling zullen betreden.
Met de opkomst van ChatGPT heeft generatieve AI het aantal serverleveringen doen stijgen, samen met de vereisten voor het upgraden van de specificaties van koellichaammodules, waardoor ze in de richting van vloeistofkoelingsoplossingen zijn gedreven om te voldoen aan de strenge eisen van servers voor warmteafvoer en stabiliteit. Momenteel maakt de industrie vooral gebruik van enkelfasige dompelkoelingstechnologie bij vloeistofkoeling om het warmtedissipatieprobleem van verwarmingsservers of onderdelen met hoge dichtheid op te lossen, maar er is nog steeds een bovengrens van 600 W, omdat ChatGPT of servers van hogere orde een warmteafvoercapaciteit van meer dan 700W om het hoofd te bieden.
Gebaseerd op het feit dat het koelsysteem ongeveer 33% van het totale energieverbruik in het datacenter voor zijn rekening neemt, omvat het verminderen van het totale elektriciteitsverbruik en het verminderen van de efficiëntie van het energieverbruik het verbeteren van het koelsysteem, de informatieapparatuur en het gebruik van hernieuwbare energie. Water heeft een warmtecapaciteit die vier maal groter is dan die van lucht. Daarom is bij de introductie van een vloeistofkoelsysteem slechts 1U ruimte nodig voor de vloeistofkoelplaat. Volgens NVIDIA-tests kan, om dezelfde rekenkracht te bereiken, het aantal kasten dat nodig is voor vloeistofkoeling met 66% worden verminderd. Het energieverbruik kan met 28% worden verminderd, de PUE kan worden verlaagd van 1,6 naar 1,15 en de rekenefficiëntie kan worden verbeterd .
Snel computergebruik leidt tot een voortdurende verbetering van de TDP, en AI-servers stellen hogere eisen aan de warmteafvoer. Traditionele heatpipe-koeling nadert zijn limiet en het is onvermijdelijk om vloeistofgekoelde thermische oplossingen te introduceren.
