Nvidia's vloeistofkoelingrevolutie voor AI-server
Het stroomverbruik van geavanceerde AI-chips neemt voortdurend toe, wat een katalysator is geworden voor de volgende generatie DGX AI-servers om over te schakelen naar vloeistofkoeling. De huidige TDP (thermal design power) van Nvidia's vlaggenschip H100 GPU is 700W, wat de limiet van traditionele luchtkoeling heeft overschreden. De verwachting is dat Nvidia later dit jaar de Blackwell-architectuur B100 GPU met een TDP van ongeveer 1000W zal lanceren, en vloeistofkoeling zal tegen die tijd zeker nodig zijn.
Voor krachtige computersystemen heeft vloeistofkoeling verschillende belangrijke voordelen ten opzichte van luchtkoeling:
Dankzij de uitstekende efficiëntie van de warmteoverdracht kunnen componenten met een hogere TDP volledig worden gekoeld
Door de verminderde vraag naar hogesnelheidsventilatoren is de werking stiller
Het systeemontwerp is compacter en omvangrijke koellichamen en ventilatoren nemen minder ruimte in beslag
Potentieel voor het opvangen en hergebruiken van afvalwarmte in vloeistof-vloeistof-warmtewisselaars
Door gebruik te maken van vloeistofkoeling kan Nvidia de prestatielimieten van AI-accelerators blijven overschrijden zonder beperkt te worden door het koelsysteem. Nu de complexiteit van de trainingsbelasting op het gebied van kunstmatige intelligentie blijft toenemen en het overeenkomstige energieverbruik van de hardware toeneemt, is dit van cruciaal belang. De DGX AI-server van Nvidia bundelt meerdere GPU's in een geoptimaliseerd systeem voor AI-workloads, dat snel wordt overgenomen door grootschalige ondernemingen. Grote cloudserviceproviders zoals Google Cloud, Meta en Microsoft hebben DGX-systemen in hun datacenters geïmplementeerd. Omdat steeds meer organisaties de transformerende kracht van kunstmatige intelligentie de afgelopen jaren willen benutten, is de adoptie van Nvidia DGX kunstmatige intelligentiesystemen exponentieel gegroeid.
Het Nvidia DGX-systeem kan geavanceerde ontwerpen voor immersiekoeling gebruiken die diëlektrische vloeistoffen gebruiken. Directe chipkoeling pompt diëlektrische vloeistoffen rechtstreeks op GPU-chips en andere thermische componenten, zonder dat er koude platen nodig zijn, waardoor een meer directe warmteoverdracht wordt bereikt. Het kan zeer hoge TDP-niveaus (500W+) op één enkele chip ondersteunen, waardoor systemen met een grotere dichtheid worden bereikt.
Terwijl kunstmatige intelligentie zich met een verbazingwekkende snelheid blijft ontwikkelen, moet de ondersteunde hardware-infrastructuur synchroon evolueren. Vloeistofkoeling is een sleuteltechnologie waarmee versnellers kunnen opschalen naar ongekende prestatieniveaus. Deze transformatie is niet zonder uitdagingen. Omdat datacenters de transformatie van de infrastructuur voor vloeistofkoeling en de ontwikkeling van nieuwe onderhoudsprogramma's vereisen, zijn de voordelen van energie-efficiëntie, dichtheid en prestaties aanzienlijk en kunnen niet worden genegeerd.
