Nieuwe generatie AI-chips van Nvidia gaan 1000 Watt verbruiken

nvidia-a100-hgx-3qtr-front-left-2c50-l@2x

Er komen - zeg maar - interessante tijden aan voor datacenters die veel AI-workloads draaien. Nvidia’s volgende generatie AI-GPU's, met de codenaam Blackwell, belooft een aanzienlijke sprong voorwaarts in rekenkracht, maar met een aanzienlijke toename van het energieverbruik. Volgens informatie onthuld door Dell, een van 's werelds grootste serverfabrikanten, en gerapporteerd door Tom’s Hardware, zullen deze nieuwe GPU's tot wel 1000 watt verbruiken. Dat is een stijging van 40% ten opzichte van de huidige generatie. Deze toename in energiebehoefte kan een flinke uitdaging vormen voor zowel de koeltechnologieën als de infrastructuur van datacenters.

De toename in energieverbruik van Nvidia's Blackwell GPU's heeft directe implicaties voor datacenters. Enerzijds biedt het een aanzienlijke verbetering in AI-verwerkingsmogelijkheden, wat cruciaal is voor high-performance computing (HPC) en AI-toepassingen. Anderzijds introduceert het de noodzaak voor geavanceerde koelsystemen om de warmte die door deze krachtige chips wordt gegenereerd, efficiënt af te voeren.

De potentiële introductie van een zogeheten ‘dual-die’ ontwerp, iets wat Nvidia voorheen niet heeft geïmplementeerd, wijst op een strategie om de warmteverdeling over een groter oppervlak te optimaliseren, vergelijkbaar met benaderingen van AMD en Intel. Dit zou kunnen betekenen dat datacenters hun koelstrategieën moeten herzien om oververhitting te voorkomen, wat de betrouwbaarheid en levensduur van de apparatuur kan beïnvloeden.

Voor datacenters kan de stijging in energieverbruik ook een toename in operationele kosten betekenen, met name op het gebied van energie en koeling. Dit kan niet alleen financiële implicaties hebben, maar ook milieu-overwegingen, gezien de grotere CO2-footprint die gepaard kan gaan met hoger energieverbruik.

 

Lees ook
Brede steun voor maatschappelijk prioriteren, ACM roept netbeheerders op aan de slag te gaan

Brede steun voor maatschappelijk prioriteren, ACM roept netbeheerders op aan de slag te gaan

De Autoriteit Consument & Markt (ACM) heeft 78 reacties ontvangen op het ontwerp codebesluit prioriteringsruimte transportverzoeken. Uit deze reacties blijkt dat betrokkenen positief zijn over het voorstel om het verlenen van voorrang aan projecten die bijdragen aan belangrijke maatschappelijke doelen vast te leggen in een wettelijke regeling.

Hoe gaan we om met 80 kW racks?

Hoe gaan we om met 80 kW racks?

Het ontwikkelen van een datacenter rack dat 80 kW aan elektrisch vermogen nodig heeft, is een ingrijpende technische uitdaging die zowel nieuwe mogelijkheden als beperkingen met zich meebrengt. In Nederland lijkt zo’n rack wellicht (nog?) Ondenkbaar, maar op Reddit wordt hierover een interessante discussie gevoerd, voornamelijk door Amerikaanse da1

Google test demand response als elektriciteitsnetwerk onder druk staat

Google test demand response als elektriciteitsnetwerk onder druk staat

Google heeft een nieuwe methode ontwikkeld en getest om het elektriciteitsverbruik van hun datacenters te verminderen op momenten dat het lokale elektriciteitsnet zwaar belast is. Dat schrijven Google-medewerkers Varun Mehra, Technical Program Manager, Grid Services en Raiden Hasegawa, Senior Data Scientist, Energy Analytics in een blog post.