Startup Cerebras ontwikkelt AI-chip die maar liefst 15 kW nodig heeft

 

Terwijl in de wereld van datacenters en IT de focus steeds meer ligt op energiebesparing, komt het Amerikaanse Cerebras met een nieuw type processor dat maar liefst 15 kW vraagt. De chip is bovendien ongekend groot en complex. De processor bevat 2,6 biljoen transistoren en telt maar liefst 815.000 processor cores. De omvang van de chip? Ruim 46 vierkante centimeter. 

 

Deze nogal exotische chip is even groot als een mes en vork, wat flink afwijkt van wat bijvoorbeeld Intel en Apple aan professoren produceren. De Cerebras-chip luistert naar de naam WSE-2. Hij is speciaal ontwikkeld om AI-berekeningen supersnel uit te voeren. Daar is speciale hardware voor nodig, een uitdaging waar zich inmiddels tientallen startups mee bezig houden.

 

Veel klassieke processoren omvatten maximaal enkele tientallen cores en verbruiken pakweg 350 watt. Meestal worden ze bovendien gekoeld met lucht. De WSE-2 is echter watergekoeld. Alle 815.000 cores zijn bovendien volstrekt identiek (erg handig bij dit formaat wafers) en geschikt voor massaal verwerken van data. De hoeveelheid geheugen die op de chip zelf aanwezig is, is ook al enorm: 40 GB. De voor het geheugen beschikbare bandbreedte om data van storage naar de chip te brengen en omgekeerd is 20 Petabytes per seconde. 

 

De processor wordt door Cerebras toegepast in een systeem dat volledig geoptimaliseerd is voor AI-verwerking. Het softwareplatform waar dit systeem gebruik van maakt integreert met belangrijke AI-frameworks als Google’s Tensorflow.

 

Het gaat dus echt om een nieuw type datacenter-hardware, waarbij voor de datacenterindustrie natuurlijk vooral de 15 kW die de processor vraagt erg relevant is. Momenteel werken enkele honderden startups aan nieuwe processor- en systeemarchitecturen die bedoeld zijn om de verwerking van AI verder te verbeteren. Daarbij is duidelijk dat de energie die hun ontwerpen nodig hebben om tot topprestaties te komen veelal ongekend groot is. 

 

Voor datacenter managers wordt dit dus een belangrijke ontwikkeling. Steeds meer bedrijven en overheden passen immers AI toe en dat gebruik zal ongetwijfeld alleen maar verder toenemen. Traditionele processoren en server- en storage-architecturen zijn echter niet echt geschikt voor het ‘draaien’ van dit soort programma’s. Het ligt dus voor de hand dat men meer en meer op zoek zal gaan naar mogelijkheden om het verwerken van grote hoeveelheden data door AI-applicaties te versnellen, waarbij men dan gaat uitkomen bij systemen als nu door Cerebras op de markt worden gebracht. 

 

Dit gaat ongetwijfeld een grote invloed hebben op de hoeveelheid energie die een datacenter manager op specifieke locaties binnen de faciliteit beschikbaar moet kunnen stellen. Ook het feit dat veel van dit soort systemen waterkoeling nodig hebben, zal nadrukkelijk in de plannen van datacenter managers meegenomen moeten worden.