Datacenters krijgen te maken met nieuw type processor: DPU’s

Met de opkomst van trends als AI krijgen datacenters plotsklaps te maken met een hele nieuwe categorie aan hardware. Systemen die ook andere energieprofielen kennen dan standaard servers en die bovendien gebruik maken van nieuwe componenten. Zoals DPU’s.

Die letters staan voor ‘data processing unit’. Ze gaan volgens specialisten op het gebied van IT-hardware samen met CPU’s (central processing units) en GPU’s (graphical processing units) de kern van de toekomstige IT-systemen vormen.

CPU's waren jarenlang het enige programmeerbare element in computers. Meer recentelijk heeft de GPU, of grafische verwerkingseenheid, een centrale rol ingenomen. Oorspronkelijk gebruikt om rijke, real-time graphics te leveren, maken hun parallelle verwerkingsmogelijkheden ze ideaal voor allerlei soorten ‘accelerated’ computertaken. Dankzij deze mogelijkheden zijn GPU's essentieel voor toepassingen op het gebied van kunstmatige intelligentie, deep learning en big data-analyse.

Dan is er nu ineens een nieuw type processor: de Data Processing Unit. Een DPU is een programmeerbare processor die drie belangrijke elementen combineert. Het is een system-on-a-chip, of SoC, dat het volgende combineert:

• Een programmeerbare CPU die uit meerdere cores bestaat, meestal gebaseerd op de veelgebruikte ARM-architectuur.
• Een krachtige netwerkinterface die in staat is om gegevens met hoe snelheid te verwerken en te versturen, en efficiënt over te dragen naar GPU's en CPU’
• Een uitgebreide set flexibele en programmeerbare ‘accelerator engines’ die de prestaties van applicaties voor onder andere AI en machine learning, zero-trust beveiliging, telecommunicatie en opslag ontlasten en verbeteren.

Het doel van een DPU is om data zo snel mogelijk bij CPU’s en GPU’s te krijgen, zodat deze hun werk snel en efficiënt kunnen doen. Soms worden DPU’s als zelfstandige componenten in een server gebruikt. In veel andere gevallen worden ze echter geïntegreerd in netwerkkaarten - zogeheten SmartNIC’s - zodat zij volledig ingezet kunnen worden voor het razendsnel verzenden en ontvangen van data.

Een van de redenen waarom DPU’s plotsklaps populair zijn geworden is hun energieverbruik. Metingen bij eerste toepassingen geven namelijk aan dat een DPU tot 80% kan besparen op het stroomverbruik in vergelijking met een CPU en een GPU voor dezelfde workload.