Verticale integratie van hyperscalers gaat steeds verder

rev01-front.webp

De verticale integratie van hyperscalers zoals Meta, Google Cloud en Amazon Web Services neemt steeds verder toe. Deze techgiganten investeren zwaar in de ontwikkeling van eigen chips om hun afhankelijkheid van externe leveranciers te verminderen en hun concurrentiepositie te versterken. Een recent voorbeeld van deze trend is Meta's interesse in de overname van het Zuid-Koreaanse AI-chipstartup FuriosaAI.

FuriosaAI, gevestigd in Seoul en opgericht in 2017, staat onder leiding van June Paik, die eerder werkte bij Samsung Electronics en AMD. Het bedrijf heeft zich gespecialiseerd in het ontwerpen van AI-chips die zijn geoptimaliseerd voor het uitvoeren van AI-modellen, een proces dat bekend staat als inferentie. Hun recent ontwikkelde RNGD-chip, in samenwerking met Global Unichip, biedt een energie-efficiënte oplossing met een thermisch vermogen (TDP) van slechts 150 watt, wat de chip ideaal kan maken voor datacenters waar grote AI-modellen - zoals Meta's Llama 2 en Llama 3 - worden ‘gedraaid’. 

De RNGD-chip van FuriosaAI zou drie keer betere prestaties per watt bieden dan Nvidia's H100 GPU’s. Dat maakt het een aantrekkelijke optie voor bedrijven die op zoek zijn naar alternatieven voor de huidige marktleider. De chip is uitgerust met HBM3-geheugen van SK Hynix, wat cruciaal is voor AI-berekeningen. De massaproductie van de RNGD-chip staat gepland voor de tweede helft van dit jaar, en bedrijven zoals LG's AI-onderzoekslab en Saudi Arabian Oil hebben al interesse getoond om servers op basis van deze chips in gebruik te nemen. 

De potentiële overname van FuriosaAI door Meta past in een bredere trend waarin hyperscalers hun eigen aangepaste chips ontwikkelen. Dit vermindert niet alleen de afhankelijkheid van leveranciers zoals Nvidia, maar biedt ook de mogelijkheid om hardware en software beter op elkaar af te stemmen en hun datacenterinfrastructuur efficiënter te maken. 

De verticale integratie van hyperscalers is niet alleen beperkt tot chipontwikkeling. Bedrijven zoals OpenAI werken ook aan hun eigen aangepaste chips, wat aangeeft dat de race om de beste AI-hardware steeds intensiever wordt. Deze ontwikkelingen tonen aan dat de toekomst van AI-technologie steeds meer zal worden bepaald door de capaciteit van bedrijven om zowel hardware als software in eigen hand te houden. Voor datacenters kan dit straks gaan leiden tot nieuwe hardware en infrastructuren.

Meer over
Lees ook
Google bouwt twee datacenters voor Duitse markt

Google bouwt twee datacenters voor Duitse markt

Dinsdag maakte Google bekend twee datacenters in Duitsland te gaan bouwen. Dat verklaart waarom de zoek- en cloudgigant een paar maanden terug bekendmaakte geen nieuwe datacenters meer in Nederland neer te zetten

Novva, het nieuwe hyperscale datacenter

Novva, het nieuwe hyperscale datacenter

Afgelopen week verscheen op onder andere CRN het bericht melding dat met Novva een nieuwkomer de markt voor hyperscale datacenters betreedt. Niet alleen dat is opvallend. Dat het bedrijf vanuit het niets $1 miljard aan kapitaal voor de bouw beschikbaar kan stellen is ook voor Amerikaanse begrippen ongebruikelijk.