Verticale integratie van hyperscalers gaat steeds verder
De verticale integratie van hyperscalers zoals Meta, Google Cloud en Amazon Web Services neemt steeds verder toe. Deze techgiganten investeren zwaar in de ontwikkeling van eigen chips om hun afhankelijkheid van externe leveranciers te verminderen en hun concurrentiepositie te versterken. Een recent voorbeeld van deze trend is Meta's interesse in de overname van het Zuid-Koreaanse AI-chipstartup FuriosaAI.
FuriosaAI, gevestigd in Seoul en opgericht in 2017, staat onder leiding van June Paik, die eerder werkte bij Samsung Electronics en AMD. Het bedrijf heeft zich gespecialiseerd in het ontwerpen van AI-chips die zijn geoptimaliseerd voor het uitvoeren van AI-modellen, een proces dat bekend staat als inferentie. Hun recent ontwikkelde RNGD-chip, in samenwerking met Global Unichip, biedt een energie-efficiënte oplossing met een thermisch vermogen (TDP) van slechts 150 watt, wat de chip ideaal kan maken voor datacenters waar grote AI-modellen - zoals Meta's Llama 2 en Llama 3 - worden ‘gedraaid’.
De RNGD-chip van FuriosaAI zou drie keer betere prestaties per watt bieden dan Nvidia's H100 GPU’s. Dat maakt het een aantrekkelijke optie voor bedrijven die op zoek zijn naar alternatieven voor de huidige marktleider. De chip is uitgerust met HBM3-geheugen van SK Hynix, wat cruciaal is voor AI-berekeningen. De massaproductie van de RNGD-chip staat gepland voor de tweede helft van dit jaar, en bedrijven zoals LG's AI-onderzoekslab en Saudi Arabian Oil hebben al interesse getoond om servers op basis van deze chips in gebruik te nemen.
De potentiële overname van FuriosaAI door Meta past in een bredere trend waarin hyperscalers hun eigen aangepaste chips ontwikkelen. Dit vermindert niet alleen de afhankelijkheid van leveranciers zoals Nvidia, maar biedt ook de mogelijkheid om hardware en software beter op elkaar af te stemmen en hun datacenterinfrastructuur efficiënter te maken.
De verticale integratie van hyperscalers is niet alleen beperkt tot chipontwikkeling. Bedrijven zoals OpenAI werken ook aan hun eigen aangepaste chips, wat aangeeft dat de race om de beste AI-hardware steeds intensiever wordt. Deze ontwikkelingen tonen aan dat de toekomst van AI-technologie steeds meer zal worden bepaald door de capaciteit van bedrijven om zowel hardware als software in eigen hand te houden. Voor datacenters kan dit straks gaan leiden tot nieuwe hardware en infrastructuren.
Meer over
Lees ook
AWS stookt met nieuw rapport vuurtje op onder discussie over on-premise versus colocatie
De discussie over de efficiëntie van on-premise infrastructuren versus cloud-oplossingen heeft nieuwe brandstof gekregen door een recent gepubliceerd rapport van Amazon Web Services (AWS). Dit rapport, uitgevoerd door Accenture, probeert aan te tonen dat geoptimaliseerde workloads op AWS tot vier keer efficiënter kunnen zijn dan dezelfde workloads1
CoreWeave slaat Nederland over voor Europese AI-datacenters
AI-hyperscaler CoreWeave kondigt aan dat het $2,2 miljard zal investeren om drie nieuwe datacenters te openen in continentaal Europa tegen eind 2025. Deze nieuwe datacenters zullen worden gevestigd in Noorwegen, Zweden en Spanje.
Rapport: capaciteit hyperscale datacenters verdubbelt iedere 4 jaar
Nieuwe gegevens van Synergy Research Group tonen aan dat het aantal grote datacenters die worden beheerd door hyperscale providers is gestegen tot 992 aan het einde van 2023. Begin 2024 zal de duizendgrens worden overschreden.