Facebook bespaart op energieverbruik door workloads slim over servers te verdelen
Facebook zet Autoscale in om het energieverbruik van zijn datacenters terug te dringen. Autoscale is een tool die is ontworpen om samen te werken met load balancers, die zorgen dat de workload wordt verdeeld over servers in clusters. Autoscale zorgt dat deze load balancers tijdens deze verdeling energie-efficiëntie in het oog houden, wat voor een flinke energiebesparing zorgt.
Qiang Wu, infrastructure software engineer bij Facebook, beschrijft het gebruik van Autoscale in een blogpost. Het systeem is op dit moment al in gebruik in de datacenters van het social media-bedrijf. Facebook heeft veel te maken met fluctuaties in belasting. Autoscale speelt hier op in en pakt de inefficiëntie van load balancers aan.
Belasting efficiënt verdelen over servers
Load balancers verdeelde voorheen iedere workload, ongeacht de omvang, over alle servers in het cluster dat de balancer beheerd. De CPU's van deze servers werden hierdoor tijdens daluren nauwelijks belast, terwijl een minimale belasting wel veel energie verbruikt. Dit is niet efficiënt. Als voorbeeld noemt Wu een server die in standby-stand 60 watts verbruikt, bij minimale CPU-belasting 130 watts en bij medium CPU-belasting 150 watts. Het verschil in energieverbruik tussen een server die standby staat en minimaal wordt belast is groot, terwijl het verschil tussen een server met minimale CPU-belasting of medium CPU-belasting veel kleiner is.
Hier speelt Facebook met Autoscale op in. De tool zorgt ervoor dat load balancers workloads op een andere wijze verdelen, wat voorkomt dat servers met een minimale CPU-belasting draaien. Sommige servers worden hierdoor zwaarder belast, terwijl andere standby kunnen blijven staan. Het aantal actieve servers in een cluster wordt hierdoor dus aanzienlijk teruggedrongen, wat ook terug te zien is in het energieverbruik van het datacenter. Per cluster zou de inzet van Autoscale tussen de 10 en 15% minder energie verbruiken.
Dossiers
Meer over
Lees ook
Kansen voor datacenterindustrie nu EU met InvestAI 200 miljard investeert in AI
Op de AI Action Summit in Parijs heeft Ursula von der Leyen, voorzitter van de Europese Commissie, het InvestAI-initiatief gelanceerd. Dit initiatief heeft tot doel 200 miljard euro te mobiliseren voor investeringen in kunstmatige intelligentie (AI), waaronder een nieuw Europees fonds van 20 miljard euro voor AI-datacenters.
Mistral AI bouwt groot AI-datacenter in Parijs
Mistral AI, de Europese tegenhanger van OpenAI, heeft plannen bekend gemaakt om zijn eerste AI-cluster in Frankrijk te bouwen om zijn trainingsevenwijzen verder te ondersteunen. Het Franse AI-bedrijf, dat bekend staat om populaire open source-modellen als Mistral-7B, Mixtral en Codestral, heeft steun ontvangen van bedrijven als Nvidia, Cisco en IB1
iPronics haalt 20 miljoen op om optische netwerken voor AI-datacenters te verbeteren
iPronics, een Spaanse deep tech-startup op het gebied van software-defined fotonische netwerken, heeft een financieringsronde van 20 miljoen euro afgerond. Deze investering is bedoeld om de implementatie van de iPronics Optical Networking Engine (ONE) in AI-datacenters te versnellen