Mistral AI zet stap naar wereldwijde milieustandaard voor AI
De Europese leverancier van AI-technoloogie Mistral heeft een studie uitgevoerd om de milieu-impact van hun Large Langiuage Models (LLMs) te kwantificeren. Deze studie, uitgevoerd in samenwerking met Carbone 4 en het Franse agentschap voor ecologische transitie (ADEME), vormt een belangrijke stap in de richting van transparantie en duurzaamheid in de AI-sector.
Mistral heeft als eerste AI-bedrijf een uitgebreide levenscyclusanalyse (LCA) van een AI-model uitgevoerd. Deze analyse meet de milieu-impact van de ontwikkeling en het gebruik van LLMs in drie categorieën: broeikasgasemissies (GHG), watergebruik en uitputting van hulpbronnen.
De resultaten tonen aan dat het trainen van Mistral Large 2 tot januari 2025 de volgende impact had:
- 20,4 kiloton CO₂-equivalent
- 281.000 kubieke meter waterverbruik
- 660 kilo Sb eq (standaard eenheid voor uitputting van hulpbronnen)
Voor het gebruik van hun AI-assistent Le Chat voor een antwoord van 400 tokens (exclusief gebruikersapparaten) zijn de marginale impactcijfers:
- 1,14 gram CO₂-equivalent
- 45 milliliter water
- 0,16 milligram Sb eq
De studie benadrukt het belang van drie indicatoren voor het begrijpen en beheren van de milieu-impact van LLMs: de absolute impact van het trainen van een model, de marginale impact van inferentie en de verhouding tussen totale inferentie en totale levenscyclusimpact
De resultaten laten een sterke correlatie zien tussen de grootte van een model en zijn milieu-impact. Een model dat tien keer groter is, zal bijvoorbeeld een impact hebben die een orde van grootte groter is dan een kleiner model voor dezelfde hoeveelheid gegenereerde tokens.
Wereldwijde milieustandaard voor AI
Mistral AI pleit voor meer transparantie en vergelijkbaarheid in de AI-sector door het publiceren van de milieu-impact van modellen met behulp van gestandaardiseerde, internationaal erkende kaders. Dit zou kunnen leiden tot een scoringsysteem dat kopers en gebruikers helpt de minst koolstof-, water- en materiaalintensieve modellen te identificeren.
Vanuit het perspectief van de gebruiker kunnen efficiëntiepraktijken een significant verschil maken:
- Het ontwikkelen van AI-geletterdheid om mensen te helpen GenAI op de meest optimale manier te gebruiken.
- Het kiezen van de modelgrootte die het beste past bij de behoeften van de gebruiker
- Het groeperen van query's om onnodige berekeningen te beperken
Meer over
Lees ook
Veolia introduceert Data Center Resource 360 platform
Veolia introduceert met Data Center Resource 360 een geïntegreerd platform dat zich richt op het verduurzamen en optimaliseren van datacenters.
Microsoft grootste CO₂-verwijderingsprogramma ter wereld tijdelijk stil
Microsoft zet zijn programma voor de inkoop van CO₂-verwijderingscredits voorlopig deels on hold. Dat meldt Bloomberg op basis van bronnen die bekend zijn met de situatie. Het besluit raakt een markt waarin Microsoft de afgelopen jaren veruit de grootste speler was
Job Witteman over het stroominfarct, datacenters en de noodzaak van gerichte regelgeving
Ik pleit voor een versnelling van gerichte regelgeving voor het verlagen van de ecologische druk op schaarse zaken als stroom, water en ruimte. Deze doelstelling moet zijn het bevorderen van onze digitale positie binnen Europa om ook de komende decennia hiervan te kunnen profiteren.