Mistral AI zet stap naar wereldwijde milieustandaard voor AI

De Europese leverancier van AI-technoloogie Mistral heeft een studie uitgevoerd om de milieu-impact van hun Large Langiuage Models (LLMs) te kwantificeren. Deze studie, uitgevoerd in samenwerking met Carbone 4 en het Franse agentschap voor ecologische transitie (ADEME), vormt een belangrijke stap in de richting van transparantie en duurzaamheid in de AI-sector.

Mistral heeft als eerste AI-bedrijf een uitgebreide levenscyclusanalyse (LCA) van een AI-model uitgevoerd. Deze analyse meet de milieu-impact van de ontwikkeling en het gebruik van LLMs in drie categorieën: broeikasgasemissies (GHG), watergebruik en uitputting van hulpbronnen.

De resultaten tonen aan dat het trainen van Mistral Large 2 tot januari 2025 de volgende impact had:

• 20,4 kiloton CO₂-equivalent
• 281.000 kubieke meter waterverbruik
• 660 kilo Sb eq (standaard eenheid voor uitputting van hulpbronnen)

Voor het gebruik van hun AI-assistent Le Chat voor een antwoord van 400 tokens (exclusief gebruikersapparaten) zijn de marginale impactcijfers:

• 1,14 gram CO₂-equivalent
• 45 milliliter water
• 0,16 milligram Sb eq

De studie benadrukt het belang van drie indicatoren voor het begrijpen en beheren van de milieu-impact van LLMs: de absolute impact van het trainen van een model, de marginale impact van inferentie en de verhouding tussen totale inferentie en totale levenscyclusimpact

De resultaten laten een sterke correlatie zien tussen de grootte van een model en zijn milieu-impact. Een model dat tien keer groter is, zal bijvoorbeeld een impact hebben die een orde van grootte groter is dan een kleiner model voor dezelfde hoeveelheid gegenereerde tokens.

Wereldwijde milieustandaard voor AI

Mistral AI pleit voor meer transparantie en vergelijkbaarheid in de AI-sector door het publiceren van de milieu-impact van modellen met behulp van gestandaardiseerde, internationaal erkende kaders. Dit zou kunnen leiden tot een scoringsysteem dat kopers en gebruikers helpt de minst koolstof-, water- en materiaalintensieve modellen te identificeren.

Vanuit het perspectief van de gebruiker kunnen efficiëntiepraktijken een significant verschil maken:

• Het ontwikkelen van AI-geletterdheid om mensen te helpen GenAI op de meest optimale manier te gebruiken.
• Het kiezen van de modelgrootte die het beste past bij de behoeften van de gebruiker
• Het groeperen van query's om onnodige berekeningen te beperken