GreenOps pour l'Intelligence Artificielle
Contrairement aux idées reçues, l'essentiel de l'empreinte de l'IA ne vient pas de l'entraînement des modèles mais de leur usage quotidien, où tout reste à optimiser. Nous mesurons cet impact à la maille du jeton (le volume de texte traité) et actionnons les leviers pour le réduire, ce qui allège presque toujours la facture au passage.
DÉFIS
Cadre d'intervention et défis macros
Sur le plan organisationnel, l'IA est généralement pilotée par des équipes récentes dotées de budgets autonomes alors que Flexera montre que 47 % des grandes entreprises possèdent désormais une gouvernance dédiée. Ces structures fonctionnent en silos étanches par rapport aux équipes FinOps ou durabilité, ce qui fait croître la consommation plus vite que la visibilité. Sur le plan méthodologique, les services gérés par les fournisseurs masquent totalement le matériel utilisé, le taux de charge réel et les mécanismes de mutualisation. Toute estimation repose par conséquent sur des hypothèses qu'il devient indispensable de formaliser clairement plutôt que de deviner.
Périmètre d'intervention
Dimensions et enjeux traités sur le terrain
Le jeton comme unité de mesure et de pilotage
Sur les services d'IA générative, l'unité facturée et l'unité de consommation énergétique coïncident : le jeton, fragment de texte traité par le modèle. La consommation totale s'écrit comme la somme de l'énergie par jeton d'entrée multipliée par le nombre de jetons d'entrée, et de l'énergie par jeton de sortie multipliée par le nombre de jetons de sortie. En usage d'entreprise, les jetons d'entrée dominent largement : résumer un document de vingt pages consomme des milliers de jetons d'entrée pour quelques centaines de jetons de sortie. Cette asymétrie oriente les leviers, car agir sur ce qui est envoyé au modèle produit davantage que d'agir sur ce qu'il renvoie. Les jetons ne se limitent pas au texte : images, fichiers, audio et vidéo sont également découpés en jetons, à des coûts unitaires très supérieurs.
Énergie par jeton, ce qui la fait varier d'un ordre de grandeur
L'énergie par jeton n'est pas une constante mais le résultat de six facteurs : la taille du modèle en paramètres actifs, c'est-à-dire ceux réellement mobilisés à chaque requête, son architecture, le niveau de quantification appliqué, la génération de processeur graphique qui l'exécute, la longueur du message traité, et surtout le taux de regroupement des requêtes. Un modèle de sept milliards de paramètres consomme une fraction de ce que consomme un modèle de soixante-dix milliards pour la même requête. Sur des tâches répétitives et bien définies, classification, traduction ou extraction, un modèle spécialisé de petite taille peut consommer plus de 90 % d'énergie en moins qu'un modèle généraliste de grande capacité produisant un résultat équivalent. Nous établissons, pour vos familles d'usage, l'écart réel entre le modèle utilisé par défaut et le modèle suffisant.
Mise en cache de préfixe et structure des messages
Lorsque le début d'un message est identique d'une requête à l'autre, le fournisseur peut réutiliser le travail déjà effectué au lieu de le refaire. Le mécanisme est automatique, mais il dépend entièrement de la structure : il ne se déclenche que si les premiers jetons sont strictement identiques, seuil fixé à 1 024 jetons sur Azure OpenAI par exemple. Un assistant interrogeant une politique interne de vingt pages illustre l'enjeu. Placer les instructions et le document en tête, la question de l'utilisateur en fin, permet de ne traiter le document qu'une fois. Inverser cet ordre le fait retraiter à chaque requête. La différence est invisible pour l'utilisateur et considérable sur la consommation. L'indicateur à suivre est la part de jetons servis depuis le cache.
Regroupement des requêtes et arbitrage de latence
Un processeur graphique traite dix requêtes groupées pour moins d'énergie totale que dix requêtes isolées. Le coût fixe de chargement du modèle et d'allocation mémoire est réparti, et le débit obtenu compense largement la hausse de puissance appelée. Le regroupement ne s'applique évidemment pas partout. Il est exclu pour un agent conversationnel ou une assistance au développement en direct, où l'utilisateur attend une réponse immédiate. Il devient pertinent pour l'analyse de rapports, la qualification de tickets, l'étiquetage de volumes de contenu ou le résumé de documents en lot, tout ce qui tolère un délai. Le travail utile consiste à trier les usages selon cette seule question : ce traitement doit-il aboutir maintenant, ou peut-il attendre ?
Sobriété des usages et conception des messages
Trois motifs récurrents gonflent la consommation sans améliorer le résultat : envoyer un document entier quand une section suffit, répéter à chaque requête des instructions système verbeuses, retraiter des données inchangées qui pouvaient être mises en cache. S'y ajoute l'absence de consigne sur la longueur de sortie, dont l'effet énergétique est démontré. Ces leviers relèvent moins de l'ingénierie que de la pratique : formuler des instructions courtes et précises, industrialiser les modèles de messages plutôt que laisser chacun réécrire son contexte, mutualiser un référentiel de contexte d'entreprise validé, qui améliore simultanément la constance de la qualité produite et le taux de mise en cache. Enfin, l'arbitrage amont demeure, car un traitement déterministe suffit parfois là où un modèle génératif est appelé par habitude.
Région, temporalité et contraintes propres à l'IA
Les leviers classiques de localisation et de décalage horaire s'appliquent, avec trois restrictions spécifiques. Le choix de région est souvent réduit, voire absent, sur les services entièrement gérés et globalisés. La capacité en processeurs graphiques est concentrée sur un petit nombre de régions, ce qui contraint mécaniquement le placement indépendamment de toute considération environnementale. Enfin certaines fonctionnalités, dont le traitement par lots, ne sont pas disponibles partout, et optimiser la localisation peut fermer une option d'optimisation plus efficace. À cela s'ajoute la densité électrique par baie, qui impose le refroidissement liquide et modifie les profils de rendement énergétique et hydrique des installations concernées, invalidant l'usage des moyennes de flotte.
MÉTHODOLOGIE
Une démarche pragmatique et adaptée à votre niveau de maturité
- 01
Cartographier les usages et leur volumétrie
Recensement des services d'IA consommés, des équipes utilisatrices et des volumes de jetons d'entrée et de sortie par cas d'usage. Identification des usages non gouvernés, fréquents dès lors que l'adoption a précédé la mise en place d'un cadre. Cette étape établit où se concentre réellement la consommation, qui suit rarement la répartition supposée.
- 02
Établir le modèle d'estimation énergétique
Application de l'énergie par jeton par famille de modèle et de matériel, à partir des données publiées et des travaux de référence disponibles, puis passage aux émissions et à la consommation d'eau selon la chaîne de calcul déjà établie sur nos autres missions. Les hypothèses de modèle sous-jacent, de matériel supposé et de taux de regroupement sont documentées et leur effet sur le résultat quantifié.
- 03
Instruire les leviers par cas d'usage
Pour chaque usage significatif : adéquation du modèle à la tâche, potentiel de mise en cache au regard de la structure des messages, éligibilité au regroupement selon la contrainte de latence, réduction du volume envoyé. Chaque levier est chiffré en euros et en gCO₂e, avec l'effort d'ingénierie et le risque de qualité en regard.
- 04
Ancrer dans la pratique des équipes
Traduction en règles applicables : routage vers le modèle adapté à la nature de la tâche, référentiel de contexte partagé, conventions de structure des messages garantissant la mise en cache, file de traitement pour les usages différables, indicateurs suivis conjointement par les responsables de l'IA, du FinOps et de la durabilité. Ces trois fonctions décident aujourd'hui séparément sur le même objet.
EXEMPLE CHIFFRÉ
Entraînement ou usage, où porter l'effort
L'intuition dominante attribue l'essentiel de l'empreinte de l'IA à l'entraînement des modèles. Deux ordres de grandeur publiés la contredisent.
- Émissions cumulées de l'usage contre celles d'un entraînement
- Mistral AI indique qu'un de ses modèles de taille réduite traitant un million de milliards de jetons émet de l'ordre de 3 000 ktCO₂e, quand l'entraînement d'un modèle plus grand en émet environ 20,4 ktCO₂e. Google a rapporté que son modèle Gemini avait traité 1,3 million de milliards de jetons, ce qui donne l'échelle atteinte en production.
- Un entraînement contre une journée de service
- Un modèle de taille moyenne demande environ 1 GWh à l'entraînement. Servir neuf milliards de requêtes, soit une journée d'activité pour un moteur de recherche de grande diffusion, consomme de l'ordre de 26 GWh. Sur une année, l'entraînement devient négligeable devant le cumul de l'inférence.
L'entraînement se traite comptablement comme une émission amont, amortie sur le volume servi, au même titre que la fabrication du matériel. Vous ne le pilotez pas. L'inférence, elle, dépend de décisions que vos équipes prennent chaque jour : quel modèle est appelé, quelle quantité de contexte est envoyée, quelle longueur de réponse est demandée, quelles requêtes attendent et lesquelles partent immédiatement. La montée en puissance des systèmes agentiques, qui enchaînent plusieurs requêtes pour accomplir une tâche, ne fera qu'accentuer ce déséquilibre.
LIVRABLES
Exemples de livrables
- Cartographie des usages d'IA par équipe, cas d'usage et volumétrie de jetons d'entrée et de sortie
- Modèle d'estimation énergétique par famille de modèle, avec hypothèses documentées et quantification de leur effet sur le résultat
- Analyse d'adéquation entre le modèle et la tâche, chiffrant l'écart entre le modèle utilisé par défaut et le modèle suffisant
- Diagnostic de mise en cache : taux actuel, potentiel accessible, conventions de structure des messages à adopter
- Tri des usages selon leur contrainte de latence et identification des traitements éligibles au regroupement
- Référentiel de contexte d'entreprise partagé, améliorant la constance des résultats et le taux de réutilisation
- Chiffrage des leviers en euros et en gCO₂e, avec effort d'ingénierie et risque de qualité associés
- Jeu d'indicateurs intégrable à vos tableaux de bord de coût et d'empreinte existants
- Note de position sur les usages non gouvernés et le chemin de régularisation proposé
KPIS
Indicateurs de pilotage
- Jetons d'entrée et de sortie consommés par cas d'usage et par équipe
- Part des jetons d'entrée servis depuis le cache
- Part des jetons traités en lot plutôt qu'à l'unité, sur les usages non contraints par la latence
- Énergie et émissions par requête, et par unité fonctionnelle métier
- Longueur moyenne des messages d'entrée et de sortie par cas d'usage
- Coût et émissions rapportés à la même unité, suivis conjointement
FAQ
Questions fréquentes
Poursuivre la lecture
- Mesure environnementale
La méthode de mesure appliquée aux usages d'IA.
- Optimisations et éco-conception
Les mêmes principes de sobriété, hors périmètre IA.
- Sources d'énergie et localisation
La localisation des entraînements et des inférences.
- Intelligence Artificielle & GenAI
Le même cycle d'inférence, piloté côté coûts.