A quel point les chatbots IA sont-ils énergivores?
Parmi les principaux chatbots qui reposent sur un grand modèle de langage, l'IA du moteur de recherche Bing de Microsoft se démarque, en se montrant 20 fois plus énergivore que Google Bard.
ChatGPT est actuellement l'application la plus populaire parmi les outils d’IA générative. Le chatbot d'OpenAI enregistre actuellement 16 millions de recherches par mois, contre 201’000 pour Google Bard, selon une étude de TRG Datacenters. L'exploitant texan de centres de données y indique non seulement les chiffres d'utilisation, mais aussi la consommation d'énergie estimée des chatbots les plus utilisés. Verdict: l'assistant IA de Microsoft Bing consomme de loin le plus d'électricité, à savoir 7200 mégawattheures (MWh).
Les auteurs de l'étude expliquent leur méthodologie: Bing utilise le Large Language Model (LLM) GPT-4 d'OpenAI. Celui-ci comporte 100 billions de paramètres (5,8 fois plus que GPT-3). Le modèle devrait donc nécessiter 5,8 fois plus de pétaflops/seconde-jours de calcul que GPT-3. Au total, GPT-4 nécessiterait donc 21'000 pétaflops/seconde-jours de calcul.
Bard consomme moins d'énergie
Quel que soit le modèle linguistique d'OpenAI, Google Bard consomme en comparaison nettement moins d'énergie, selon l'étude de TRG. Les résultats indiquent que le chatbot IA de la firme de Mountain View consommerait 312 MWh, soit plus de 20 fois moins que Bing. Les analystes partent du principe que l'IA de Google, avec ses 137 milliards de paramètres, consomme 3640 pétaflops/s-jours pour traiter les requêtes.
