Oímos muchas preocupaciones sobre la nueva ola de IA generativa, desde los puestos de trabajo humanos que podría sustituir hasta su potencial para crear desinformación y hackeos.
Pero un aspecto que a menudo se pasa por alto es la enorme cantidad de energía que consumen estos sistemas. En un futuro no muy lejano, la tecnología podría consumir la misma cantidad de electricidad que un país entero.
Alex de Vries, investigador de la Universidad Libre de Ámsterdam, es el autor del paper “The Growing Energy Footprint of Artificial Intelligence”, que examina el impacto medioambiental de los sistemas de IA.
Fases y consumos de la IA desde sus comienzos
De Vries señala que la fase de entrenamiento de los grandes modelos lingüísticos suele ser la que más energía consume, por lo que ha sido el centro de la investigación sobre sostenibilidad en IA.
Tras el entrenamiento, los modelos se despliegan en un entorno de producción y comienzan la fase de inferencia. En el caso de ChatGPT, esto implica generar respuestas en directo a las consultas de los usuarios.
Se ha investigado poco la fase de inferencia, pero De Vries cree que hay indicios de que este periodo puede contribuir significativamente a los costes del ciclo de vida de un modelo de IA.
Según la empresa de investigación SemiAnalysis, OpenAI necesitó 3.617 servidores Nvidia HGX A100, con un total de 28.936 GPU, para dar soporte a ChatGPT, lo que supone una demanda de energía de 564 MWh al día.
A modo de comparación, se calcula que en la fase de entrenamiento de GPT-3 se utilizaron 1.287 MWh, por lo que la demanda energética de la fase de inferencia fue considerablemente mayor.
Google, que informó de que el 60 % del consumo de energía relacionado con la IA de 2019 a 2021 procedía de la inferencia, está integrando funciones de IA en su motor de búsqueda.
Ya en febrero, el presidente de Alphabet, John Hennessy, dijo que un solo intercambio de usuarios con un servicio de búsqueda impulsado por IA “probablemente cuesta diez veces más que una búsqueda estándar de palabras clave.”
Con una demanda energética de 6,5 kW por servidor, esto se traduciría en un consumo diario de electricidad de 80 GWh y un consumo anual de 29,2 TWh, aproximadamente la misma cantidad que utiliza Irlanda cada año.
Es poco probable que esto ocurra pronto, entre otras cosas porque Nvidia no tiene capacidad de producción para suministrar más de medio millón de servidores HGX y a Google le costaría 100.000 millones de dólares comprarlos.
