El consumo energético de ChatGPT es mucho menor de lo que se pensaba
Investigaciones recientes indican que el consumo energético de ChatGPT es mucho menor de lo estimado, colocando su eficiencia en comparación con búsquedas en Google.
Recientes investigaciones de Epoch AI sugieren que el consumo energético de ChatGPT es significativamente menor de lo que se había estimado anteriormente. Según sus hallazgos, una interacción con el modelo consumiría solo 0.3 Wh de electricidad, lo que representa diez veces menos que la estimación anterior de 3 Wh. Para poner esto en perspectiva, el consumo de energía de una búsqueda en Google es de aproximadamente 0.0003 kWh por búsqueda, lo que sugiere que una interacción con GPT-4o podría consumir la misma cantidad de energía que realizar una búsqueda en Google.
Epoch AI explica que esta nueva estimación se basa en suposiciones más realistas sobre el número de tokens de salida y el uso de servidores de tecnología más reciente, como los chips Nvidia H100, en lugar de los A100 utilizados en estimaciones anteriores. Este ajuste proporciona una imagen más precisa de un ChatGPT menos hambriento de energía. Sin embargo, la empresa advierte que existe incertidumbre en parámetros como el uso y la cantidad de parámetros, lo que podría afectar las estimaciones, especialmente en consultas más largas, donde el consumo podría incrementarse sustancialmente, alcanzando entre 2.5 y 40 Wh.
Es crucial considerar también los posibles beneficios de la inteligencia artificial para el consumo energético. La integración de herramientas como ChatGPT puede contribuir a la producción de energía y aumentar la productividad en tareas que antes requerían más tiempo y recursos. Por ejemplo, actividades manuales que podrían demandar 10 minutos de uso continuo de computadora podrían completarse en solo un minuto con la ayuda de la inteligencia artificial, reduciendo así el consumo total de energía.
Aunque el proceso de entrenamiento de modelos de lenguaje conlleva un consumo significativo de energía, Epoch AI señala que los beneficios de estos entrenamientos están comenzando a estabilizarse, lo que podría limitar la necesidad de entrenamientos a gran escala en el futuro. A pesar de los avances, la empresa resalta la importancia de una mayor transparencia por parte de OpenAI y otras empresas de inteligencia artificial, lo que permitiría obtener estimaciones más precisas sobre el consumo energético de estas tecnologías.
En un panorama en constante evolución como el de la inteligencia artificial, es fundamental adoptar un enfoque integral que contemple tanto los costos como los beneficios y la sostenibilidad del sistema en su conjunto.