Gran cita: Las altas demandas de energía para GenAI y otros LLM están acelerando la necesidad de sistemas más eficientes energéticamente. La directora ejecutiva de AMD, Lisa Su, confía en que la empresa está en el camino correcto para aumentar la eficiencia energética de los centros de datos 100 veces en los próximos tres años.
Mire donde mire, hay un nuevo servicio de IA para mejorar su vida personal o laboral. La Búsqueda de Google ahora incorpora su IA Gemini para resumir los resultados de búsqueda, pero esto tiene un costo de energía diez veces mayor (con malos resultados) en comparación con la búsqueda sin IA. La popularidad mundial de la IA generativa ha acelerado la necesidad de una rápida expansión de los centros de datos y las demandas de energía.
Goldman Sachs estima que los requisitos de energía del centro de datos crecerá en un 160% para 2030. Este es un gran problema para países como Estados Unidos y Europa, donde la edad promedio de las redes eléctricas regionales es de 50 y 40 años, respectivamente. En 2022, los centros de datos consumieron el 3% de la energía estadounidense y las proyecciones sugieren que esta cifra aumentará al 8% para 2030. “No hay manera de llegar allí sin un gran avance”. dice OpenAI cofundador Sam Altman.
Lisa Su, directora ejecutiva de AMD, analizó los éxitos pasados y los planes futuros para mejorar la eficiencia de los nodos informáticos en la conferencia ITF World 2024. En 2014, AMD se comprometió a fabricar sus CPU móviles 25% más eficiente en un 2020 (25×20). Superaron ese objetivo al lograr 31,7% de eficiencia.
En 2021, AMD vio la evidencia sobre el crecimiento exponencial de las cargas de trabajo de IA y los requisitos de energía para operar estos sistemas complejos. Para ayudar a mitigar la demanda de energía, AMD estableció un objetivo de 30×25 para la eficiencia de los nodos de cómputo centrándose en varias áreas clave.
Comienza con mejoras en el nodo de proceso y el empaquetado, que son los componentes fundamentales de la fabricación de CPU/GPU. Al utilizar transistores Gate-All-Around (GAA) de 3 nm, se mejorará la eficiencia energética y el rendimiento por vatio, una evolución de los transistores FinFET 3D. Además, el continuo perfeccionamiento de las técnicas de empaquetado (por ejemplo, chiplets, apilamiento 3D) le da a AMD la flexibilidad de intercambiar varios componentes en un solo paquete.
La siguiente área de atención son las arquitecturas de hardware aceleradas optimizadas para IA. Se conocen como unidades de procesamiento neuronal (NPU) y se encuentran en SoC móviles como la serie Snapdragon 8 Gen desde hace años. A principios de este año, AMD lanzó el Ryzen 8700G, que fue el primer procesador de escritorio con un motor de inteligencia artificial incorporado. Este hardware dedicado permite a la CPU descargar tareas informáticas intensivas de IA a la NPU, mejorando la eficiencia y reduciendo el consumo de energía.
Los últimos pilares de este objetivo 30×25 son el ajuste a nivel del sistema y el codiseño de software/hardware. El ajuste a nivel de sistema es otra rama de la iniciativa de empaquetado avanzado, centrada en reducir la energía necesaria para mover datos físicamente dentro de estos grupos de computadoras. El codiseño de software/hardware tiene como objetivo mejorar los algoritmos de IA para que funcionen de manera más efectiva con las NPU de próxima generación.
Lisa Su confía en que AMD está en camino de alcanzar el objetivo de 30×25, pero ve un camino para lograr una mejora de 100 veces para 2027. AMD y otros líderes de la industria están contribuyendo a abordar las necesidades de energía para nuestras vidas mejoradas por la IA en esta nueva era de la informática. .