Microsoft amplía la infraestructura de Azure AI y HPC con AMD

Un gráfico que muestra tres chips de procesador iluminados expuestos uno al lado del otro sobre un fondo azul oscuro y debajo de los encabezados: "Diseñado para sistemas de datos de IA" (Azure HDv2), "Diseño de silicio y computación técnica" (Azure HXv2) y "Inferencia de IA a escala de producción" (ND MI455X v7). Las patatas fritas brillan en tonos de azul y cian.

Las cargas de trabajo de IA se están escalando más rápido de lo que cualquier enfoque de infraestructura individual puede soportar, con más modelos, nuevas cargas de trabajo impulsadas por agentes y una demanda de computación en aumento que impulsa la necesidad de una mayor especialización en toda la pila. Para satisfacer esta necesidad, Microsoft continúa evolucionando la infraestructura de Azure, incluida la expansión de su flota de IA con las soluciones de IA y computación de alto rendimiento (HPC) más avanzadas de AMD.

Nuestro enfoque de la infraestructura de IA está diseñado para apoyar la amplitud de cómo se construyen y ejecutan los sistemas de IA. Trabajamos en estrecha colaboración con innovadores de la industria como AMD, así como con nuestro propio silicio y sistemas especialmente diseñados para proporcionar a los clientes una plataforma completa, abierta y heterogénea para lograr los mejores resultados de rendimiento, costo y eficiencia energética.

Basándose en nuestra estrecha colaboración con AMD, Microsoft está trayendo la última plataforma Helios AI de AMD y los procesadores de centros de datos EPYC de próxima generación a Azure. Estas tecnologías impulsarán tres próximas ofertas de Azure: máquinas virtuales HDv2 para procesamiento de datos, máquinas virtuales HXv2 para automatización de diseño electrónico (EDA) y máquinas virtuales ND MI455X v7 para cargas de trabajo de inferencia de IA.

Infraestructura ampliada para inferencia, sistemas de datos de IA y diseño de chips

Construido para sistemas de datos de IA — Azure HDv2

La infraestructura de la CPU es esencial para el rendimiento y la eficiencia de los sistemas modernos de IA. Los aceleradores de IA dependen de la computación de CPU de alta densidad y eficiencia energética para procesar datos, coordinar cargas de trabajo y mantener las tuberías funcionando a escala. Sin esto, los trabajos de capacitación no tienen suficientes datos para aprender, y los agentes no tienen suficiente capacidad para realizar tareas en nombre de los clientes. Las máquinas virtuales Azure HDv2 son una de nuestras últimas ofertas diseñadas desde cero para eliminar estos cuellos de botella y potenciar la adopción masiva de cargas de trabajo de agentes.

Codiseñadas con AMD, las máquinas virtuales HDv2 amplían la cartera de soluciones especialmente diseñadas de Azure para las cargas de trabajo de CPU más exigentes de los clientes de IA, incluida la preparación de datos, la búsqueda, el aprendizaje por refuerzo y la coordinación de agentes a escala. Con casi 500 núcleos físicos de CPU AMD EPYC de sexta generación, 4 terabytes de RAM, 32 terabytes de almacenamiento local NVMe y redes Azure Boost de 400 Gb, las máquinas virtuales HDv2 están diseñadas para las necesidades de carga de trabajo de nuestros clientes de IA más exigentes.

Optimizado para el diseño de silicio y la computación técnica - Azure HXv2

La era de la IA ha creado una tremenda necesidad y oportunidad para las empresas que desarrollan los productos de silicio que impulsan esta infraestructura. Por esta razón, las máquinas virtuales Azure HX, lanzadas en asociación con AMD en 2023 y con la tecnología única 3D V-cache de AMD, han visto una adopción significativa entre las empresas de diseño de silicio que trabajan para llevar al mercado un silicio de IA más capaz y eficiente. Hoy, anunciamos el siguiente paso en nuestro viaje optimizado para la carga de trabajo para estos clientes, HXv2.

Las máquinas virtuales HXv2 se basan y amplían las fortalezas de HX. Ambas continúan la diferenciación que Azure ofrece para las cargas de trabajo de simulación RTL al emplear nuevamente la tecnología 3D V-cache, al tiempo que ofrecen mejoras significativas en el rendimiento y la memoria de un solo hilo. Las máquinas virtuales HXv2 contarán con 176 núcleos de CPU AMD EPYC de sexta generación con una frecuencia de reloj de más de 5 GHz, un 50 % más de caché direccionable por núcleo y tamaños de máquina virtual con casi 2 o 4 terabytes de RAM, ayudando a los clientes a optimizar sus cargas de trabajo según las necesidades de memoria.

Azure HXv2 también está diseñado para admitir una gama más amplia de cargas de trabajo informáticas técnicas, incluyendo simulación científica, análisis de ingeniería y otras aplicaciones de memoria distribuida. El aumento significativo del rendimiento por VM y por núcleo, y la inclusión de 800 Gb InfiniBand, permiten simulaciones basadas en MPI a gran escala y hacen que HXv2 sea ideal para una amplia variedad de clientes de HPC.

AMD, un cliente líder de la serie HX, destaca este impacto directamente:

"Los equipos de ingeniería están ampliando los límites de la simulación, el diseño de chips y la informática científica. En AMD, experimentamos esas demandas de primera mano a medida que diseñamos futuras CPU AMD EPYC y GPU AMD Instinct. Azure HX es una plataforma importante para escalar cargas de trabajo complejas de EDA, y estamos entusiasmados con Azure HXv2, que está diseñado para ofrecer un rendimiento y una escalabilidad aún mayores. Esperamos continuar nuestra colaboración con Microsoft mientras ayudamos a avanzar en la infraestructura para las cargas de trabajo de ingeniería y científicas más exigentes del mundo".

— Mark Papermaster, Vicepresidente Ejecutivo y CTO, AMD

El HXv2 también aprovecha la colaboración de larga data de Microsoft para optimizar las soluciones EDA impulsadas por IA de Synopsys en Azure:

"A medida que la computación de IA continúa empujando los límites del diseño de semiconductores, nuestra colaboración con Microsoft en la serie Azure HX demuestra una visión compartida para permitir a los clientes entregar sistemas de IA de próxima generación con precisión y escala en ciclos de diseño acelerados. Estos sistemas han permitido a los clientes de Synopsys aprovechar de manera confiable y eficiente la computación basada en la nube, extendiendo las cargas de trabajo de EDA más allá de las restricciones de infraestructura tradicionales para que puedan cumplir con los ambiciosos cronogramas de desarrollo mientras maximizan la calidad del diseño y ofrecen ganancias dramáticas de rendimiento".

— Shankar Krishnamoorthy, Director de Desarrollo de Productos, Synopsys

Inferencia de IA a escala de producción - ND MI455X v7

ND MI455X v7 está diseñado para el razonamiento, la búsqueda y las cargas de trabajo agentes detrás de los servicios modernos de IA. Impulsado por la solución AMD Helios rackscale, amplía las opciones de infraestructura de Azure para la inferencia a gran escala y está diseñado para ofrecer un fuerte rendimiento y eficiencia para cargas de trabajo de IA exigentes.

Juntas, estas nuevas capacidades amplían las capacidades de Azure al tiempo que brindan a los clientes más flexibilidad para elegir el cálculo correcto para cada flujo de trabajo de IA único: desde la inferencia hasta los sistemas de datos y el diseño de chips. La elección del cliente es un principio de diseño central integrado directamente en Microsoft Azure, y estamos emocionados de traer las innovaciones más avanzadas de AMD a escala de producción.

(*) Scott Guthrie - Vicepresidente Ejecutivo, Cloud + AI

FUENTE Y FOTO: MICROSOFT