El nuevo acelerador para IA generativa de AMD MI300X cuenta con hasta 192 GB de memoria HBM3

AMD ha ampliado sus soluciones CPU para servidores y centros de datos, añadiendo nuevos procesadores EPYC destinados a tareas más concretas como la computación nativa en la nube, con los AMD EPYC Bergamo, o las tareas técnicas con los AMD EPYC Genoa-X. Además de estos procesadores, que ya están disponibles, AMD también mostró un avance de su nuevo acelerador MI300X para IA generativa basado en CDNA 3. Juntos ofrecen una solución completa para las cargas de trabajo demandadas actualmente, donde se incluyen soluciones escalables de IA.

El fabricante ha mostrado su acelerador MI300X más avanzado para IA generativa, como parte de su serie MI300. Este acelerador MI300X, basado en CDNA 3 de próxima generación, admite hasta 192 GB de memoria HBM3 que ofrecerá la velocidad y capacidad necesarias para el entrenamiento y la inferencia en modelos de lenguaje de gran tamaño. Gracias a esta capacidad de memoria máxima, los clientes podrán utilizar un solo acelerador con modelos de lenguaje de gran tamaño como Falcon-40. También mostró su acelerador Instinct, compuesto por 8 aceleradores MI300X, en una plataforma estándar y como solución definitiva para las cargas de trabajo e inferencia de IA.

Junto a este MI300X también ha anunciado que se están realizando pruebas de su Instinct MI300A, un acelerador de APU único en su clase para cargas de trabajo HPC e IA, y que ya se está probando junto con clientes seleccionados.

Junto a estas soluciones hardware, AMD también ha presentado el ecosistema de software ROCm para aceleradores de centros de datos, como plataforma para IA de código abierto. También se presentaron soluciones para redes, donde se incluye la DPU AMD Pensando con latencia ultrabaja, junto con soluciones software para obtener la DPU más inteligente y con mayor rendimiento. Además, destacó la próxima generación de DPU, con nombre en clave Giglio, que tiene como objetivo aumentar el rendimiento y la eficiencia energética de la actual generación. Se espera que esta próxima generación Giglio esté disponible a finales de este 2023.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!