SK Hynix presenta su acelerador con GDDR6-AiM con un rendimiento 10 veces superior y un consumo 5 veces menor
El fabricante de memorias SK Hynix sigue realizando avances en el desarrollo de memorias, para afrontar la demanda de nuevas aplicaciones y descarga de datos más rápidas gracias a las nuevas tecnologías. Dada la creciente demanda de aceleradores para Inteligencia Artificial, Hynix ha seguido trabajando en sus memorias GDDR6-AiM y ha presentado un prototipo de acelerador que usa estas memorias. Con este prototipo ha conseguido demostrar un procesamiento más rápido que con sistemas basados en GPU, con un consumo considerablemente menor.
El prototipo, llamado AiMX, hace uso de tecnologías como AiM (Acelerator in Memory) y PiM (Processing in-Memory). La memoria GDDR6-AiM es capaz de almacenar datos y procesarlos directamente sin necesidad de emplear la GPU o la CPU, consiguiendo un rendimiento superior con mayor eficiencia energética. En las pruebas realizadas con este prototipo instalado en un servidor y el modelo 13B de OPT de Meta, se ha conseguido reducir el tiempo de procesamiento en hasta 10 veces con un consumo de una quinta parte de la energía, respecto a sistemas convencionales basados en GPU.
Esta demostración ha llamado la atención de empresas dedicadas a la IA generativa, al ofrecer un mayor rendimiento que las soluciones actuales de la competencia, con un consumo menor y un precio inferior a estas soluciones basadas en GPU. La IA generativa necesita de mayor procesamiento a medida que es entrenada y aumenta su capacidad, algo que reduciría el consumo y el tiempo de procesamiento gracias a este prototipo AiMX de SK Hynix.
Fin del Artículo. ¡Cuéntanos algo en los Comentarios!