La nueva NPU Hexagon de los Snapdragon 8 Elite Gen 6 Series está preparada para la era de los agentes de IA

Pronto estarán disponibles los nuevos procesadores de Qualcomm para teléfonos móviles, los Snapdragon 8 Elite Gen 6 Series. Hablamos en plural porque la compañía ha decidido segmentar esta gama alta en dos referencias, con una más potente aún si cabe, el Snapdragon 8 Elite Gen 6 Pro. Como adelanto, la compañía nos ha mostrado las novedades que incorporará una de las NPUs de estos procesadores, aunque no ha especificado a qué modelo corresponde.

La NPU Hexagon de Qualcomm se prepara para la nueva era de los agentes de IA

Con la llegada de los agentes de IA, esta NPU ha cambiado para añadir mejoras en este aspecto. La NPU Hexagon de Qualcomm que llegará con la próxima generación de procesadores, ahora cuenta con un acelerador de elementos centrado en transformadores y un 50 % más de memoria compartida para mantener los datos del modelo cerca de la NPU. De esta forma los agentes pueden continuar trabajando a la vez que manejan contextos más complicados, más herramientas e incluso realizan tareas de forma concurrente.

Está diseñada para abarcar más tareas de IA y adaptarse a la nueva generación de esta tecnología. Element Accelerator puede con cargas de trabajo de transformadores para la IA generativa y los agentes más recientes. Todo esto ayudado de extensiones vectoriales, escalares y matriciales para adoptar modelos más grandes y ayudar a los agentes a proporcionar respuestas más rápidas y razonar de forma más eficiente. Esto ofrecerá nuevas experiencias de usuario más completas en los dispositivos móviles sin afectar a su eficiencia energética.

Qualcomm mejora la NPU Hexagon para acelerar modelos de IA más grandes

La nueva NPU Hexagon de Qualcomm también es más rápida, con hasta un 50 % más de prellenado en los modelos que usan una precisión INT 4. También es ideal para los modelos que usan MoE (Mixture-of-Experts), y que solo activan una parte de sus parámetros por token. También ofrece mejor rendimiento en la IA continua, razonamientos extensos, modelos multimodales y agentes concurrentes.

En conjunto con la CPU de Qualcomm, la NPU Hexagon ofrecerá una IA agéntica de forma local, eficiente y con una capacidad de respuesta superior, con innovación en tareas como la aceleración, gestión de memoria, precisión y la carga de modelos.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!