Intel ha lanzado la NPU Acceleration Library para impulsar aplicaciones mediante el uso de la unidad NPU

Los procesadores Intel y AMD de última generación incluyen una unidad NPU capaz de ejecutar tareas de Inteligencia Artificial con mayor eficiencia. Microsoft está trabajando con los fabricantes para ofrecer una mejor experiencia de usuario con su sistema operativo, pero también falta que las aplicaciones puedan hacer uso de esta unidad NPU e impulsar sus acciones con IA. Para esto, Intel ha ofrecido una biblioteca de código abierto que permite ayudar a los desarrolladores a impulsar sus aplicaciones mediante el uso de esta NPU integrada en los Intel Meteor Lake.

Este software está disponible en GitHub y se ha llamado NPU Acceleration Library y es de código abierto. Según un usuario de X/Twitter, mediante esta nueva biblioteca es posible la ejecución de modelos de lenguajes ligeros, tales como Gemma 2b, de forma local. Ya no solo será posible realizar este tipo de consultas offline en los teléfonos móviles, sino que también se podrán realizar aplicaciones de chatbot con estos modelos ligeros para ofrecer respuestas sin conexión a internet en PCs con este hardware.

Intel ha colgado esta librería para que los desarrolladores puedan hacer uso de ella, pero aún falta que el fabricante ofrezca algo más de información y documentación sobre ella. Está realizada en Python y por el momento se encuentra en desarrollo activo donde el equipo encargado de este conjunto de software espera introducir nuevas características para mejorar considerablemente el rendimiento.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!