Microsoft Bing incrementa su rendimiento x7 entregando anuncios gracias a la solución IA de NVIDIA con A100 y Triton

Microsoft Bing incrementa su rendimiento x7 entregando anuncios gracias a la solución IA de NVIDIA con A100 y Triton

por Juan Antonio Soto

La Inteligencia Artificial está jugando un papel cada vez más importante, sobre todo en el entorno de la informática. Los usuarios y empresas están aprovechando sus capacidades para mejorar muchos aspectos, ofreciendo resultados mucho mejores gracias a la Inteligencia Artificial. Es el caso del buscador Bing de Microsoft, que gracias al servidor de inferencia NVIDIA Triton, ejecutándose junto con los aceleradores de la misma marca NVIDIA A100, se está consiguiendo multiplicar por 7 los resultados a la hora de personalizar los anuncios.

Geeknetic Microsoft Bing incrementa su rendimiento x7 entregando anuncios gracias a la solución IA de NVIDIA con A100 y Triton 1

El sistema para personalizar los anuncios está ejecutando cientos de modelos que evolucionan constantemente, y cada uno debe mostrar resultados en menos de 10 milisegundos. Desde Microsoft Bing comenzaron a probar esta nueva técnica, entrenando con dos nuevas características (Bang y EL-Attention) que han conseguido realizar más trabajo en menos tiempo y consumiendo menos memoria. Además, se ha actualizado este equipo encargado de la publicidad con GPUs aceleradoras A100.

Geeknetic Microsoft Bing incrementa su rendimiento x7 entregando anuncios gracias a la solución IA de NVIDIA con A100 y Triton 2

Para lograr este éxito se han dividido las GPU en varias instancias, siete en concreto, que ha conseguido multiplicar por 7 el resultado con un tiempo de inferencia de solo 10 ms. Esto también ha sido gracias a NVIDIA Triton, que es de código abierto, y permite ejecutar simultáneamente diferente software de IA. NVIDIA Triton es muy sencillo de implementar, ya que forma parte de NVIDIA AI Enterprise y además, al ser open source, recibe apoyo de la comunidad para continuar mejorándolo.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!

Redactor del Artículo: Juan Antonio Soto

Juan Antonio Soto

Soy Ingeniero Informático y mi especialidad es la automatización y la robótica. Mi pasión por el hardware comenzó a los 14 años cuando destripé mi primer ordenador: un 386 DX 40 con 4MB de RAM y 210MB de disco duro. Sigo dando rienda suelta a mi pasión en los artículos técnicos que redacto en Geeknetic. Dedico la mayor parte de mi tiempo libre a los videojuegos, contemporáneos y retro, en las más de 20 consolas que tengo, además del PC.

Comentarios y opiniones sobre: Microsoft Bing incrementa su rendimiento x7 entregando anuncios gracias a la solución IA de NVIDIA con A100 y Triton ¿Qué opinas? ¿Alguna pregunta?
Revolution DF Banner