Hugging Face confirma una intrusión que comprometió credenciales internas y atribuye el ataque a un agente autónomo de IA

Hugging Face ha confirmado una intrusión en parte de su infraestructura de producción que permitió acceder sin autorización a varios conjuntos de datos internos y a credenciales utilizadas por sus servicios. La compañía asegura que todavía investiga si se vieron afectados datos de clientes o socios y que contactará directamente con las partes implicadas si encuentra evidencias de exposición.

Según la comunicación oficial publicada el 16 de julio, el ataque comenzó con un conjunto de datos malicioso subido a la plataforma. Ese contenido aprovechó dos vías de ejecución de código dentro del sistema de procesamiento. Por un lado, un cargador remoto de datasets y, por el otro, una inyección de plantillas en una configuración. A partir de ahí, el atacante logró escalar privilegios hasta obtener acceso a nivel de nodo.

Una vez dentro, los responsables habrían recopilado credenciales de la nube y del clúster y se habrían movido lateralmente hacia varios entornos internos durante un fin de semana. Hugging Face afirma que no ha encontrado pruebas de manipulación en modelos, datasets o Spaces públicos y que su cadena de suministro de software fue verificada como limpia, incluidos contenedores y paquetes publicados.

La compañía atribuye la campaña a un sistema autónomo de IA

Lo más curioso es que Hugging Face, que es una plataforma especializada en modelos de IA, sostiene que la operación fue ejecutada de principio a fin por un framework de agentes autónomos. Según su versión, el sistema realizó miles de acciones repartidas entre entornos aislados de corta duración y utilizó infraestructura pública para mover su sistema de mando y control. La compañía califica el incidente como un ejemplo real del atacante “agéntico” que el sector llevaba tiempo anticipando.

TechCrunch señala, no obstante, que Hugging Face no aportó pruebas adicionales cuando el medio pidió evidencias que respaldaran esa atribución. Por lo tanto, la participación de un agente autónomo forma parte de la explicación oficial de la empresa, pero no ha sido verificada de forma independiente. Hugging Face tampoco sabe qué modelo habría utilizado el atacante ni si se trataba de un sistema alojado y modificado o de uno de pesos abiertos.

La compañía asegura que su propio sistema de detección de anomalías identificó el ataque al correlacionar señales de seguridad mediante modelos de lenguaje. Para reconstruir lo ocurrido, analizó más de 17.000 eventos registrados y utilizó agentes de inteligencia artificial para ordenar la cronología, localizar indicadores de compromiso y determinar qué credenciales habían sido tocadas. Según Hugging Face, ese proceso redujo a horas un análisis que normalmente habría requerido días.

El primer intento se hizo con modelos avanzados disponibles mediante APIs comerciales, pero las solicitudes fueron bloqueadas por sus filtros de seguridad. El análisis incluía comandos reales, cargas de explotación y artefactos de mando y control, elementos que los proveedores interpretaron como potencialmente maliciosos. Hugging Face terminó ejecutando GLM 5.2 en su propia infraestructura, lo que además permitió que los registros sensibles y las credenciales no salieran de su entorno.

Hugging Face pide rotar tokens y revisar la actividad de las cuentas

Tras detectar la intrusión, la empresa cerró las vulnerabilidades utilizadas, eliminó la presencia del atacante, reconstruyó los nodos comprometidos y revocó las credenciales afectadas. También ha iniciado una rotación preventiva más amplia de secretos, ha endurecido los controles de acceso a sus clústeres y ha mejorado las alertas para que los incidentes de alta gravedad lleguen a un responsable en cuestión de minutos.

Como medida preventiva, Hugging Face recomienda a sus usuarios rotar cualquier token de acceso almacenado en la plataforma y revisar la actividad reciente de sus cuentas en busca de movimientos sospechosos. La empresa ha contratado especialistas externos en análisis forense, ha informado a las autoridades y mantiene abierta la investigación sobre el posible impacto en información de clientes y colaboradores.

El incidente pone el foco en una superficie de ataque especialmente sensible para las plataformas de inteligencia artificial, a saber, los procesos que reciben y ejecutan datasets, modelos y configuraciones aportadas por terceros. Hugging Face considera que la principal lección para los defensores es disponer de modelos propios preparados para responder a incidentes, tanto para evitar bloqueos por filtros externos como para mantener dentro de la organización los datos más delicados de una investigación.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!