NVIDIA lidera una alianza de 37 empresas para defender la ciberseguridad con modelos de IA de código abierto

NVIDIA ha anunciado la creación de la Open Secure AI Alliance, una coalición de 37 empresas que se comprometen a compartir herramientas abiertas para la ciberseguridad de sistemas de inteligencia artificial. Entre los socios fundadores figuran Microsoft, IBM, Cisco, Cloudflare, Palo Alto Networks, Hugging Face, Dell Technologies y la Linux Foundation, entre otros. El anuncio se apoya en trabajos previos de iniciativas como Akrites y OpenSSF.

La compañía plantea la alianza como una respuesta a un dilema concreto: si las defensas de ciberseguridad basadas en inteligencia artificial deben construirse sobre modelos abiertos, que cualquier defensor pueda inspeccionar y adaptar, o depender de sistemas cerrados controlados por unas pocas empresas. NVIDIA defiende que ambos enfoques son necesarios, aunque el peso de su discurso recae claramente sobre las ventajas de lo abierto.

El argumento central se apoya en un incidente reciente. NVIDIA recuerda que, tras la intrusión que sufrió Hugging Face, la compañía tuvo que recurrir al modelo abierto GLM 5.2 para analizar más de 17.000 acciones sospechosas, después de que las herramientas cerradas que empleaba fueran incapaces de distinguir entre atacantes y defensores durante el análisis forense.

Lo que aportan NVIDIA y sus socios

NVIDIA afirma que contribuirá con modelos, pesos, datos y un nuevo marco de investigación para agentes llamado NOOA, es decir, NVIDIA Labs Object-Oriented Agent, ya disponible en GitHub, pensado para facilitar la supervisión, trazabilidad y auditoría del comportamiento de agentes de IA. Según la compañía, el objetivo es que los equipos de seguridad puedan probar y gobernar mejor estos sistemas antes de desplegarlos en producción.

El resto de socios aporta piezas complementarias. Por ejemplo, HPE contribuye con SPIFFE/SPIRE, un marco de identidad de confianza cero para verificar qué agentes pueden comunicarse entre sí. Hugging Face ha cedido su formato Safetensors, que evita la ejecución remota de código al cargar modelos, a la PyTorch Foundation. IBM y Red Hat aportan firmas digitales para parches de seguridad, y Microsoft suma MDASH, un sistema que coordina varios agentes para detectar y demostrar vulnerabilidades explotables.

Una alianza con intereses propios

Obviamente, al tratarse de un anuncio de NVIDIA, se debe analizar con cautela. Y es que la compañía no es un actor neutral en el debate entre modelos abiertos y cerrados, ya que su negocio depende de que el mayor número posible de empresas entrenen y ejecuten inteligencia artificial en sus propios servidores, algo que los modelos abiertos favorecen frente a los servicios cerrados de proveedores como OpenAI o Google, que concentran el cómputo en su propia nube. Un ecosistema más abierto y distribuido es, en la práctica, más hardware vendido por NVIDIA.

Ojo, que esto no invalida el argumento técnico de fondo, que coincide con lo señalado por buena parte de la comunidad de ciberseguridad. Es cierto que los equipos defensivos necesitan poder inspeccionar y modificar las herramientas que utilizan, algo que los sistemas cerrados dificultan por diseño. Pero tampoco conviene perder de vista que la propia NVIDIA reconoce en el mismo texto que los modelos abiertos pueden ser manipulados para eliminar salvaguardas o reutilizarse con fines maliciosos, un riesgo que la alianza no resuelve, solo redistribuye entre más actores.

La lista de socios fundadores incluye tanto a defensores históricos del código abierto como a compañías que basan buena parte de su negocio en modelos cerrados, caso de Microsoft o Palantir. Esa mezcla sugiere que, más allá del debate ideológico entre apertura y control, lo que la alianza busca en la práctica es estandarizar herramientas compartidas de defensa frente a ataques que ya están utilizando IA de forma ofensiva, independientemente de qué modelo acabe ejecutándolas.

NVIDIA cierra su comunicado con una petición directa a reguladores y gobiernos. Les pide que no traten los modelos abiertos como una amenaza por defecto y que inviertan en infraestructura compartida para evaluación y simulación de ataques. Es una postura que beneficia tanto a la seguridad del sector como al propio modelo de negocio de NVIDIA, dos cosas que, en este caso, no son necesariamente contradictorias, pero tampoco idénticas.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!