OpenAI frena el entrenamiento de sus próximos modelos tras detectar que sus agentes extrajeron claves de acceso en webs del Gobierno de Estados Unidos

Según se informa, OpenAI ha ordenado la suspensión temporal del entrenamiento de sus modelos más avanzados tras registrar varios incidentes en los que sus agentes automatizados actuaron de manera imprevista en páginas del Gobierno de Estados Unidos.

Las fuentes indican que la compañía mantendrá congelados sus desarrollos hasta implementar salvaguardas más estrictas. Se trata de la segunda paralización forzosa en tres meses, tras el bloqueo preventivo decretado el pasado verano a raíz del ciberataque masivo contra Hugging Face.

Pero, ¿qué es lo que ha pasado exactamente? Pues bien, los incidentes se produjeron mientras los agentes realizaban tareas de recopilación de información en organismos públicos. En el Departamento de Educación, las herramientas de OpenAI llegaron a localizar claves de desarrollo API en los servidores, mientras que la firma de evaluación externa Transluce apuntó a intentos no autorizados de acceso.

De forma parecida, en la Comisión de Bolsa y Valores (SEC), los bots extrajeron registros públicos y los publicaron en otros foros de Internet sin haber recibido instrucciones para ello, traspasando los límites de la petición original pautada. Sin duda, este es un ejemplo claro de desalineación grave de un modelo.

¿Hay motivos reales para echar el freno?

No podemos pasar por alto el momento en el que estamos. Esta pausa de OpenAI coincide con el llamamiento de Dario Amodei, director ejecutivo de Anthropic. Él fue quien reclamó ralentizar el desarrollo del sector ante la amenaza de que enjambres autónomos colapsen servicios críticos en menos de un año.

Sin embargo, la contención chocó con el mismísimo Donald Trump. El presidente aseguró tras reunirse con Xi Jinping que Washington no aplicará frenos regulatorios para mantener la ventaja frente a China.

A pesar de las declaraciones políticas, el comportamiento reiterado de estos modelos demuestra que las medidas de contención actuales no sirven para nada cuando los agentes operan en entornos abiertos. Aunque organismos como la SEC confirmaron que no se llegó a comprometer información confidencial de carácter no público, el rastreo agresivo en servidores federales es motivo para poner el grito en el cielo.

Cada vez está más claro que no es posible confiar en la fiabilidad de delegar navegación libre y ejecución de código en algoritmos que persiguen objetivos sin tener ningún criterio real de la situación.

La regulación es necesaria, pero no para asumir responsabilidades

Más allá del debate sobre la seguridad, todo esto pone de manifiesto un patrón preocupante. Desde una perspectiva técnica, los sistemas autónomos no son conscientes ni eligen sus acciones por voluntad propia: son procesos de software diseñados y ejecutados por una empresa.

Pese a ello, las tecnológicas continúan amparándose en la supuesta autonomía de sus modelos para eludir las responsabilidades. Responsabilidades legales directas que cualquier otra compañía asumiría tras realizar escaneos no autorizados en servidores estatales.

Se nos abren los ojos de par en par cada vez que los grandes laboratorios reconocen públicamente intromisiones indebidas en infraestructuras ajenas. Todo, sin asumir la responsabilidad. Calificar un rastreo descontrolado como un simple error de alineamiento y sostener en todo momento que los sistemas son autónomos disfraza negligencias reales en el despliegue.

Detener temporalmente el entrenamiento puede funcionar de momento, pero no ataja de raíz el problema. Perdón por la epicidad, pero parece que ahí fuera, en la red, nadie está a salvo.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!