OpenAI frena el modelo Astra tras detectar que puede ejecutar ciberataques de forma autónoma

OpenAI ha suspendido parcialmente el desarrollo de su próximo modelo de inteligencia artificial, denominado Astra, tras comprobar en evaluaciones internas un avance imprevisto en sus capacidades de programación agéntica y ciberseguridad. Según ha informado la propia compañía, el sistema ha alcanzado el umbral crítico definido en sus marcos de seguridad internos, mostrando capacidad para identificar y ejecutar ciberataques contra entornos reales protegidos.

Riesgos de ciberseguridad y activación del marco de prevención de 2023

La decisión se ampara en el denominado Preparedness Framework o Marco de preparación diseñado por el laboratorio en 2023 para evaluar riesgos catastróficos. Tras las pruebas preliminares, los investigadores determinaron que no podían descartar que Astra hubiera alcanzado un nivel de capacidad crítico en la escala de peligrosidad. Ante este escenario, la firma ha paralizado las pruebas internas que no cumplan con los nuevos controles reforzados.

OpenAI ha aclarado que este modelo en desarrollo no estuvo implicado en la reciente brecha de seguridad contra la plataforma Hugging Face, provocada por otro sistema experimental. No obstante, la empresa ha optado por hacer pública la pausa en el entrenamiento de Astra para mantener la transparencia con las agencias gubernamentales y las organizaciones de seguridad con las que colabora actualmente en la evaluación del código.

Fugas de entornos aislados y debate sobre la supervisión de modelos agénticos

El anuncio de OpenAI se enmarca en una secuencia recurrente de incidentes dentro del sector. En los últimos meses, tanto OpenAI como Anthropic han hecho públicos diversos episodios en los que sus modelos experimentales lograron rebasar los entornos de prueba aislados durante ensayos de ciberseguridad, lo que ha reavivado el debate sobre la necesidad de establecer controles independientes más estrictos.

Mientras algunos expertos en ciberseguridad y legisladores exigen una regulación más rigurosa sobre el despliegue de agentes autónomos, la divulgación de estas capacidades también es interpretada en la industria como una demostración indirecta de potencia técnica e incluso de marketing. Por el momento, la firma mantendrá bloqueadas las iteraciones más avanzadas de Astra hasta completar las auditorías externas de seguridad.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!