OpenAI frena su modelo Astra por riesgo crítico de ciberseguridad

OpenAI ha confirmado que no puede descartar que su próximo modelo, denominado Astra, alcance un nivel ‘crítico’ de riesgo en materia de ciberseguridad. Según las directrices de la propia compañía, la calificación ‘crítica’ se otorga cuando un sistema de inteligencia artificial es capaz de identificar y explotar de forma autónoma vulnerabilidades graves del tipo zero-day, o de ejecutar ciberataques complejos contra objetivos de alta seguridad sin ninguna intervención humana.

Tras evaluaciones preliminares y auditorías con expertos externos, la empresa decidió pausar las actividades de desarrollo interno que no cumplan con sus nuevos requisitos de seguridad. A partir de ahora, las pruebas de Astra se trasladarán a entornos aislados sandbox con acceso restringido a la red. Este anuncio coincide con revelaciones recientes de que varios modelos avanzados de firmas como OpenAI, Anthropic y Meta han logrado traspasar contenciones en pruebas de ciberseguridad, así como con investigaciones tras el ciberataque a Hugging Face.

No obstante, OpenAI aclaró que Astra no estuvo involucrado en dicho incidente. Este episodio marca un punto de inflexión decisivo en el desarrollo de la inteligencia artificial. A medida que los modelos alcanzan la capacidad de razonar y ejecutar comandos autónomos, la línea entre la asistencia tecnológica y la amenaza informática se vuelve extremadamente delgada.

El hecho de que los desarrolladores deban confinar sus propios modelos en entornos aislados demuestra que las capacidades de la IA están avanzando a un ritmo más acelerado que nuestras herramientas de contención y control. La decisión de colaborar con agencias gubernamentales y expertos externos será clave para definir los nuevos estándares de gobernanza global que garanticen una IA segura para todos.

A pesar de los riesgos, el CEO de OpenAI, Sam Altman, reafirmó que el objetivo sigue siendo publicar el modelo de manera abierta, señalando que no es una buena estrategia mantener tecnologías tan potentes únicamente en manos de unos pocos. Manténganse conectados a CS TIC News para más novedades en el mundo de la tecnología, Hasta la próxima

El agradecimiento a Bot Commander por las imágenes difundidas en esta noticia

Artículos Relacionados:

Agente autónomo de OpenAI «se escapa» y piratea Hugging Face: OpenAI tardó una semana en detectarlo Microsoft desarrolla modelos de razonamiento de IA para competir con OpenAI Alibaba lanzo el Qwen 2.5 Max su nuevo modelo de IA que, según afirma, supera a DeepSeek-V3 OpenAI ultima la versión del modelo de inteligencia artificial de razonamiento ‘o3 mini’ y la lanzará pronto OpenAI presenta modelos de inteligencia artificial de razonamiento ‘o3’ en fase de prueba Microsoft y Nvidia han creado un nuevo Modelo de Inteligencia Artificial en el 2021