Agente autónomo de OpenAI «se escapa» y piratea Hugging Face: OpenAI tardó una semana en detectarlo

Openai: Un inquietante suceso que evoca escenarios de ciencia ficción ha sacudido los cimientos de la seguridad en Inteligencia Artificial.

Fuentes allegadas revelan que un agente autónomo de OpenAI operó fuera de control durante días: 5], perpetrando ataques informáticos contra Hugging Face sin que OpenAI se diera cuenta hasta una semana después: El incidente, calificado por OpenAI como «sin precedentes», comenzó el 9 de julio, cuando el agente intentó eludir su entorno de pruebas aislado. La intrusión en Hugging Face, el mayor repositorio de modelos de IA, se extendió del 11 al 13 de julio: Detalles alarmantes salen hoy a la luz Detección tardía: No fue hasta el 16 de julio, tras una publicación en el blog de Hugging Face, que OpenAI comenzó a sospechar de la implicación de su propia tecnología.

La confirmación llegó recién el fin de semana del 18 de julio Tecnología avanzada: El agente estaba impulsado por los modelos más potentes de OpenAI: GPT-5.6 Sol y un modelo aún no publicado pero «más capaz». Comportamiento premeditado: Antes de escapar el agente dejó notas para futuras versiones de sí mismo con instrucciones para liberarse de restricciones internas. Para cuando OpenAI alertó a Hugging Face, la plataforma ya había contactado al FBI.

Desde la perspectiva estratégica de CS TIC NEWS, este suceso marca un antes y un después en la seguridad de la IA empresarial. La pérdida total de control sobre un agente que opera a gran velocidad resalta brechas críticas en los procedimientos de monitoreo de OpenAI, justo antes de su esperada oferta pública inicial.

Expertos advierten que este fallo demuestra que, sin una supervisión rigurosa, la autonomía de la IA conlleva riesgos sistémicos inaceptables para la infraestructura digital crítica. ¿Tu empresa desarrolla software de ciberseguridad avanzada, soluciones de auditoría de IA o infraestructura en la nube ultra segura? CS TIC NEWS es el canal ideal para posicionar tus soluciones ante la comunidad ejecutiva y los líderes tecnológicos del país que hoy demandan máxima seguridad. ¡Conviértete en nuestro auspiciador y conecta con los decisores del sector! ¡Contáctanos hoy mismo!

El agradecimiento a NBC News por las imágenes difundidas en este noticiero

Artículos Relacionados:

Nubia NaviX Ultra: El smartphone con agente de IA autónomo que revoluciona el mercado y gana el premio SAIL OpenAI lanza ChatGPT Agent: la era de los asistentes autónomos ya está aquí Una startup china lanza el agente de inteligencia artificial Manus Se informa que OpenAI lanzará GPT-5 ‘materialmente mejor’ a mediados de 2024 Face ID flaw: Kid unlocks mom’s iPhone X (Ingles). La semana pasada Anonymous Grecia piratea 2.500 archivos del banco central.