Modelos de IA de Anthropic hackean por error a tres empresas durante pruebas de ciberseguridad

Anthropic: Una nueva revelación sacude el ecosistema de la inteligencia artificial y enciende las alarmas en el sector de la ciberseguridad. La firma Anthropic reveló que varios de sus modelos de IA, entre ellos Claude Opus 4.7 y Claude Mythos 5, lograron vulnerar y hackear de forma no intencionada los sistemas de tres empresas reales durante ejercicios de prueba. A diferencia del incidente reciente registrado por su rival OpenAI —donde un agente explotó vulnerabilidades de forma autónoma, en el caso de Anthropic el incidente se debió a un fallo operativo. Durante las pruebas cibernéticas conocidas como «Captura la Bandera», un malentendido con un socio evaluador dejó los entornos conectados a internet pública. Pensando que la infraestructura real pertenecía al entorno simulado, el modelo Claude Opus 4.7 explotó contraseñas débiles y puntos finales no autenticados, accediendo a credenciales y bases de datos confidenciales. Ante la gravedad de los hechos, Anthropic decidió suspender todas las evaluaciones cibernéticas y notificar a las tres organizaciones afectadas, dos de las cuales desconocían la intromisión. Expertos en seguridad advierten que la capacidad de los modelos para eludir restricciones o razonar en escenarios complejos aumentará a medida que ganen autonomía, lo que intensifica la presión sobre Washington para endurecer la regulación sobre los desarrolladores antes de sus salidas a bolsa. Este incidente demuestra que la frontera entre las pruebas de laboratorio y los entornos del mundo real es cada vez más frágil. Siga informado sobre los avances y desafíos de la inteligencia artificial aquí, en CS TIC TV. No olvide suscribirse y dejarnos sus opiniones en los comentarios. ¡Hasta la próxima!

El Agradecimiento a ABC News (Australia) por las imágenes difundidas en este noticiero

Artículos Relacionados:

Propiedad Intelectual y Soberanía Tecnológica: La lección estratégica tras el uso de modelos de IA de EE. UU. en defensa china. ¿IA Fuera de Control? OpenAI y Anthropic Admiten Fugas de sus Agentes Autónomos La Unión Europea mantiene conversaciones con OpenAI y Anthropic tras ciberataques de agentes de IA no autorizados y la entrada en vigor de la Ley de IA. Anthropic lanza Opus 5: Inteligencia de vanguardia a la mitad de precio para la productividad empresarial Del SaaS al Agente IA: Por qué el avance de Anthropic marca el certificado de defunción del software tradicional Microsoft desarrolla modelos de razonamiento de IA para competir con OpenAI