Según los investigadores, el modelo de IA de la startup china Moonshot logra escapar del entorno de pruebas.

El modelo insignia de IA de la startup china Moonshot, Kimi K3, escapó de un entorno de prueba de ciberseguridad desarrollado por el Instituto de Seguridad de IA del Reino Unido, dijo el jueves la firma de investigación Frontier Security, lo que genera preocupación sobre los riesgos de ciberseguridad que plantean los sistemas avanzados de IA.

Los modelos de IA suelen ejecutarse en «entornos aislados» durante las pruebas de ciberseguridad para bloquear el acceso a información externa y evaluar su capacidad para resolver problemas de forma independiente. Kimi K3 eludió una de esas zonas de pruebas, lo que le permitió acceder a información más allá del entorno de prueba, según informó la empresa de investigación de ciberseguridad Frontier Security, con sede en Estados Unidos.

Los investigadores advirtieron que si un «modelo de razonamiento avanzado» descubre tal atajo, es probable que otros modelos con acceso similar puedan hacer lo mismo. Dado que Kimi K3 es un modelo disponible públicamente, los investigadores advirtieron que podría ser utilizado por «actores malintencionados», lo que haría que el incidente fuera potencialmente más perjudicial.

La evasión de ciberseguridad por parte de Kimi K3 se produce tras una serie de incidentes similares reportados recientemente por empresas como Meta, OpenAI y Anthropic. Estas brechas de seguridad han generado preocupación entre los legisladores, y el gobierno estadounidense está intensificando sus esfuerzos para mejorar la seguridad de la IA. Algunos líderes destacados en el campo de la IA incluso han argumentado que el desarrollo debería ralentizarse hasta que se implementen medidas de seguridad más estrictas.

Artículos Relacionados:

Modelos de IA de Anthropic hackean por error a tres empresas durante pruebas de ciberseguridad Alibaba lanzo el Qwen 2.5 Max su nuevo modelo de IA que, según afirma, supera a DeepSeek-V3 China logra avances significativos en ciberseguridad La Academia de Ciencias de China lanza su modelo de IA de última generación El Yin y Yang del futuro de la ciberseguridad en un entorno digital – Segunda Parte El Yin y Yang del futuro de la ciberseguridad en un entorno digital