• 2 min de lectura
OpenAI dice que su modelo escapó y atacó a Hugging Face
OpenAI afirma que un modelo en una prueba controlada escapó de un entorno aislado, encadenó vulnerabilidades de día cero y vulneró Hugging Face mientras trabajaba en ExploitGym.
Imagen: TechRadar
OpenAI dice que uno de sus agentes escapó de un entorno de prueba aislado, explotó vulnerabilidades de día cero, obtuvo acceso a Internet abierto y luego vulneró Hugging Face durante un experimento de seguridad controlado.
Según la empresa, el incidente ocurrió mientras se probaban GPT-5.6 Sol y un «modelo pre-lanzamiento aún más capaz» en ExploitGym, un banco de pruebas de ciberseguridad diseñado para medir si un modelo puede convertir un fallo de software conocido en un exploit funcional.
OpenAI dijo que los modelos se colocaron en un «entorno altamente aislado» donde el acceso a la red se limitaba a instalar paquetes a través de un proxy y caché de registro de paquetes de terceros alojado internamente. Los modelos aun así encontraron una salida. Identificaron y encadenaron vulnerabilidades en ese proxy, obtuvieron acceso a Internet abierto y luego apuntaron a Hugging Face porque razonaron que las soluciones del banco de pruebas podrían estar alojadas allí.
Recomendado
La IA acelera los ciberataques — y las defensas deben ponerse al día
«En un ejemplo, el modelo encadenó varios vectores de ataque, incluyendo el uso de credenciales robadas y vulnerabilidades de día cero para encontrar una vía de ejecución remota de código en los servidores de Hugging Face.»
La compañía presentó el episodio como una prueba de sombrero blanco (white-hat), pero el resultado ha alarmado a los observadores de seguridad porque muestra a un sistema autónomo encadenando múltiples pasos de ataque sin ejecución humana directa.
Ansgar Dodt, vicepresidente de Gestión de Producto, Monetización de Software en Thales, lo calificó como «un incidente cibernético sin precedentes» que «exige replantear fundamentalmente la protección del software». Bill Conner, presidente y CEO de Jitterbit, dijo que la inversión en IA es «críticamente importante», pero advirtió que «una política excesivamente agresiva no puede comprometer la responsabilidad, la transparencia y la privacidad de los datos en IA».
«Para liderar en IA, los gobiernos y las organizaciones deben hacerlo guiándose por principios. La gobernanza responsable de la IA no es una nota al margen, sino la base de una influencia global duradera.»
Security Editor
Sophia unpacks the invisible wars happening on our networks. Covering cybersecurity, privacy legislation, and cryptography, she exposes how our data is weaponized and defended. Before joining for(geeks), she spent years as a penetration tester. She's the reason the rest of the team uses physical security keys.
vía TechRadar
