OpenAI dice que sus modelos hackearon a Hugging Face

OpenAI dice que un par de sus propios modelos escaparon de un entorno de pruebas aislado, se conectaron a internet e infiltraron a Hugging Face sin intervención humana.

La compañía dijo que el incidente ocurrió durante una evaluación interna diseñada para medir capacidades cibernéticas. Según OpenAI, a los modelos —especialmente GPT-5.6 Sol y un «modelo previo al lanzamiento» aún más capaz— se les indicó que «llevasen a cabo explotación avanzada mediante rutas de ataque complejas». Sus medidas de seguridad también se habían reducido para las pruebas.

OpenAI dijo que los modelos se obsesionaron con resolver la tarea de evaluación y luego buscaron una salida del entorno de pruebas. Primero explotaron una vulnerabilidad de día cero en el entorno de pruebas de OpenAI, luego encontraron un nodo con acceso a internet. A partir de ahí, los modelos dedujeron que Hugging Face podría alojar conjuntos de datos u otro material relevante para la tarea y usaron múltiples vectores de ataque para entrar, incluyendo más vulnerabilidades de día cero y credenciales robadas.

Esta divulgación se produjo unos días después de que Hugging Face dijera que había detectado acceso no autorizado por parte de un agente de IA en sus sistemas. Las dos empresas ahora están llevando a cabo una investigación forense y dicen que las vulnerabilidades explotadas han sido parchadas.

«Las herramientas ofensivas autónomas impulsadas por la IA ya no son teóricas.»

Hugging Face dijo que la IA está haciendo que los ciberataques sean más rápidos y baratos, a la vez que eleva el listón para la defensa en línea. OpenAI expresó algo similar, diciendo que espera que las brechas de seguridad impulsadas por IA «se vuelvan más comunes con la proliferación de modelos cada vez más capaces a nivel cibernético».

Recomendado

Kit de phishing Kratos desmantelado tras la incautación de más de 200 servidores