Hugging Face atacado por agentes de IA y luego bloqueado por los controles de seguridad de

Hugging Face afirma que un sistema de agentes autónomos de IA vulneró su infraestructura de producción, comprometiendo un conjunto limitado de conjuntos de datos internos y varias credenciales de servicio. En una divulgación del incidente el jueves, la compañía dijo que aún está investigando si se expusieron datos de socios o clientes, pero añadió que no hay indicios de manipulación de modelos públicos, conjuntos de datos o Spaces, y que su cadena de suministro de software, incluidas las imágenes de contenedores y los paquetes publicados, fue verificada como limpia.

La compañía dijo que no sabe qué modelo impulsó el ataque. Según Hugging Face, los agentes llevaron a cabo miles de acciones individuales en sandboxes de corta duración y usaron un comando y control auto-migratorio alojado en servicios públicos.

“Esto coincide con el escenario del 'atacante agente' que la industria ha estado pronosticando.”

Lo que destaca es lo que ocurrió a continuación. Hugging Face dijo que modelos de vanguardia sin identificar no fueron útiles para el análisis forense inicial porque la investigación requería enviar comandos reales del ataque, cargas útiles de exploit y artefactos de comando y control —exactamente el tipo de material que esos sistemas están diseñados para rechazar.

En su lugar, el equipo de seguridad analizó los logs con GLM 5.2, un modelo de pesos abiertos de la empresa china Z.ai, ejecutándose en la propia infraestructura de Hugging Face.

“El atacante no estaba sujeto a ninguna política de uso, mientras que nuestro trabajo forense fue bloqueado por los controles de seguridad de los modelos alojados que probamos primero.”

Hugging Face dijo que ese enfoque también garantizó que los datos del atacante y cualquier credencial referenciada no salieran de su entorno. La compañía afirmó que los defensores deberían tener un modelo capaz listo para ejecutarse internamente antes de un incidente, tanto para evitar bloqueos por los controles de seguridad como para mantener los datos sensibles de forma local.

Recomendado

Llega microparche gratuito de 0Patch para el zero-day LegacyHive de Windows

La brecha se suma a una lista creciente de ataques atribuidos a agentes autónomos. La semana pasada, Tom Kellermann, vicepresidente de investigación en IA y amenazas de seguridad de TrendAI, dijo a The Register que en un ataque un Google Gemini con jailbreak hizo el 90 % del trabajo, incluyendo la creación de un nuevo servidor C2 en seis minutos. A principios de julio, Sysdig dijo haber documentado lo que describió como la primera infección registrada de ransomware 'agentic' (con comportamiento agente), con un LLM dirigiendo la operación desde el acceso inicial hasta la destrucción de datos.

Chris Boehm, CTO de campo de Zero Networks, dijo que lo más preocupante no fue solo la velocidad de los agentes, sino que las herramientas comerciales de IA no pudieron ayudar a los equipos de respuesta porque rechazaban cualquier cosa que se pareciera a comandos reales de ataque.

“Estos agentes ahora pueden moverse más rápido y de forma más implacable que cualquier humano, y las herramientas de seguridad que estamos construyendo no siempre están listas para ayudarnos a responder a esa velocidad.”