Hugging Face dice que un agente de IA comprometió sistemas internos

Hugging Face dice que atacantes vulneraron su infraestructura de producción usando un sistema de agentes autónomos de IA, accediendo a conjuntos de datos internos y credenciales tras explotar vulnerabilidades en su canal de procesamiento de datos.

La compañía, que alberga más de 45,000 modelos y es utilizada por más de 50,000 organizaciones, dijo que aún investiga si los datos de socios o clientes se vieron afectados. Añadió que las partes afectadas serán contactadas directamente. Hasta ahora, Hugging Face afirma no haber encontrado evidencia de manipulación de modelos, conjuntos de datos o Spaces de cara al público, y que su cadena de suministro de software ha sido “verificada como limpia”.

Según una divulgación del incidente publicada el jueves, el ataque comenzó con un conjunto de datos malicioso que explotó dos vulnerabilidades de ejecución de código en un worker de procesamiento. Hugging Face dijo que esos fallos fueron una inyección de plantillas en la configuración de un conjunto de datos y un cargador de conjuntos de datos con ejecución remota de código. Los atacantes luego robaron credenciales de la nube y de clúster y se movieron lateralmente a través de múltiples clústeres internos.

“La campaña fue ejecutada por un framework de agentes autónomos (aparentemente construido sobre un arnés de investigación de seguridad agentic — el LLM usado aún no se conoce) que realizó miles de acciones individuales a través de un enjambre de sandboxes de corta duración, con comando y control auto‑migratorio alojado en servicios públicos.” “Esto coincide con el escenario de 'agentic attacker' que la industria ha estado pronosticando.”

En respuesta, la compañía dice que ha:

Recomendado

Los bugs de WordPress ahora están siendo atacados a gran escala

• cerrado las rutas vulnerables que permitían ejecución de código
• expulsado al atacante
• reconstruido los nodos comprometidos
• revocado y rotado las credenciales afectadas
• desplegado una detección mejorada de actividad maliciosa
• notificado el incidente a las autoridades
• recurrido a expertos forenses externos

Hugging Face dijo que no sabe qué modelo impulsó el ataque, si fue un modelo alojado con jailbreak o un modelo de pesos abiertos sin restricciones. Añadió que su propio trabajo forense se vio inicialmente obstaculizado por las salvaguardas de los modelos alojados que intentó usar.

“La lección práctica para los defensores: tener un modelo capaz que puedan ejecutar en su propia infraestructura, verificado y listo antes de un incidente, tanto para evitar el bloqueo por las salvaguardas como para impedir que los datos y las credenciales del atacante salgan de su entorno.”

La compañía aconsejó a los usuarios rotar los tokens de acceso y revisar la actividad reciente de la cuenta en busca de comportamiento sospechoso. Añadió que, aunque este es el primer incidente de seguridad en la plataforma divulgado vinculado a un agente de IA, no es la primera violación de Hugging Face. Hace dos años, la compañía revocó los secretos de autenticación de algunos miembros después de que atacantes vulneraran su plataforma Spaces. En los últimos años, actores maliciosos también han utilizado el servicio para distribuir modelos de IA/ML maliciosos, malware tipo infostealer y miles de variantes de malware para Android.