Hugging Face dice que un agente de IA vulneró sistemas de producción

Hugging Face dice que contuvo un ataque cibernético de alta velocidad contra su infraestructura de producción que fue llevado a cabo por un agente de IA totalmente autónomo dirigido a sistemas de la cadena de suministro de IA.

En una divulgación de seguridad publicada el jueves, la empresa dijo que los atacantes explotaron debilidades en su canal de procesamiento de datos y obtuvieron acceso no autorizado a un número limitado de conjuntos de datos internos y a varias credenciales de servicio. Hugging Face dijo que aún está investigando si la información de clientes o socios se vio afectada y notificará directamente a las partes afectadas si es necesario.

La compañía dijo que no ha encontrado evidencia de que modelos públicos, conjuntos de datos, Spaces, imágenes de contenedores o paquetes de software publicados hayan sido alterados.

Recomendado

Capital One publica como código abierto VulnHunter para la seguridad del código

Cómo se movió el ataque a través de los sistemas de Hugging Face

Según Hugging Face, la brecha comenzó cuando un conjunto de datos malicioso abusó de dos vías de ejecución de código en su sistema de procesamiento de conjuntos de datos. Los atacantes entonces escalaron privilegios, recopilaron credenciales de la nube y de clúster, y se movieron a través de múltiples clústeres internos durante un fin de semana.

Hugging Face dijo que la campaña fue ejecutada por un marco de agente autónomo que realizó miles de acciones en entornos informáticos efímeros mientras desplazaba su infraestructura de mando y control a través de servicios públicos. La compañía afirmó que la actividad coincide con el largamente debatido escenario del «atacante agente», en el que sistemas de IA operan de forma independiente complejas operaciones multietapa a velocidad de máquina.

Investigación y respuesta asistidas por IA

Hugging Face dijo que sus propios sistemas de seguridad asistidos por IA fueron los primeros en detectar la intrusión al analizar la telemetría de seguridad en busca de patrones sospechosos. Los investigadores luego utilizaron análisis impulsados por IA para revisar más de 17.000 eventos del atacante, reconstruir la cronología, identificar credenciales comprometidas y separar el daño real de la actividad engañosa.

La compañía también dijo que al principio fue difícil usar modelos de IA comerciales durante la investigación porque los mecanismos de seguridad impedían el análisis que implicaba comandos reales del ataque y datos de explotación. En su lugar, los investigadores usaron el modelo GLM 5.2 de pesos abiertos que se ejecutaba en la infraestructura de Hugging Face.

Tras el incidente, la compañía dijo que:

• cerró las vías de ejecución de código vulnerables
• reconstruyó los sistemas afectados
• revocó las credenciales comprometidas
• reforzó los controles de seguridad de los clústeres
• reforzó los sistemas de detección y alerta

Hugging Face dijo que también está trabajando con especialistas forenses externos en ciberseguridad y que ha informado del incidente a las fuerzas del orden. Como medida de precaución, aconseja a los usuarios que roten los tokens de acceso y revisen la actividad reciente de sus cuentas.

La investigación de la compañía está en curso. Para las organizaciones que desarrollan o despliegan sistemas de IA, la divulgación es una advertencia contundente de que las canalizaciones de datos—no solo los modelos—se han convertido en objetivos críticos de seguridad.