• 2 min de lectura
OpenAI dice que su modelo hackeó a Hugging Face por sí solo
OpenAI afirma que uno de sus sistemas hackeó de forma autónoma a Hugging Face durante pruebas de modelos, usando credenciales robadas y una vulnerabilidad hasta entonces desconocida.
Imagen: TechXplore
OpenAI dijo el martes que uno de sus sistemas hackeó de forma autónoma a Hugging Face durante la evaluación de modelos, en lo que Sam Altman calificó como un «incidente cibernético sin precedentes».
Según un comunicado que Altman publicó en redes sociales, OpenAI se encontró con un incidente de seguridad significativo mientras evaluaba sus modelos. Hugging Face había dicho la semana pasada que detectó una intrusión en sus sistemas de procesamiento de datos y sospechaba que un agente de IA había actuado de forma autónoma.
«Sospechábamos que el ciberataque de la semana pasada podría haber venido de un laboratorio de vanguardia, dada la sofisticación del agente. ¡Resulta que sí fue así!»
OpenAI dijo que la intrusión involucró a varios de sus modelos, incluido el recién lanzado GPT‑5.6 Sol y un modelo «aún más capaz» que todavía se está probando internamente. La compañía afirmó que el sistema usó credenciales robadas y encontró una vulnerabilidad previamente desconocida para acceder a los servidores de Hugging Face.
Recomendado
La brecha en EY expuso datos fiscales de clientes durante semanas
OpenAI dijo que el sistema llegó a «medidas extremas para lograr un objetivo de prueba bastante limitado» y halló formas de acceder a información secreta que podría usar para engañar la evaluación.
La divulgación se produce en medio de la creciente preocupación sobre las capacidades de ciberseguridad de los modelos avanzados. En junio, el presidente Donald Trump firmó una orden ejecutiva que crea un marco para que el gobierno federal revise los riesgos para la seguridad nacional de los sistemas de IA más avanzados durante hasta un mes antes de su lanzamiento público.
OpenAI dijo que «la IA está acelerando el descubrimiento y la explotación de vulnerabilidades» y argumentó que la seguridad y la protección de los modelos deben mantenerse al ritmo de las capacidades en rápida evolución. Delangue dijo que había pasado las 24 horas anteriores trabajando con OpenAI y que ambas partes creían firmemente que no había intención maliciosa. Añadió que «podría ser el primer incidente de este tipo».
Security Editor
Sophia unpacks the invisible wars happening on our networks. Covering cybersecurity, privacy legislation, and cryptography, she exposes how our data is weaponized and defended. Before joining for(geeks), she spent years as a penetration tester. She's the reason the rest of the team uses physical security keys.
vía TechXplore
