• 3 min de lectura
La investigación en seguridad de la IA pasa por alto cinco riesgos críticos
Una revisión de Lancaster University para el gobierno del Reino Unido identificó cinco lagunas importantes en la investigación sobre seguridad de la IA, entre ellas la integridad de los datos y la eli
Imagen: TechXplore
Un equipo de Lancaster University ha identificado cinco lagunas importantes en la investigación en seguridad de la IA tras una revisión encargada por el Departamento de Ciencia, Innovación y Tecnología (DSIT) del Reino Unido.
Los investigadores analizaron la literatura revisada por pares sobre seguridad de la IA publicada desde 2020, utilizando métodos basados en datos para seleccionar más de 9.100 fuentes, extraer temas y cuantificar dónde el campo aún es escaso. Su conclusión: la investigación en seguridad no avanza al mismo ritmo que la forma en que se construyen, despliegan y retiran los sistemas de IA.
La revisión destaca cinco áreas que necesitan más trabajo:
- Integridad de los datos: métodos para garantizar o verificar formalmente la seguridad, autenticidad y fiabilidad de los datos utilizados por los sistemas de IA, incluidos los datos de entrenamiento
- Seguridad de la infraestructura de los sistemas de IA: mayor atención a la infraestructura detrás de los sistemas generativos y los sistemas de IA con capacidad de agencia, y qué significa 'seguro por diseño' para modelos como los grandes modelos de lenguaje
- Protección frente a riesgos para el usuario final: más estudios sobre cómo los usuarios pueden resultar perjudicados por los sistemas de IA o representar riesgos para ellos, incluyendo la dependencia de salidas alucinadas o maliciosas
- Procedencia de datos y modelos: mejor comprensión de cómo se desarrollan y entrenan los modelos de terceros y qué riesgos de seguridad conllevan
- Eliminación de modelos: formas más seguras de eliminar o desmantelar sistemas de IA al final de su vida útil
Los autores también señalan a los sistemas de IA con capacidad de agencia como una amenaza emergente donde la investigación en seguridad sigue siendo especialmente limitada, aunque esperan que la actividad en esa área aumente a medida que dichos modelos se vuelvan más comunes.
Los hallazgos de la revisión ponen de relieve cómo la ciberseguridad de la IA va más allá de los propios modelos, y que se necesita más investigación para comprender y asegurar estos sistemas a lo largo de su ciclo de vida. Con la adopción de la IA en la sociedad en aumento, esto es crucial para el uso seguro de esta tecnología.
La revisión fue dirigida por el profesor Nick Race, vicedecano de investigación de la Faculty of Science and Technology de Lancaster University y profesor de sistemas en red, con la Dra. Tessa Wilkie también acreditada como autora.
Recomendado
La vulnerabilidad RCE de ServiceNow ahora está siendo explotada activamente
Nos complació que DSIT nos invitara a dirigir una revisión del panorama de la investigación en seguridad de la IA, apoyando al gobierno en su trabajo para mejorar la ciberresiliencia del Reino Unido.
El informe, “Thematic review and gap analysis on AI security,” se publicó en gov.uk. La noticia fue publicada el 14 de julio de 2026.
Security Editor
Sophia unpacks the invisible wars happening on our networks. Covering cybersecurity, privacy legislation, and cryptography, she exposes how our data is weaponized and defended. Before joining for(geeks), she spent years as a penetration tester. She's the reason the rest of the team uses physical security keys.
vía TechXplore
