El CEO de DeepMind impulsa un nuevo organismo de estándares para la IA

El CEO de Google DeepMind, Demis Hassabis, pide la creación de un organismo independiente para supervisar las publicaciones de modelos de IA de frontera en EE. UU. En una publicación en X de la mañana del martes, titulada «Un marco para la IA de frontera y el amanecer de una nueva era», Hassabis defendió un organismo de normas modelado según la Financial Industry Regulatory Authority (FINRA)."

Según la propuesta, los laboratorios de IA de frontera compartirían voluntariamente los modelos hasta 30 días antes de su lanzamiento para que el organismo pudiera probarlos y desarrollar buenas prácticas. Si ese proceso de revisión demostrara ser eficaz, dijo Hassabis, podría formalizarse más adelante, exigiendo que los modelos de frontera superen la evaluación antes de desplegarse en el mercado estadounidense. Además, los laboratorios colaborarían con el grupo en cualquier vulnerabilidad crítica que se detectara tras el lanzamiento.

La idea se basa en las revisiones ad hoc del gobierno de EE. UU. sobre Mythos de Anthropic y Sol de OpenAI. Esas revisiones fueron criticadas por su limitada experiencia técnica y por decisiones opacas sobre cuándo se podía lanzar un modelo.

Hassabis propone confiar esos juicios a una nueva organización que estaría respaldada por el gobierno de EE. UU., financiada por la industria de la IA y operada de forma independiente. Esa estructura podría ayudar a sortear la resistencia a una regulación directa de la IA tanto por parte de la industria tecnológica como por la administración Trump. Sriram Krishnan, asesor sobre IA de la Casa Blanca y socio general de a16z, rechazó recientemente la idea de un regulador de IA del poder ejecutivo, afirmando que «no habrá una FDA para la IA».

Recomendado

Los modelos abiertos están tomando la delantera en la primera línea de la IA

Hassabis afirmó que el organismo propuesto podría incluir representantes del código abierto y expertos técnicos de la industria, con suficiente apoyo financiero por parte de los laboratorios de IA para retenerlos. También podría externalizar partes de su trabajo de evaluación a grupos especializados en seguridad de la IA.

«La fortaleza de este enfoque es que estaría centrado en lo técnico, al mismo tiempo que apoyaría la innovación e incentivaría un comportamiento responsable. Está diseñado para seguir el ritmo de la aceleración del campo y adaptarse a los mayores riesgos a medida que se identifiquen, y podría intensificarse si la gravedad de la situación lo exige.»