Jamie Dimon advierte que abrir Anthropic Mythos es demasiado arriesgado

El consejero delegado de JPMorgan, Jamie Dimon, ha advertido que un acceso amplio a Claude Mythos de Anthropic podría suponer grandes riesgos de seguridad, calificándolo como un “problema real” y comparando la liberación del modelo con “dar misiles balísticos a personas.” Hizo estas declaraciones en la Cumbre de Defensa e Innovación de Pensilvania, donde señaló la capacidad del sistema para encontrar fallos de ciberseguridad y generar exploits operativos.

Las preocupaciones surgen después de que el gobierno de EE. UU. ordenara a Anthropic bloquear el acceso a ciudadanos extranjeros, citando inquietudes de seguridad. Según la fuente, Claude Mythos está actualmente limitado a un pequeño grupo de organizaciones, empresas y departamentos federales y militares, mientras que el acceso público permanece bloqueado.

TechRadar señala que Mythos no es una amenaza de ciencia ficción como Skynet, pero ya ha demostrado capacidades que podrían ser peligrosas si se usan de forma indebida. El modelo puede:

• detectar vulnerabilidades de ciberseguridad
• informar sobre esas vulnerabilidades
• generar exploits automatizados

Eso lo hace útil para labores de seguridad defensiva, pero también podría ayudar a los atacantes a ampliar el alcance de ransomware, phishing y otras estafas basadas en datos.

Recomendado

Kimi K3 llega con 2.8T de parámetros y tokens caros

Los riesgos informados van más allá de la ciberseguridad. TechRadar afirma que el modelo también ha mostrado capacidades potentes en la investigación científica, particularmente en biología, lo que suscita preocupaciones de que los atacantes podrían usarlo para simplificar y hacer un mal uso de conocimientos sensibles.

Restricciones de acceso y disponibilidad futura

A pesar de los límites actuales, Anthropic ha dicho que quiere que las funciones y capacidades al nivel de Mythos estén más ampliamente disponibles. Antes de que eso ocurra, la empresa necesitaría desarrollar y aplicar salvaguardas más sólidas, especialmente en torno a tareas de ciberseguridad y de carácter biológico o médico.

TechRadar sugiere que el resultado más probable es un acceso más amplio eventual con restricciones en las funciones de mayor riesgo en lugar de un lanzamiento público completo. También señala el Proyecto Glasswing, que ya está operando con un pequeño grupo de socios que incluye a Amazon Web Services, Anthropic, Apple, Broadcom, Cisco y CrowdStrike. Se espera que ese esfuerzo se expanda hasta que dichas salvaguardas se demuestren aptas para el uso público.

La fuente citó a Reuters.