Algunos problemas de IA siguen siendo irresolubles, incluso con datos infinitos

Un equipo de la University of Cambridge y de la University of California, Santa Barbara afirma que existen límites estrictos a lo que la IA puede aprender —y que, en algunos casos, más datos no ayudan. En un trabajo publicado en Nature Communications, los investigadores construyeron sistemas matemáticos «adversariales» diseñados para engañar a cualquier algoritmo de IA, con el objetivo de mostrar exactamente dónde fallan los métodos de predicción.

El objetivo es un problema común en ciencia e ingeniería: sistemas como los océanos, el cerebro humano o los robots suelen ser demasiado caóticos para describirlos con ecuaciones ordenadas, por lo que los investigadores recurren al aprendizaje automático. Pero según el estudio, algunos de estos problemas no son solo difíciles. Son fundamentalmente imposibles de resolver de manera fiable, incluso con datos infinitos.

Qué hace fallar la predicción de la IA

El autor principal, el Dr. Matthew Colbrook del Departamento de Matemáticas Aplicadas y Física Teórica de Cambridge, dijo que el trabajo trata de identificar la frontera entre tareas resolubles e irresolubles.

Recomendado

Libros falsos generados por IA inundan Apple Books y Amazon

«Estamos sondeando los límites de lo que se puede y no se puede hacer con la IA.»

El equipo empleó el aprendizaje del operador de Koopman, un método que recastiza el comportamiento no lineal complejo en una forma lineal que es más fácil de analizar. A partir de ahí, encontraron dos razones principales por las que el aprendizaje automático se descompone en sistemas complejos:

• el algoritmo no puede saber cuándo ha visto suficientes datos para ofrecer una respuesta fiable
• patrones clave están ocultos o son demasiado difíciles de distinguir

Colbrook dijo que una suposición generalizada en la investigación en IA es que con suficientes datos el aprendizaje acabará funcionando, pero los resultados del equipo muestran que eso «a menudo es incorrecto». En algunos casos, el aprendizaje debe producirse en varios pasos y en el orden adecuado.

El artículo también vincula estos límites con los sistemas caóticos, donde pequeñas diferencias en las condiciones iniciales pueden conducir a resultados muy distintos. En esos casos, la predicción a corto plazo aún puede funcionar, pero la predicción a largo plazo se vuelve poco fiable a medida que los errores se acumulan. Los investigadores sostienen que el mismo tipo de inestabilidad puede ayudar a explicar por qué chatbots como ChatGPT o Claude pueden sonar precisos al principio y luego desviarse o alucinar en respuestas más largas.

Prueba con el hielo marino ártico y una verificación de fiabilidad más económica

Los investigadores también desarrollaron lo que describen como un algoritmo demostrablemente fiable y altamente eficiente con límites de error incorporados, destinado a ayudar a los usuarios a juzgar cuándo se puede confiar realmente en la salida de un modelo de IA. Dicen que puede hacerlo a una fracción del coste de la mayoría de los superordenadores.

Para probarlo, el equipo aplicó el método a más de 40 años de datos sobre el hielo marino ártico. Según el estudio, el algoritmo descubrió patrones ocultos en el declive del hielo marino y superó a los principales modelos de IA actuales mientras se ejecutaba en un portátil estándar.

«Ahora estamos en una etapa en la que ha habido muchos ejemplos llamativos e historias de éxito en la IA, pero es vital que también nos preguntemos cuán seguros son los modelos y cómo sabemos si lo son.»

El artículo se titula «Sistemas dinámicos adversariales caracterizan cuándo el aprendizaje impulsado por datos tiene éxito o fracasa» y tiene el DOI 10.1038/s41467-026-74220-8.