Jaron Lanier dice que 'IA' es la historia equivocada

Jaron Lanier sostiene que el término “IA” no solo es impreciso, sino que resulta activamente engañoso. En su ensayo del 20 de abril de 2023 para The New Yorker, el científico informático afirma que mitificar sistemas como GPT-4 dificulta gobernarlos correctamente, especialmente cuando partes de la industria hablan abiertamente sobre riesgos existenciales.

×

La afirmación central de Lanier es sencilla: los sistemas actuales deben tratarse como herramientas, no como criaturas. Afirma que los grandes modelos no son mentes independientes sino sistemas estadísticos construidos a partir de texto, imágenes y otro material creados por humanos. Un modelo como GPT-4 de OpenAI, en su opinión, se parece más a un vasto registro recombinado del trabajo humano que a una nueva inteligencia.

Ese encuadre importa porque, argumenta, el debate actual está distorsionado por pensamientos de ciencia ficción. Lanier señala que incluso figuras prominentes como Sam Altman han advertido sobre daños graves, y cita una encuesta reciente en la que la mitad de los científicos de IA dijo que existía al menos un diez por ciento de probabilidad de que la humanidad pudiera ser destruida por la IA. Pero afirma que esos miedos a menudo se discuten en términos vagos y cuasi-religiosos en lugar de como problemas concretos de ingeniería y política.

Lanier no descarta los riesgos. Sostiene que los sistemas flexibles y no rígidos pueden ser útiles, incluso en interfaces que se adaptan a las personas en lugar de obligar a las personas a adaptarse al software. Al mismo tiempo, dice que esos mismos sistemas pueden manipular a los usuarios, generar deepfakes convincentes y concentrar aún más el poder si no se controlan.

Recomendado

El acuerdo de 1.500 millones de dólares de Anthropic con autores recibe la aprobación judi

Su dirección preferida en materia de política es más específica que llamados generales a pausar el desarrollo. Lanier dice que existe un amplio consenso en que:

• los deepfakes deberían estar claramente etiquetados
• las comunicaciones de personas artificiales deberían estar etiquetadas
• las interacciones automatizadas diseñadas para manipular el pensamiento o las acciones humanas deberían estar etiquetadas
• esas etiquetas deberían ir acompañadas de opciones significativas para el usuario

Dignidad de los datos y abrir la caja negra

Lanier afirma que el desafío más profundo es la naturaleza de caja negra de los modelos a gran escala. Es escéptico respecto a que conceptos vagos como alineamiento, seguridad y equidad sean suficientes por sí solos, porque son difíciles de definir con precisión y fáciles de convertir en un mero cumplimiento de procedimientos.

Su alternativa es la «dignidad de los datos», también conocida como «datos como trabajo» o «investigación de pluralidad». La idea es rastrear las salidas del modelo hasta los creadores humanos cuyo trabajo contribuyó a producirlas, haciendo a las personas dentro del modelo más visibles. En algunas versiones, esas personas también podrían recibir pago cuando sus contribuciones se filtran y recombinan a través de modelos a gran escala.

Para Lanier, eso sería una respuesta más clara tanto a las preocupaciones sobre manipulación como a las laborales que pretender que los sistemas actuales son seres digitales misteriosos. Escribe que los sistemas basados en grandes modelos están hechos de personas, y que abrir la caja negra implica sacarlas a la luz.