ELIZA vio venir nuestras confesiones a ChatGPT

Mucho antes de ChatGPT, ELIZA mostró lo rápido que la gente se abría a una máquina. Un nuevo extracto de Inventing ELIZA sostiene que el programa de los años sesenta hizo algo más que lanzar el arquetipo del chatbot: puso al descubierto una persistente tendencia humana a atribuir empatía, inteligencia y autoridad a un software que solo parece entendernos.

Los autores dicen que una pieza clave de la historia de ELIZA ha estado ausente durante décadas: el código fuente original, recuperado de los Archivos del MIT. Su investigación apunta no a una ELIZA sino a muchas versiones, creadas para ejecutar distintos guiones y personas más allá del famoso modo DOCTOR. Eso importa porque ELIZA a menudo se ha reducido a un mito simple: el primer chatbot, supuestamente tan persuasivo que incluso engañó a la secretaria que veía a Joseph Weizenbaum construirlo.

El intercambio de muestra más conocido sigue funcionando por lo poco que hace:

«Los hombres son todos iguales.» «¿EN QUÉ SENTIDO?» «Siempre nos están molestando por una cosa u otra.» «¿PUEDE PENSAR EN UN EJEMPLO ESPECÍFICO?» «Bueno, mi novio me hizo venir aquí.» «SU NOVIO LE HIZO VENIR AQUÍ» «Dice que estoy deprimida gran parte del tiempo.» «SIENTO OÍR QUE ESTÁ USTED DEPRIMIDA»

Lo que fascinó a Weizenbaum no fue si ELIZA era inteligente, sino por qué los usuarios la trataban como si lo fuera. Más tarde describió a las personas dirigiéndose a la computadora «en términos íntimos», a pesar de su falta de comprensión. Esa reacción pasó a conocerse como el efecto ELIZA: la tendencia a atribuir mucha más inteligencia al software que responde de la que realmente merece.

Recomendado

Anthropic añade Fable 5, y luego reduce a la mitad los límites de uso

Como apunta el extracto, Sherry Turkle definió el término como «nuestra tendencia más general a tratar a los programas informáticos que responden como más inteligentes de lo que realmente son», mientras que Douglas Hofstadter lo describió como atribuir demasiado entendimiento a cadenas de palabras generadas por ordenador. La comparación con la IA generativa moderna es explícita.

Cómo ELIZA dio forma a la interfaz del chatbot

El propio Weizenbaum dejó claro en 1966 que ELIZA nunca estuvo destinada a pasar la prueba de Turing. En su artículo de presentación del sistema, escribió que su propósito incluía ocultar «su falta de comprensión». Los autores sostienen que esto convierte a ELIZA en una lente útil para los sistemas actuales de IA, cuyas interfaces conversacionales fluidas aún pueden ocultar cuánto del resultado depende de la predicción estadística, las reglas y el trabajo humano.

También conectan a ELIZA con cuestiones de género e identidad performativa. El nombre del programa proviene de Eliza Doolittle en Pygmalion, un personaje enseñado a hacerse pasar por otra persona mediante una actuación lingüística. En esa lectura, ELIZA no solo simulaba la conversación; representaba una persona.

×

El extracto sostiene que las mismas tensiones ahora animan a los modelos de lenguaje a gran escala. Sus interfaces invitan a la confianza y a la divulgación, mientras ocultan la maquinaria subyacente y el trabajo humano incorporado en sus datos de entrenamiento. Weizenbaum advirtió que despojar al lenguaje de su contexto social podría deshumanizar, y los autores sugieren que esa advertencia solo se ha vuelto más relevante a medida que empresas como OpenAI y Anthropic impulsan sistemas conversacionales en la vida cotidiana.

A pesar de toda la distancia técnica entre ELIZA y los modelos modernos, la continuidad es difícil de ignorar: los usuarios siguen encontrándose con una ventana de chat, proyectan una mente detrás de ella y comienzan a contarle cosas que quizá no le dirían a nadie más.