El filósofo interno de DeepMind ante el auge de la IA

Durante un tiempo, Iason Gabriel fue el único filósofo dentro de un laboratorio de IA de vanguardia. Según un extenso reportaje de The Guardian, Gabriel trabaja en Google DeepMind desde 2017, encargado de reflexionar sobre las consecuencias éticas de los sistemas que sus colegas ingenieros estaban construyendo a gran velocidad.

El perfil sitúa su trabajo entre dos corrientes de riesgo de la IA que a menudo se trataban por separado. Una, la seguridad de la IA, se centraba en la amenaza de que una futura superinteligencia se volviera descontrolada. La otra, la ética de la IA, abordaba daños actuales como el reconocimiento facial sesgado. El artículo de 2020 de Gabriel sobre valores y alineamiento intentó conectar esos campos. Su argumento fue sencillo: lograr que una máquina siga un conjunto de valores es difícil, pero decidir qué valores deben guiarla es todavía más complicado en un mundo marcado por profundas discrepancias.

The Guardian también destaca un informe de 267 páginas que Gabriel y su equipo produjeron posteriormente sobre agentes de IA. Su afirmación central es que el alineamiento no es simplemente una cuestión de que un modelo obedezca comandos. En cambio, es una relación de cuatro vías que involucra a la IA, al usuario, al desarrollador y a la sociedad. Ese marco, sostiene la pieza, ayuda a explicar cómo los asistentes pueden fallar de maneras más sutiles. Un sistema optimizado para satisfacer a un usuario, por ejemplo, puede limitarse a decirle lo que quiere oír —una falla que Gabriel describe como «manipulación de la recompensa social».

En parte por ese trabajo, dice el informe, los modelos de Google se entrenan para no fingir ser humanos. Pero The Guardian sugiere que la mayor presión sobre este tipo de trabajo es comercial más que técnica. Describe la IA como la industria de más rápido crecimiento que ha visto el mundo, con DeepMind ahora sosteniendo gran parte del futuro de Google. El director ejecutivo, Demis Hassabis, ha calificado la carrera de «tiempo de guerra».

La tensión es si los equipos de IA responsable pueden mantener su posición conforme aumentan esas presiones. Helen King, que dirige la estrategia de IA responsable de DeepMind, comparó la tarea con fabricar un cuchillo: el fabricante no puede controlar cada uso, pero puede cubrir la hoja y advertir a la gente. Gabriel, que se describe a sí mismo como un «humanista convencido», dijo a The Guardian que espera que la IA sea tan transformadora como la Revolución Industrial —y señaló que para muchos que vivieron esa convulsión, la vida empeoró antes de mejorar.

Recomendado

Mick Jagger apoya la música con IA — pero no las copias de los Stones