La búsqueda con IA de Google desata la alarma sobre la seguridad escolar

Common Sense Media ha calificado la Búsqueda con IA de Google como «riesgo inaceptable» para los estudiantes, instando a los menores a dejar de usarla hasta que las escuelas dispongan de una forma de apagar las funciones de IA sin tener que desactivar la Búsqueda por completo.

El organismo de control dijo que el Modo IA resolvía fácilmente deberes para usuarios jóvenes, repetía desinformación con una confianza injustificada y exponía a los niños a experiencias de IA generativa impulsadas por modelos Gemini que están restringidas por edad en el resto de productos de Google. Según el informe, el problema está integrado en el producto: cuando Google lanzó el Modo IA para Búsqueda el año pasado, hizo la función disponible para todo el mundo de inmediato, incluidas las cuentas educativas.

Ahora mismo, Google no ofrece una palanca para desactivar las funciones de IA manteniendo la Búsqueda disponible. Los padres pueden bloquear Google.com por completo para cuentas infantiles, y los administradores escolares podrían hacer lo mismo para los usuarios de Workspace for Education. Pero eso crea un problema evidente en las aulas.

Recomendado

El uso excesivo de la IA está provocando rechazo entre quienes buscan pareja

«¿Qué vas a decir? ¿Que los niños no pueden buscar en la web?»

Google sigue profundamente arraigado en las escuelas. Lideró el movimiento 1:1 de dispositivos que introdujo Chromebooks en las aulas de todo EE. UU. y ahora atiende a millones de usuarios de Workspace for Education desde educación infantil hasta posgrado.

«El Resumen de IA y el Modo IA de Google están socavando la educación de los niños, suministrándoles desinformación peligrosa y poniendo en riesgo sus propias vidas. Si Google ni siquiera está dispuesto a desactivar las funciones de IA para los estudiantes, las escuelas deberían dejar de usar los productos de Google por completo.»

La revisión más amplia de la búsqueda de Google ya ha sido criticada por reemplazar los enlaces con resúmenes generados por IA. En educación, ese cambio transforma la búsqueda de un proceso de encontrar y evaluar fuentes a simplemente recibir una respuesta.

Google dijo a Mashable que las pruebas de Common Sense Media eran «estrechas y ambiguas» y no una forma eficaz de evaluar la seguridad del producto. El organismo evaluó cuentas de consumidores, no cuentas educativas, pero Google confirmó que la experiencia de IA es la misma para todos los usuarios.

La presión legal también está aumentando. En abril, un tribunal alemán dictaminó que Google es legalmente responsable del contenido de sus Resúmenes de IA, tratando esos contenidos como declaraciones propias de Google en lugar de resultados de terceros. Si ese razonamiento se aplicara en EE. UU., las escuelas que usan la Búsqueda de Google podrían enfrentarse a responsabilidades cuando a los estudiantes se les muestren respuestas alucinadas presentadas como hechos.