Instan a las escuelas a dejar de usar Google por los riesgos de Google Search con IA

Un nuevo informe de Common Sense Media afirma que las funciones impulsadas por IA de Google Search suponen un “riesgo inaceptable” para los estudiantes, y los defensores de la educación instan ahora a las escuelas a reconsiderar por completo su dependencia de los productos de Google.

Google lanzó el Modo IA para Google Search el año pasado, poniéndolo a disposición de inmediato para todos los usuarios, incluidas las cuentas educativas. Los defensores dijeron a Mashable que esto resulta especialmente preocupante porque el Modo IA se ejecuta con modelos Gemini, que están restringidos por edad en otros productos de Google, incluidas partes de la suite educativa de Google.

Según Robbie Torney, director sénior de programas de IA en Common Sense Media, Google ejerce una enorme influencia tanto en la búsqueda como en la educación a través de productos como los Chromebooks y Google Workspace for Education. La preocupación, dijo, es que la IA generativa ahora está tan integrada en las herramientas centrales de Google que muchos estudiantes pueden ni siquiera darse cuenta de que la están utilizando.

Preocupaciones sobre la desinformación, las trampas académicas y la seguridad estudiantil

Investigadores ya han comprobado que los Resúmenes IA pueden repetir desinformación, un problema que, según los críticos, sigue sin resolverse. Common Sense Media también descubrió que las herramientas de IA de Google completarían fácilmente las tareas escolares para usuarios menores de edad, lo que genera preocupación de que los estudiantes puedan hacer trampa sin ser plenamente conscientes de ello.

Recomendado

Instan a Apple a hacer más contra la sextorsión

«No hay ninguna razón por la que un niño de 10 años, uno de 13 años o incluso uno de 15 debería ver un Resumen IA o tener el Modo IA.»

Amanda Bickerstaff describió el Modo IA como una «puerta trasera» hacia experiencias de IA generativa inseguras para los estudiantes. Sostuvo que la función va en contra de los esfuerzos por enseñar alfabetización en IA al insertar respuestas al estilo de chatbots en una herramienta que los estudiantes usan para buscar información fiable.

El informe también advierte que los Resúmenes IA y el Modo IA pueden crear riesgos para la salud mental y la seguridad de los niños. Google no ofrece una configuración que desactive únicamente las funciones de IA dejando Google Search intacto. Los padres pueden bloquear Google.com por completo para cuentas infantiles, y los administradores escolares podrían teóricamente hacer lo mismo con las cuentas de Workspace for Education, pero eso cortaría efectivamente el uso de Google Search.

Presión sobre los distritos escolares

En un comunicado a Mashable, Google dijo que las pruebas de Common Sense Media fueron limitadas y ambiguas, y que no son una forma eficaz de medir la seguridad y la utilidad del producto. Common Sense Media probó cuentas de consumidor, no cuentas de Workspace for Education, aunque Torney declaró que Google indicó que la experiencia de Google Search con IA es la misma para todos los usuarios.

Los defensores dicen que eso deja a los distritos escolares expuestos. David Monahan, director de campaña de Fairplay for Kids, dijo que las escuelas deberían dejar de usar los productos de Google si la empresa no desactiva las funciones de IA para los estudiantes. Anya Meksin, subdirectora de Schools Beyond Screens, dijo que los distritos pueden ya estar violando sus propias políticas de IA porque herramientas integradas como Google Search y los Chromebooks siguen exponiendo a los estudiantes a funciones de IA.

Ella señaló al Distrito Escolar Unificado de Los Ángeles, cuya política prohíbe que estudiantes menores de 13 años usen IA generativa en la escuela, mientras que los estudiantes aún pueden encontrarse con el Modo IA a través de dispositivos escolares. Meksin dijo que las escuelas K-12 han gastado miles de millones en tecnología educativa en los últimos 20 años, lo que dificulta deshacer esos sistemas rápidamente, pero argumentó que los distritos aún tienen poder de influencia como grandes compradores.

«Como los mayores compradores de estos productos, los distritos tienen poder. Si Google se niega a cumplir, los distritos deben dejar de usar estos productos y anular estos contratos.»