Las fotos de aves falsas están contaminando los datos científicos

Investigadores advierten que la IA generativa está interfiriendo incluso en algo tan básico como la observación de aves. En una reciente carta en Nature, autores de Cornell y Manchester Metropolitan University dijeron que imágenes falsas y editadas con IA —junto con grabaciones— están empezando a erosionar la calidad de los datos en plataformas de ciencia ciudadana como iNaturalist.

Eso importa porque estas bases de datos ya no son solo proyectos de afición. Ecólogos y ornitólogos las usan para rastrear áreas de distribución de especies, migraciones estacionales y cambios en las poblaciones. Cuando material generado por IA entra en esos conjuntos de datos, la confianza en los registros disminuye junto con su valor científico.

Los investigadores dicen que los moderadores ya están encontrando imágenes generadas y mejoradas con IA, aunque la verdadera magnitud del problema aún no está clara. Y el problema va mucho más allá de la observación de aves. El mismo riesgo se aplica a proyectos que cubren hongos, insectos y plantas —en cualquier lugar donde una foto se trate como prueba de que ocurrió una observación.

Recomendado

Metamateriales inspirados en esponjas reducen vibraciones y aumentan la resistencia

El problema se agrava por la IA en el otro extremo de la cadena. Las aplicaciones de identificación de aves, incluida Merlin del Cornell Lab of Ornithology, ya usan aprendizaje automático para sugerir especies basándose en el sonido, las fotos y la ubicación. Si datos defectuosos llegan a los conjuntos de entrenamiento, esos sistemas se vuelven más propensos a errores. Los usuarios entonces retroalimentan esos errores a las bases de datos, creando un bucle en el que los datos pobres entrenan modelos, y los modelos ayudan a generar aún más datos pobres.

La ciencia ciudadana funciona mediante un intercambio sencillo: alguien ve un animal, registra la ubicación, sube una foto y contribuye a la investigación. A gran escala, ese sistema tiene un valor enorme. Solo iNaturalist contiene decenas de millones de observaciones, y bases de datos similares son usadas en todo el mundo por observadores de aves, insectos y plantas.

La IA generativa está especialmente bien capacitada para imitar ese tipo de evidencias. Puede crear imágenes plausibles de especies raras, alterar el fondo de una foto real o ajustar detalles para que coincidan con un resultado esperado. Para los moderadores, separar una falsificación de una imagen de baja calidad o de un error ordinario se vuelve mucho más difícil.

Estas bases de datos científicas se construyeron en una época en la que las entradas falsas eran mayormente accidentales: una foto borrosa, una etiqueta equivocada, una especie mal identificada. La IA generativa añade algo más cercano a escala industrial. Los investigadores sostienen que esto ya no se trata de curiosidades aisladas, sino de un flujo constante de contenido capaz de desplazar silenciosamente las estadísticas de observación.

Problemas similares ya han afectado a las bibliotecas de imágenes de stock y a las revistas científicas, que han visto un aumento de ilustraciones y gráficos cuestionables hechos con herramientas generativas. Pero en la ciencia ciudadana, lo que está en juego es mayor: los registros alimentan conclusiones sobre migración, distribución y la salud de las poblaciones.

El efecto más dañino puede aparecer más adelante. Incluso si se elimina algo de material falso, los datos contaminados ya pueden haber entrado en los conjuntos de datos usados para entrenar nuevos modelos y construir herramientas analíticas. En ese punto, el error deja de ser un caso aislado. Se acumula, y cada nueva capa de automatización dificulta la limpieza. Para las plataformas, la pregunta ya no es si aparecerá material generado por IA, sino si moderadores y algoritmos pueden detectar suficiente de él antes de que una foto falsa se convierta en un punto falso más en un mapa de especies.