Substack añade comprobaciones de IA y lanza una pulla a LinkedIn

Substack ha lanzado una función de detección de texto generado por IA en colaboración con Pangram, que ofrece a los lectores la posibilidad de escanear publicaciones de 100 palabras o más y ofrece a los escritores un nuevo campo para declarar si usaron IA y con qué fin.

La función ya está activa en la web y en iPhone, con soporte para Android previsto más adelante. En su anuncio, Substack también arremetió contra LinkedIn, afirmando que la plataforma ya tiene más que suficiente contenido generado por IA. En la misma publicación, describió los esfuerzos por fingir una sensación artificial de «humanidad» mediante texto generativo como «Claudefishing».

Esa frase es provocadora, pero el problema subyacente no es nuevo. Los detectores de IA han sido controvertidos durante mucho tiempo porque con regularidad se equivocan. Pueden no detectar texto generado por completo o señalar como producido por IA obras de autores reales, por lo que estas herramientas suelen verse con escepticismo.

Recomendado

Por qué los chatbots de IA se sienten como compañeros ficticios

The Atlantic examinó anteriormente la precisión de Pangram y servicios similares, y la conclusión no fue favorable: las afirmaciones de que una herramienta puede «detectar IA» de forma fiable suenan seguras, pero el rendimiento en el mundo real depende en gran medida de factores como la longitud del texto, el tema y cómo se reescribió el texto.

Visto así, la medida de Substack parece menos un intento de ofrecer un veredicto impecable y más un esfuerzo por establecer expectativas. Los lectores obtienen un botón para ejecutar una comprobación, mientras que a los autores también se les pide que indiquen abiertamente dónde se usó la IA en un texto. En algunos casos, ese tipo de divulgación puede ser más útil que la detección automatizada por sí sola.

A medida que el contenido generativo sigue extendiéndose, esas etiquetas al menos dan a los lectores algo de contexto sobre lo que están viendo. La utilidad de ello dependerá de dos cosas: de qué tan honestamente los autores completen el campo de declaración y de qué tan en serio los lectores tomen el resultado del detector.