Substack lanza escaneos de texto por IA para publicaciones y comentarios

Substack ha lanzado una nueva herramienta de detección de IA destinada a ayudar a los lectores a determinar si un texto fue escrito por una persona o generado por IA. Anunciada en una entrada de blog el martes, la función está impulsada por Pangram y funciona en publicaciones, notas, respuestas y comentarios de Substack.

«No todo lo hecho con IA es basura, y no toda la basura está hecha con IA. El problema es cuando hay una discrepancia entre la expectativa del lector y la realidad, especialmente cuando invierten su atención sin darse cuenta en algo que no tiene pensamiento humano al otro lado.»

La herramienta está disponible ahora en la web y en la app de iOS, y Android llegará más adelante. Para usarla, los lectores abren el menú «…» y eligen «Escanear texto por IA». Un cuadro emergente muestra entonces qué porcentaje del fragmento Pangram clasifica como generado por IA, asistido por IA o humano.

Hay límites. Substack dice que la función solo funciona en fragmentos de más de 100 palabras y únicamente para contenido publicado después de las 8:30 a.m. PT / 11:30 a.m. del 21 de julio. Las publicaciones anteriores se marcan como no elegibles, mientras que los fragmentos más cortos muestran un aviso que indica que no hay suficiente texto para una detección precisa. En las propias publicaciones de Best, el cuadro emergente también incluye una línea extra: «Todavía estoy resolviendo todo esto. (Mientras tanto, estas palabras son mías, para bien o para mal.)»

Recomendado

Threads añade controles parentales para adolescentes la próxima semana

Lo que los autores pueden hacer con Pangram en Substack

Pangram solo escanea el texto cuando un lector lo solicita explícitamente. Best también dijo que el sistema no puede detectar los casos en que un humano usó IA para investigar antes de escribir.

Substack también está añadiendo algunos controles para los escritores:

• Los autores pueden añadir una declaración explicando cómo se escribió una publicación
• Los escritores pueden ejecutar Pangram en borradores
• Pueden enviar un informe si creen que el contenido fue clasificado incorrectamente
• También pueden desactivar por completo la detección de IA en su contenido, independientemente de si Pangram acertó o no

×

Pangram en sí utiliza IA para identificar texto escrito por IA, pero no es un modelo generativo. En cambio, se basa en una red neuronal clasificadora entrenada para distinguir entre escritura humana y generada por IA. La compañía afirma que su conjunto de datos de textos escritos por humanos proviene de fuentes publicadas antes de 2021, antes de que la IA generativa se generalizara en línea.

Best dijo que Substack está considerando más funciones relacionadas con la IA basadas en los comentarios de los usuarios, incluidas preferencias de recomendación que podrían eventualmente permitir a los usuarios filtrar por completo el contenido generado por IA. Esto se produce después de que un estudio reciente de la firma de marketing digital Graphite encontrara que el número de artículos en línea generados principalmente por IA es ahora igual al número de los escritos por humanos.