El asesoramiento médico por IA se está extendiendo rápidamente y sigue siendo peligrosamen

Millones de estadounidenses ahora preguntan a chatbots sobre erupciones, tos y otros problemas de salud en lugar de empezar por un médico, pero las máquinas a las que recurren siguen siendo pésimas en medicina. Un nuevo estudio en JAMA Network Open encontró que 21 modelos avanzados de lenguaje fallaron con más frecuencia cuando los síntomas eran ambiguos y aun así erraron en una proporción inquietante de casos sencillos, mientras que una encuesta separada sugiere que una gran parte del público ya usa IA para orientación sanitaria de todos modos.

Esa combinación es la verdadera historia: la demanda de consejo médico por IA va por delante de la fiabilidad. Los modelos pueden estar mejorando para sonar útiles, pero la medicina tiene menos que ver con sonar seguro que con resistir la tentación de adivinar. Los chatbots siguen haciendo lo contrario.

Qué encontró el estudio de JAMA

Los investigadores evaluaron los modelos con escenarios de pacientes realistas y les pidieron que actuaran como médicos. Cuando los síntomas podían apuntar a más de una condición, la tasa de fallo superó el 80 por ciento. Incluso en casos más claros que incluían hallazgos del examen físico y resultados de laboratorio, los modelos siguieron equivocándose el 40 por ciento de las veces.

Recomendado

xAI demanda a un usuario de Grok por imágenes de abuso infantil

El patrón importa más que la tasa bruta de errores: los modelos se aferraron demasiado pronto a una sola respuesta en lugar de trabajar un diagnóstico diferencial como lo hacen los clínicos. Ese es el tipo de error que puede convertir una comprobación inocua de síntomas en un callejón sin salida seguro.

• Se evaluaron 21 modelos avanzados de lenguaje
• La tasa de fallo superó el 80 por ciento para síntomas ambiguos
• La tasa de fallo fue del 40 por ciento incluso con hallazgos de examen y resultados de laboratorio
• Los modelos tendieron a apelotonarse en una sola respuesta demasiado pronto

Por qué la gente sigue usando ChatGPT y otros chatbots para salud

La parte de la encuesta es igual de aleccionadora. Uno de cada cuatro adultos estadounidenses, es decir, 66 millones de personas, dijo que ha preguntado a ChatGPT o a un chatbot similar por consejo médico. Muchos dijeron que usaron IA antes o después de ver a un profesional, pero una proporción significativa afirmó que el bot sustituyó por completo una visita real.

Entre quienes usaron IA para preguntas de salud, el 14 por ciento dijo que se saltó a un proveedor al que de otro modo habría acudido. El coste forma claramente parte del atractivo: el 27 por ciento dijo que no quería pagar una visita, y el 14 por ciento dijo que no podía permitírsela. Sumando tiempo, acceso y simple conveniencia, el chatbot deja de parecer una novedad y empieza a parecer un atajo de triaje.

El problema de la confianza

Lo más desagradable es que las respuestas equivocadas todavía pueden parecer útiles. Casi la mitad de los encuestados dijo que la IA les hizo sentirse más seguros al hablar con un proveedor, el 22 por ciento dijo que les ayudó a detectar problemas antes, y el 19 por ciento dijo que les ayudó a evitar pruebas o procedimientos innecesarios. Eso puede ser una ventaja cuando el consejo es sólido. Cuando son inventos alucinados, es solo marketing.

También hay escepticismo sano en la mezcla. Alrededor de un tercio de los encuestados que usaron IA para asuntos de salud dijeron que no confiaban en ella, y uno de cada diez afirmó que el consejo era potencialmente inseguro. Así que el público parece saber que estas herramientas son inestables mientras las usa de todos modos, lo cual es una forma muy al estilo de internet de acercarse a la medicina.

El consejo sanitario de la IA va por delante de la supervisión

Nada de esto ocurre en el vacío. Google ya ha tenido que corregir sugerencias absurdas de IA, y los médicos han informado de que herramientas de transcripción inventan medicamentos que nunca existieron. El problema no es solo el error factual; es una certeza falsa entregada a gran escala, envuelta en una interfaz de chat que hace que el mal consejo parezca personal.

Por eso esto se parece menos a un contratiempo tecnológico curioso y más a una pelea regulatoria atrasada. Hospitales, aseguradoras y fabricantes de plataformas están avanzando hacia la atención asistida por IA, pero el público ya vive las consecuencias antes de que se implementen salvaguardias serias. La siguiente pregunta es si los reguladores actúan primero, o si la próxima oleada de pacientes aprende por las malas que una respuesta fluida no es lo mismo que una correcta.