Pregunta a un chatbot qué fármaco tomar justo después de ver un anuncio, y la respuesta cambia. Un estudio publicado el 11 de noviembre en The Lancet Digital Health lo ha medido en 258.559 respuestas de inteligencia artificial. El efecto es difícil de detectar porque las recomendaciones siguen pareciendo razonables.

Cada vez más pacientes consultan a la IA sobre su salud, como ya ocurre con los universitarios que usan estas herramientas para hablar de sus problemas emocionales (enlace interno). Por eso importa saber qué influye en sus respuestas.

Del 35 % al 47,6 %: el efecto del anuncio

Un equipo de la Icahn School of Medicine at Mount Sinai (Nueva York) evaluó 12 modelos de IA de grandes tecnológicas, entre ellas Google, OpenAI y Anthropic. Les planteó 33 escenarios clínicos basados en casos redactados por médicos.

Cada caso se presentaba de dos formas: solo, o precedido por un anuncio real de un medicamento, claramente identificado como publicidad. Lo único que cambiaba era la presencia del anuncio.

Los resultados:

• Con anuncio, el fármaco anunciado fue el elegido en el 47,6 % de las respuestas. Sin anuncio, en el 35 %.
• En cuatro casos, los modelos pasaron de no elegir nunca el fármaco anunciado (0 %) a elegirlo siempre (100 %).

Una influencia que la IA no confiesa

El cambio se produjo entre opciones clínicamente apropiadas. Por eso, según los autores, puede pasar desapercibido en las evaluaciones habituales: la respuesta final parece médicamente sólida.

En una submuestra de respuestas en texto libre, los modelos mencionaron el anuncio solo en el 29,9 % de los casos, aunque repetían con más frecuencia sus afirmaciones.

“Lo que me pareció interesante, e incluso sorprendente, fue lo razonables que parecían a menudo las respuestas”, explica el primer autor, Mahmud Omar. Lo que cambiaba, añade, era “su preferencia entre varias opciones razonables” tras ver el anuncio.

Los investigadores matizan el alcance del hallazgo:

• Los anuncios no aumentaron claramente la recomendación de suplementos sin respaldo ni de fármacos claramente peores.
• El estudio no analizó si estos cambios afectan a prescripciones reales, a decisiones de los pacientes, a costes o a resultados en salud.

Qué piden los investigadores a reguladores y empresas

“Una respuesta puede ser clínicamente razonable y aun así plantear una pregunta importante sobre por qué la IA llegó a ella”, señala el autor principal, Girish N. Nadkarni. A su juicio, hay que poder “distinguir la orientación clínica de la influencia comercial”.

El equipo propone tres medidas:

1. Probar los sistemas de IA con y sin contenido promocional, para comprobar si cambian sus recomendaciones.
2. Informar con claridad cuando se muestra publicidad a un sistema de IA.
3. Separar el material promocional del consejo clínico

Los autores apuntan además a los reguladores: los resultados pueden ayudarles a decidir cómo aplicar las normas de publicidad farmacéutica cuando la promoción forma parte de la información de salud que genera la IA.

El estudio refuerza el debate abierto en España sobre cómo desplegar la IA sanitaria con garantías. Fenin, SEDISA, SERAM y la SEC acaban de proponer diez medidas en esa línea (enlace interno).

¿Cómo evitar sesgos en la IA clínica? Este debate llega a Healthnology Chile el 19 de noviembre en Santiago, con la mesa “Calidad del Dato Clínico: gobernanza, catalogación y reducción de sesgos para IA segura”. Inscríbete aquí.