Entender más
Cómo conseguir que un 'médico robot' no sea peor que un humano
La ciencia exige claridad sobre las emisiones de la inteligencia artificial
IA para diagnosticar cáncer en el Clínic
La IA en la Educación

Leo Anthony Celi, experto en IA aplicada a la salud, ha estado de visita en Barcelona. / Zowy Voeten


Michele Catanzaro
Michele CatanzaroPeriodista
La irrupción de la inteligencia artificial (IA) en la salud ha producido casos sorprendentes. Programas que confunden la marca de agua de una radiografía con algo metido en el cuerpo de un paciente . Algoritmos que desvelan el género y la raza de personas anónimas. Cardiólogos que fallan diagnósticos porque un 'software' les genera inseguridad .
No obstante, la idea del "médico robot" basado en IA ya no es tan lejana. "Hay una burbuja: muchos médicos que nunca tuvieron nada que ver con la IA ahora se dedican a ella", afirma Alexandre Perera, investigador de la Universitat Politècnica de Catalunya y fundador de Vincer.ai, una empresa que se dedica a certificar el buen uso de la IA a la salud.
"Hace un par de años entré en el comité de ética del Hospital de Bellvitge porque habían aumentado mucho las propuestas de proyectos que emplean IA", afirma Toni Lorente, experto en gobernanza de la IA de la consultora The Future Society.
Recomendaciones automáticas
En Estados Unidos la IA ya da recomendaciones médicas. Así lo contó en Barcelona Leo Anthony Celi, médico de cuidados intensivos y experto en datos clínicos del Massachussets Institute of Technology (MIT). Celi visitó la ciudad en el marco del GenAI Health Hack, un taller de aplicaciones de IA a la salud organizado por el Hospital Clínic, el Departament de Salut y la Universitat de Barcelona.
El uso principal de la IA en la clínica consiste en entrenar algoritmos con datos de pacientes (historiales clínicos, imágenes médicas, etcétera) y luego emplearla para analizar casos nuevos. "En EEUU, los seguros usan la IA para escribir resúmenes de la situación médica de pacientes y en programas de apoyo a las decisiones clínicas. Los médicos siempre tienen que revisar y firmar, pero ya han surgido problemas", comenta Celi.
Por ejemplo, esos programas han llegado a recomendar a pacientes con cáncer que perdieran peso, una recomendación nefasta que la IA había aprendido de las recomendaciones para otros diagnósticos. También tienden a ofrecer tratamientos complejos con más frecuencia a los pacientes blancos. Durante la pandemia, uno de esos programas, pensado para identificar cuándo un paciente con coronavirus tenía que ingresar en la UCI, llegó a equivocarse en un 80% de los casos.
Modelos de pacientes
Estas aplicaciones solo son un primer paso. "La IA se puede utilizar para distinguir subgrupos de pacientes dentro de un mismo diagnóstico: por ejemplo, para prever quienes tendrán peor evolución entre los que tienen diabetes", explica Perera, no implicado en el taller del Clínic. La IA también podría reconocer señales tempranas de una enfermedad rara en los síntomas genéricos de un paciente, que podrían pasar desapercibidos por los médicos.
Perera ve un papel incluso para la IA generativa - la de ChatGPT o Midjourney, por ejemplo, que no se limita a analizar documentos o imágenes, sino que crea material nuevo. "Por ejemplo, se podría crear un modelo generativo del paciente diabético que describa su posible evolución", explica.
"Cuando se demuestre que la IA funciona mejor que un médico, para diagnosticar una enfermedad, por ejemplo, lo más ético sería utilizar la IA. Lo contrario sería quitarle oportunidades a los pacientes", afirma Perera.
Sesgos
Sin embargo, eso no siempre ocurre. Por ejemplo, Celi cita un estudio en el cual un sistema de triaje con IA no aportaba ninguna mejora respeto a la tarea de los cardiólogos. Pero lo que más le preocupa a este experto es que la IA amplifique los sesgos humanos.
"La IA no entiende el contexto de los datos con los cuales está entrenada", explica el científico. Por ejemplo, un conjunto de datos puede sugerir que las mujeres tiene peores éxitos en ciertas cirugías. Una IA entrenada con esos datos consideraría el hecho de ser mujer como un factor de riesgo adicional. "Pero eso no es cierto: la razón no es biológica, sino que hay más cirujanos hombres, que reconocen menos los síntomas de las mujeres", explica Celi. "El riesgo de la IA es que le estamos enseñando los mismos sesgos que tenemos los humanos", afirma el investigador.
Celi también advierte sobre el impacto de la IA en el comportamiento de los médicos. "Cuando a los radiólogos les dieron un copiloto basado en IA que les enseñaba sus errores, eso redujo su autoconfianza y resultó en que hicieran aún más errores", explica.
Auditar los algoritmos
"Todos estos sesgos son el resultado de un diseño de producto deficiente. Se pueden solucionar si se hacen las cosas bien", replica Perera. Sin embargo, también este experto coincide en que no se puede aplicar la IA a la ligera. "Se necesita un sistema de diagnóstico y certificación de su eficacia que asegure que realmente es mejor que un humano", explica. "Todos los centros quieren ser pioneros en adoptar la IA, pero eso no se puede hacer al coste di emplear soluciones suboptimales", afirma.
Lorente, tampoco implicado en el taller del Clínic, cree que los hospitales españoles están haciendo un buen trabajo de selección de proyectos responsables y efectivos con IA. La legislación europea, conocida com AI-act, ha establecido unos controles sobre la ética de esta nueva tecnología. Pero Perera advierte de un riesgo. "Es bastante complicado que una tecnología basada en IA llegue al sistema público de salud aquí. Los mecanismos de compra de tecnología innovadora son limitados. Hay el riesgo de que acabemos comprando IA de otros paíes que no han sido tan cuidadosos como nosotros", concluye.
Suscríbete para seguir leyendo
- El 60% de las personas mayores de 30 años tienen nódulos benignos en las glándulas suprarrenales
- Guillermo Chantada, oncólogo: 'Uno de cada tres niños con cáncer de retina es diagnosticado gracias a una foto del móvil
- ¿El cortisol hace engordar? Verdades y mentiras sobre la hormona del estrés, último filón de la industria del bienestar
- Jaume Padrós, presidente del Co·legi de Metges de Barcelona: 'Importamos médicos por la puerta trasera
- La Confederación Hidrográfica del Júcar envió 18 correos en las horas que la generalitat valenciana denuncia 'apagón informativo
- La industria farmacéutica exagera el sufrimiento y hace sentir enfermas a personas sanas
- El curso 25-26 empezará con 30.956 alumnos menos y con el cierre de 58 grupos de 1º de ESO en institutos públicos
- Si recibes una llamada con estos tres números, la estafa ha empezado