Podría ser perdonado por pensar que la IA pronto reemplazará a los médicos humanos en función de titulares como "El médico de la IA lo verá ahora", "Su futuro médico puede no ser humano" y "Esta IA simplemente venció a los médicos humanos en un examen clínico" . ”Pero los expertos dicen que la realidad es más una colaboración que un derrocamiento: los pacientes pronto podrían encontrar su vida en parte en manos de los servicios de IA que trabajan junto a los médicos humanos.
No hay escasez de optimismo sobre la IA en la comunidad médica. Pero muchos también advierten que la exageración que rodea a la IA aún no se ha realizado en entornos clínicos reales. También hay diferentes visiones sobre cómo los servicios de IA podrían tener el mayor impacto. Y todavía no está claro si la IA mejorará la vida de los pacientes o solo el resultado final para las empresas, las organizaciones de atención médica y las aseguradoras de Silicon Valley.
"Creo que todos nuestros pacientes realmente deberían querer que las tecnologías de inteligencia artificial se apliquen a las debilidades en el sistema de atención médica, pero debemos hacerlo de una manera que no sea de Silicon Valley", dice Isaac Kohane, investigador de informática biomédica en Escuela Médica de Harvard.
Si la IA funciona como se prometió, podría democratizar la atención médica al aumentar el acceso para las comunidades desatendidas y reducir los costos, una bendición en los Estados Unidos, que se ubica mal en muchas medidas de salud a pesar de un costo promedio anual de atención médica de $ 10, 739 por persona. Los sistemas de IA podrían liberar a los médicos con exceso de trabajo y reducir el riesgo de errores médicos que pueden matar a decenas de miles, si no cientos de miles, de pacientes estadounidenses cada año. Y en muchos países con escasez nacional de médicos, como China, donde los departamentos ambulatorios de los hospitales urbanos superpoblados pueden atender hasta 10, 000 personas por día, tales tecnologías no necesitan una precisión perfecta para ser útiles.
Pero los críticos señalan que toda esa promesa podría desaparecer si la prisa por implementar la IA pisotea los derechos de privacidad del paciente, pasa por alto los prejuicios y las limitaciones, o no implementa los servicios de una manera que mejore los resultados de salud para la mayoría de las personas.
"De la misma manera que las tecnologías pueden cerrar las disparidades, pueden exacerbar las disparidades", dice Jayanth Komarneni, fundador y presidente del Human Diagnosis Project (Human Dx), una corporación de beneficio público centrada en la experiencia médica de crowdsourcing. "Y nada tiene esa capacidad de exacerbar las disparidades como la IA"
***
Hoy, las técnicas de IA más populares son el aprendizaje automático y su primo más joven, el aprendizaje profundo. A diferencia de los programas de computadora que siguen estrictamente las reglas escritas por humanos, los algoritmos de aprendizaje automático y aprendizaje profundo pueden ver un conjunto de datos, aprender de él y hacer nuevas predicciones. El aprendizaje profundo en particular puede hacer predicciones impresionantes al descubrir patrones de datos que las personas pueden perder.
Pero para aprovechar al máximo estas predicciones en la atención médica, la IA no puede hacerlo solo. Más bien, los humanos aún deben ayudar a tomar decisiones que pueden tener importantes consecuencias financieras y para la salud. Debido a que los sistemas de IA carecen de la inteligencia general de los humanos, pueden hacer predicciones desconcertantes que podrían resultar dañinas si los médicos y los hospitales los siguen incuestionablemente.
El ejemplo clásico proviene de Rich Caruana, investigador senior de Microsoft Research, como explicó en la revista Engineering and Technology el año pasado. En la década de 1990, Caruana trabajó en un proyecto que intentó usar una forma anterior de aprendizaje automático para predecir si un paciente con neumonía era un caso de bajo o alto riesgo. Pero surgieron problemas cuando el modelo de aprendizaje automático trató de predecir el caso de los enfermos de asma, que tienen un alto riesgo porque sus dificultades respiratorias preexistentes los hacen vulnerables a la neumonía. El modelo calificó a estos pacientes como de bajo riesgo, requiriendo una intervención menor en lugar de hospitalización, algo que un experto humano nunca hubiera hecho.
Si sigues el modelo a ciegas, dice Kenneth Jung, un científico investigador del Centro de Stanford para la Investigación en Informática Biomédica, “entonces estás manchado. Porque el modelo dice: 'Oh, este niño con asma entró y contrajo neumonía, pero no necesitamos preocuparnos por ellos y los enviamos a casa con algunos antibióticos' ”.
Las predicciones de aprendizaje profundo también pueden fallar si encuentran puntos de datos inusuales, como casos médicos únicos, por primera vez, o cuando aprenden patrones peculiares en conjuntos de datos específicos que no se generalizan bien a nuevos casos médicos.
Las predicciones de IA funcionan mejor cuando se aplican a conjuntos de datos masivos, como en China, que tiene una ventaja en el entrenamiento de sistemas de IA gracias al acceso a grandes poblaciones y datos de pacientes. En febrero, la revista Nature Medicine publicó un estudio de investigadores con sede en San Diego y Guangzhou, China, que mostró ser prometedor en el diagnóstico de muchas enfermedades infantiles comunes basadas en los registros electrónicos de salud de más de 567, 000 niños.
Pero incluso los grandes conjuntos de datos pueden plantear problemas, especialmente cuando los investigadores intentan aplicar su algoritmo a una nueva población. En el estudio de Nature Medicine, todos los medio millón de pacientes provenían de un centro médico en Guangzhou, lo que significa que no hay garantía de que las lecciones de diagnóstico aprendidas de la capacitación en ese conjunto de datos se apliquen a casos pediátricos en otros lugares. Cada centro médico puede atraer a su propio conjunto único de pacientes; un hospital conocido por su centro cardiovascular, por ejemplo, puede atraer afecciones cardíacas más críticas. Y los hallazgos de un hospital de Guangzhou que atrae principalmente a pacientes chinos étnicos pueden no traducirse en uno en Shanghai con un mayor número de pacientes no chinos nacidos en el extranjero.
En esta charla TEDx 2017, Shinjini Kundu, del Hospital Johns Hopkins, explica cómo las herramientas de IA tienen el potencial de obtener más de las imágenes médicas que los médicos solos, incluida la predicción de enfermedades antes de que los pacientes muestren síntomas.
Esta extrapolación también resultará difícil en otras situaciones. Por ejemplo, dice Marzyeh Ghassemi, un científico de la computación e ingeniero biomédico de la Universidad de Toronto, dice que tiene 40, 000 pacientes en la UCI en el Centro Médico Beth Israel Deaconess, eso es solo un hospital en una ciudad. “Y tengo todos estos documentos que han hecho predicciones con estos datos. ¿Funciona eso con otro hospital en Boston? Tal vez. ¿Funciona para un hospital en otro estado? ¿Funcionaría en otro país? No lo sabemos.
***
Si bien los modelos de IA pueden no funcionar en todos los casos, Ghassemi cree que vale la pena explorar la tecnología. "Estoy muy a favor de llevar estos modelos desde el banco hasta la cama", dice, "pero con medidas de precaución realmente agresivas".
Esos pasos deben existir durante todo el desarrollo y despliegue de IA, dice I. Glenn Cohen, profesor de derecho en la Universidad de Harvard y líder del Proyecto sobre Medicina de Precisión, Inteligencia Artificial y Derecho. Esto puede implicar verificar la precisión y la transparencia de las predicciones de IA. Y durante la recopilación de datos, los investigadores también deberán proteger la privacidad del paciente y solicitar el consentimiento para usar los datos del paciente para la capacitación de AI
El problema del consentimiento surge nuevamente cuando el modelo de IA está listo para pruebas clínicas experimentales con pacientes reales. "¿Es necesario que se les diga a los pacientes que está utilizando el algoritmo en ellos, y importa si la IA es completamente orientadora o parcial?", Pregunta Cohen. "Realmente se piensa muy poco en estas preguntas".
Ghassemi también aboga por auditar frecuentemente los algoritmos de IA para garantizar la equidad y la precisión en los diferentes grupos de personas en función de la etnia, el género, la edad y el seguro de salud. Eso es importante dado que las aplicaciones de IA en otros campos ya han demostrado que pueden detectar fácilmente los sesgos.
Después de todos esos pasos, las personas y las empresas que brindan servicios de inteligencia artificial deberán resolver la responsabilidad legal en caso de errores inevitables. Y a diferencia de la mayoría de los dispositivos médicos, que generalmente necesitan solo una aprobación regulatoria, los servicios de IA pueden requerir una revisión adicional cada vez que aprenden de nuevos datos.
Algunas agencias reguladoras están repensando cómo evaluar la IA de la atención médica. En abril, la Administración de Drogas y Alimentos de los Estados Unidos (FDA) publicó un documento de debate para obtener comentarios del público sobre cómo actualizar la revisión regulatoria relevante. "Lo que continuamente intentamos hacer aquí es volver a nuestro objetivo de dar acceso a las personas a las tecnologías, pero también nos estamos dando cuenta de que nuestros métodos actuales no funcionan bien", dice Bakul Patel, director de salud digital en el FDA "Es por eso que necesitamos mirar un enfoque holístico de todo el ciclo de vida del producto".
Además de los problemas relacionados con el acceso, la privacidad y las regulaciones, tampoco está claro quién se beneficiará más de los servicios de atención médica de IA. Ya existen disparidades en el cuidado de la salud: según el Banco Mundial y la Organización Mundial de la Salud, la mitad de la población del mundo carece de acceso a servicios de atención médica esenciales y casi 100 millones de personas son empujadas a la pobreza extrema por los gastos de atención médica. Dependiendo de cómo se implemente, la IA podría mejorar estas desigualdades o empeorarlas.
"Gran parte de la discusión sobre IA ha sido sobre cómo democratizar la atención médica, y quiero ver que eso suceda", dice Effy Vayena, bioética del Instituto Federal de Tecnología de Suiza.
"Si termina con una prestación de servicios más elegante para aquellos que podrían pagar una buena atención médica de todos modos", agrega, "no estoy segura de si esa es la transformación que estamos buscando".
El funcionamiento de todo esto depende de las diferentes visiones para implementar la IA. El desarrollo temprano se ha centrado en aplicaciones de diagnóstico muy estrechas, como examinar imágenes para detectar indicios de cáncer de piel u hongos en las uñas, o leer radiografías de tórax. Pero los esfuerzos más recientes han intentado diagnosticar múltiples afecciones de salud a la vez.
En agosto de 2018, Moorfields Eye Hospital en el Reino Unido y DeepMind. El laboratorio de IA con sede en Londres, propiedad de la empresa matriz de Google, Alphabet, demostró que habían entrenado con éxito un sistema de IA para identificar más de 50 enfermedades oculares en escaneos, que coincidía con el rendimiento de los principales expertos. Del mismo modo, amplias ambiciones impulsaron el estudio de San Diego y Guangzhou que entrenó a la IA para diagnosticar dolencias comunes entre los niños. Este último no fue tan bueno para diagnosticar enfermedades pediátricas en comparación con los médicos de mayor antigüedad, pero funcionó mejor que algunos médicos junior.
Es posible que dichos sistemas de IA no necesiten superar a los mejores expertos humanos para ayudar a democratizar la atención médica, sino simplemente expandir el acceso a los estándares médicos actuales. Aún así, hasta ahora, muchas aplicaciones de IA propuestas se centran en mejorar el estándar de atención actual en lugar de difundir la atención médica asequible, dice Cohen: "Democratizar lo que ya tenemos sería una inversión mucho mayor para su inversión que mejorar lo que tenemos en muchas areas."
Accenture, una firma de consultoría, predice que las principales aplicaciones de IA podrían ahorrarle a la economía de los Estados Unidos $ 150 mil millones por año para 2026. Pero no está claro si los pacientes y los sistemas de atención médica complementados con el dinero de los contribuyentes se beneficiarían, o si más dinero simplemente fluiría a las compañías tecnológicas., proveedores de atención médica y aseguradoras.
"La pregunta de quién va a conducir esto y quién va a pagar por esto es una pregunta importante", dice Kohane. "Algo un poco alucinante acerca de todos esos planes de negocios es que piensan que saben cómo funcionará".
Incluso si los servicios de IA hacen recomendaciones para ahorrar costos, los médicos humanos y las organizaciones de atención médica pueden dudar en seguir el consejo de AI si ganan menos dinero como resultado, advierte Kohane. Eso habla del problema sistémico más grande de las aseguradoras de salud de EE. UU. Que usan un modelo de pago por servicio que a menudo recompensa a los médicos y hospitales por agregar pruebas y procedimientos médicos, incluso cuando no son necesarios.
***
Existe otra oportunidad de IA que podría mejorar la calidad de la atención y dejar la mayoría de los diagnósticos médicos en manos de los médicos. En su libro de 2019 Deep Medicine, Eric Topol, director y fundador del Scripps Research Translational Institute, habla sobre la creación esencialmente de un Siri médico sobrealimentado, un asistente de IA para tomar notas sobre las interacciones entre los médicos y sus pacientes, ingrese esas notas en la salud electrónica registros y recordar a los médicos que pregunten sobre partes relevantes de la historia del paciente.
"Mi aspiración es que descomprimamos el trabajo de los médicos y nos deshagamos de su función de empleado de datos, ayudemos a los pacientes a asumir una mayor responsabilidad y consignemos los datos para que no tarde tanto en revisar las cosas", dice Topol.
Ese "asistente médico o escriba nunca olvidable", dice Kohane, requeriría una IA que pueda rastrear y transcribir automáticamente múltiples voces entre médicos y pacientes. Apoya la idea de Topol, pero agrega que la mayoría de las aplicaciones de IA en desarrollo no parecen estar enfocadas en tales asistentes. Aún así, algunas compañías como Saykara y DeepScribe han desarrollado servicios en este sentido, e incluso Google se asoció con la Universidad de Stanford para probar una tecnología similar de "escriba digital".
Un asistente de IA puede parecer menos emocionante que un médico de IA, pero podría liberar a los médicos para pasar más tiempo con sus pacientes y mejorar la calidad general de la atención. Los médicos de familia, en particular, a menudo pasan más de la mitad de sus días de trabajo ingresando datos en registros de salud electrónicos, un factor principal detrás del agotamiento físico y emocional, que tiene consecuencias nefastas, incluidas las muertes de pacientes.
Irónicamente, se suponía que los registros de salud electrónicos mejorarían la atención médica y reducirían los costos al hacer que la información del paciente fuera más accesible. Ahora Topol y muchos otros expertos señalaron los registros de salud electrónicos como una advertencia para la exageración actual en torno a la IA en medicina y atención médica.
La implementación de los registros de salud electrónicos ya ha creado un sistema de mosaico distribuido entre cientos de proveedores privados que logra aislar principalmente los datos de los pacientes y los hace inaccesibles tanto para los médicos como para los pacientes. Si la historia es una guía, muchas empresas tecnológicas y organizaciones de atención médica sentirán el impulso de seguir caminos similares al acumular datos médicos para sus propios sistemas de IA.
Una forma de evitar esto puede ser utilizar un sistema de inteligencia colectiva que agregue y clasifique la experiencia médica de diferentes fuentes, dice Komarneni, quien está probando este enfoque con Human Dx. Respaldado por importantes organizaciones médicas como la Asociación Médica Estadounidense, Human Dx ha creado una plataforma en línea para el asesoramiento de crowdsourcing de miles de médicos sobre casos médicos específicos. Komarneni espera que dicha plataforma pueda, en teoría, algún día incluir consejos de diagnóstico de diferentes servicios de IA.
"De la misma manera que múltiples profesionales humanos podrían analizar su caso en el futuro, no hay razón por la cual múltiples AI no puedan hacerlo", dice Komarneni.
Mientras los médicos esperan a sus ayudantes de IA, los proyectos de crowdsourcing como Human Dx "definitivamente podrían conducir a mejores diagnósticos o incluso mejores recomendaciones para la terapia", dice Topol, quien es coautor de un estudio de 2018 en una plataforma similar llamada Medscape Consult. El documento concluyó que la inteligencia humana colectiva podría ser una "estrategia competitiva o complementaria" para la IA en medicina.
Pero si los servicios de IA pasan todas las pruebas y verificaciones del mundo real, podrían convertirse en socios importantes para los humanos en la remodelación de la atención médica moderna.
"Hay cosas que las máquinas nunca harán bien, y luego otras en las que excederán lo que cualquier humano puede hacer", dice Topol. "Entonces, cuando juntas los dos, es un paquete muy poderoso".
***
Jeremy Hsu es un periodista independiente con sede en la ciudad de Nueva York. Frecuentemente escribe sobre ciencia y tecnología para Backchannel, IEEE Spectrum, Popular Science y Scientific American, entre otras publicaciones.
Este artículo fue publicado originalmente en Undark. Lee el artículo original.
