Inteligencia artificial en salud

En la actualidad, el desarrollo de nuevas aplicaciones de inteligencia artificial (IA) para ayudar y automatizar diversas formas de toma de decisiones médicas es cada vez más común y va en aumento. Según Bjerring y Busch, más de 100 empresas participan en el desarrollo de sistemas de IA para su uso en el sector sanitario, y las aplicaciones de IA pueden generar, para 2026, un ahorro potencial de 150 mil millones de dólares anuales para la economía sanitaria de Estados Unidos. Por su parte, el gobierno de México reconoce que los avances en la IA representan oportunidades importantes para la generación de crecimiento económico, eficiencia en el gobierno y creación de valor social. Además, México es el quinto país de América Latina con mayor tasa de adopción de la IA y 40 % de las empresas en el país han aumentado su uso.

Por lo anterior, surge la necesidad de estudios que exploren las implicaciones éticas, legales y sociales de la IA en la medicina, que traten de responder a dilemas que subyacen en estas nuevas tecnologías. Así, se abordan temas como la protección de la privacidad del paciente ante la recopilación de datos a gran escala necesaria para entrenar los sistemas de IA; la forma en la que estas aplicaciones de IA pueden reproducir y exacerbar los sesgos existentes y también crear nuevas formas de desigualdad; la creciente dependencia de las tecnologías de IA que puede hacer que la atención médica esté menos centrada en el paciente.

Para comprender mejor las problemáticas planteadas se considera que la relación entre IA y medicina puede entenderse en dos vías principales: la virtual y la física. La rama virtual abarca enfoques informáticos que van desde la gestión de información mediante aprendizaje profundo hasta el control de sistemas de gestión de salud, incluyendo registros médicos electrónicos, y la orientación activa de los médicos en sus decisiones de tratamiento. Por otro lado, la rama física se representa mejor mediante robots utilizados para asistir a pacientes o al cirujano en funciones. También incorporada en esta rama se encuentran los nanorobots dirigidos para la administración de medicamentos. 1

Además de la distinción anterior, es importante reconocer que los algoritmos desarrollados van desde estructuras muy simples hasta formas sofisticadas de autoaprendizaje que prueban y adaptan continuamente sus propios procedimientos de análisis. Estos últimos tipos de algoritmos a menudo se denominan algoritmos de caja negra y han tenido resultados favorables. Los avances recientes en el campo del aprendizaje profundo han demostrado éxito en una variedad de tareas clínicas: detectar retinopatía diabética a partir de imágenes, predecir reingresos hospitalarios, ayudar en el descubrimiento de nuevos medicamentos, entre otros. De hecho, hay indicios de que al menos algunos sistemas de IA son tan confiables y precisos como los expertos médicos cuando se trata de diagnosticar enfermedades. Las redes de aprendizaje profundo, por ejemplo, se han aplicado con éxito en el diagnóstico por imágenes para realizar estimaciones probabilísticas sobre el cáncer de mama y de piel que coinciden con las de profesionales experimentados.

No obstante, el progreso de la IA en medicina ha generado preocupaciones con respecto a los efectos potenciales de esta tecnología en ámbitos como las relaciones de confianza en la práctica clínica.

Por lo anterior, estudios como el de Durán y Jongsma indican que se requiere una estrecha colaboración e intercambio entre expertos clínicos y en informática cuando se utilizan o se desarrollan algoritmos de caja negra en contextos médicos. Así, hacen un llamado a que los médicos estén educados e informados sobre las limitaciones y deficiencias de los modelos de IA que utilizan en su práctica. Esto no quiere decir que los médicos deban comprender completamente el algoritmo utilizado, pero deben poder trabajar con él y confiar en su funcionamiento. La forma en que dichos sistemas presentan sus recomendaciones debe estar alineada con diferentes interpretaciones posibles; además, la presentación de los resultados debe reflejar diferentes opciones y valores de los pacientes para permitir una buena toma de decisiones clínicas.

Ante estas problemáticas, se han planteado posturas bioéticas para responderlas. La Organización Mundial de la Salud en su guía para la Ética y Gobernanza de la Inteligencia Artificial para la Salud establece los usos de la IA en atención médica, investigación para la salud, administración y planeación de la salud, así como en la salud pública y vigilancia epidemiológica. Además, establece principios éticos que deben prevalecer, a saber: protección de la autonomía humana; promoción del bienestar, la seguridad y el interés público; aseguramiento de la transparencia, la explicabilidad y la inteligibilidad de los sistemas de IA; fomentar la responsabilidad y la rendición de cuentas (de desarrolladores, implementadores, usuarios directos y pacientes), y asegurar la inclusión y la equidad.

Por su parte, en la Recomendación de la Unesco sobre la Ética de la Inteligencia Artificial se ofrecen orientaciones sobre cómo avanzar en estas implicaciones éticas, proponiendo áreas de acción política. Asimismo, destaca la importancia de la gobernanza de los datos, promueve una mejor comprensión de su papel en el de algoritmos seguros y equitativos, y establece las normas para mantener su control en manos de los usuarios. También invita a los Estados miembros a velar por que se establezcan salvaguardias adecuadas para el tratamiento de datos sensibles y sistemas eficaces de rendición de cuentas. La recomendación subraya la necesidad de que los Estados miembros doten a los trabajadores de las competencias necesarias para adaptarse a los cambios tecnológicos y prosperar en la era digital, incluso mediante programas de mejora y recualificación de las competencias. Además, pide a los Estados miembros que garanticen la competitividad de los mercados y la protección de los consumidores, y que impidan el abuso de posiciones dominantes en el mercado y los monopolios.

Por lo anterior, es necesario ampliar el debate, pero sin centrarse sólo en el aspecto tecnológico de la IA médica, sino también en la interacción de los humanos con dichos sistemas tecnológicos. Así, resulta imperativo analizar las implicaciones bioéticas del uso de la IA en la salud, desde enfoques contextualizados que respondan a las problemáticas propias de cada individuo, institución y sociedad.

* Fernanda De Blas López es licenciada en Fisioterapia, especializada en Fisioterapia Neurológica; maestra en Ciencias y doctorante, por la Universidad Nacional Autónoma de México, en el Programa de Maestría y Doctorado en Ciencias Médicas, Odontológicas y de la Salud, campo disciplinario en Bioética; secretaria auxiliar del Programa Universitario de Bioética de la unam.

Las opiniones publicadas en este blog son responsabilidad exclusiva de sus autores. No expresan una opinión de consenso de los seminarios ni tampoco una posición institucional del pub-unam. Todo comentario, réplica o crítica es bienvenido.

1 Santana-Soriano, E. (2023). Ética y filosofía de la inteligencia artificial: debates actuales. La Barca de Teseo, 1(1), 47-64.