Problemas éticos y legales del uso de la inteligencia artificial en salud

Hoy en día la Inteligencia Artificial (IA) en el campo de la salud es una herramienta fundamental para la práctica médica y continuará cambiando de manera inmediata desde hoy y en el futuro. La IA se integrará en todas las áreas de la medicina, particularmente en aquellas donde las prácticas o actividades sean repetitivas, como la interpretación de estudios de imágenes o la histopatología. También ha logrado identificar errores de prescripción, reacciones o eventos adversos a los medicamentos y las interacciones de fármacos, entre otras cosas.

Por lo tanto, la IA puede integrar información, automatizar actividades, analizar y procesar grandes cantidades de información. Todo ello favorece obtener respuestas a preguntas específicas que ayuden en la toma de decisiones en problemas concretos. Esto es posible gracias al uso de redes neuronales y algoritmos genéticos, lo que permite a los profesionales de la salud centrarse en tareas más complejas, y al paciente conseguir una respuesta más rápida a su padecimiento.

No cabe duda de que la IA en salud es una realidad y ya se está utilizando en diversos países. Sin embargo, su aplicación ha propiciado diversas discusiones, principalmente de carácter bioético y legal.

Aspectos legales

No se ha hablado y escrito mucho sobre la responsabilidad en los casos en los que la IA ha cometido errores en las decisiones tomadas en el diagnóstico, tratamiento y en los cuidados en la atención en salud, por lo que es necesario definir quién es o quiénes son los responsables en las decisiones clínicas asistidas por estas herramientas.

En México aún no existen leyes que regulen el uso de la IA en el ámbito de la salud, un aspecto que consideramos fundamental dada su importancia en el sistema de salud. En hospitales, entre el personal de salud (médicos y médicas, enfermeras y enfermeros, psicólogos y psicólogas, odontólogos y odontólogas, y los nutricionistas, entre otros), sobre todo para garantizar el derecho a la salud del paciente con un trato digno, responsable y oportuno. Es crucial que estas herramientas sean manejadas por profesionales de la salud, ya que en manos de personas no capacitadas pueden llevar a conclusiones catastróficas; por lo tanto, es necesario establecer una regulación que garantice un uso adecuado y responsable de la IA en el campo de la salud en México.

Aspectos éticos

Es esencial transparentar y especificar los métodos de toma de decisiones éticas y responsables con el uso de la IA en el campo de la salud. Un gran desafío ético y legal consiste en garantizar la seguridad de los expedientes clínicos. Por lo tanto, consideramos urgente promover la colaboración interdisciplinaria entre profesionales de la salud, expertos en IA, bioética y derecho con el objetivo de fomentar un enfoque holístico en la implementación de la IA en el sector de la salud, así como garantizar que el desarrollo y la implementación de la IA en la salud estén guiados por principios éticos.

Es necesario fomentar una cultura de transparencia y responsabilidad en las instituciones de salud, para garantizar que las decisiones se tomen de manera responsable y ética, y que los pacientes y sus familias estén informados sobre los riesgos y beneficios de las tecnologías de IA.

Por lo anterior, recomendamos la implementación de programas de formación continua y actualización para profesionales de la salud en ejercicio, a fin de mantenerse al día con los avances de la IA y su aplicación en la práctica clínica. De esta manera, podremos garantizar un uso ético y responsable en el campo de la salud, con el fin de mejorar la atención y los resultados para los pacientes. Asimismo, sugerimos promover la enseñanza de la bioética en las universidades, tanto a nivel licenciatura como en posgrado, para garantizar que los profesionales de la salud estén conscientes de las implicaciones éticas de sus decisiones.

Hay que fortalecer y capacitar a los comités de ética en las instituciones de salud en temas de IA, para garantizar las consideraciones éticas en los procesos de toma de decisiones. Es importante señalar que estos comités deben estar compuestos por expertos en bioética, profesionales de la salud, especialistas en IA, expertos legales y representantes de la sociedad civil, con la finalidad de promover el uso de directrices claras y completas para el uso de la IA en la salud, abordando temas como la privacidad de los datos, el consentimiento informado y la responsabilidad.

Finalmente, hay que fomentar la conciencia pública y la participación en las implicaciones éticas de la IA en la salud, alentando discusiones abiertas e inclusivas sobre los riesgos y beneficios de estas tecnologías, y garantizando que se escuchen y respeten las voces de todas las comunidades, principalmente las marginadas.

* Adela Alba Leonel (@alba_adela24733) es doctora en Ciencias de la Salud por la Facultad de Medicina de la UNAM, donde también es Profesora de Asignatura “A”; además, es Profesora de Carrera Titular “A” de la Facultad de Enfermería y Obstetricia y profesora de pregrado y posgrado en ambas facultades. Ha realizado publicaciones nacionales e internacionales en revistas científicas y capítulos de libros con los temas siguientes: hipertensión arterial, Diabetes Mellitus, farmacoepidemiología, automedicación, prescripción, COVID-19, enlace de turno, cuidado de la salud mental e IA en Salud. Miguel Ángel Mejía Argueta (@ArguetaUser) es egresado de la Licenciatura en Informática de la Facultad de Contaduría y Administración de la UNAM; cuenta con las maestrías en Administración de Organizaciones y en Prácticas Educativas Innovadoras y el doctorado en Educación. Tiene 20 años de experiencia en actividades de alta especialización en diversas áreas de las TIC como: acervos digitales, bases de datos y herramientas de IA. Roberto Sánchez Ahedo estudió el doctorado y la maestría en Educación. Es médico por la UNAM con la especialidad de Medicina Familiar. Es responsable del servicio de Acupuntura del Complejo Oriente Leonardo y Nicolás Bravo del Instituto de Seguridad y Servicios Sociales de los Trabajadores del Estado. Tiene formación en docencia, investigación, tanatología, bioética, geriatría, acupuntura y neurofisiología de la acupuntura. Es profesor de cursos tanto en pregrado como en posgrado en dichas áreas y ha participado en diversas publicaciones a nivel nacional y en el extranjero.

Las opiniones publicadas en este blog son responsabilidad exclusiva de sus autores. No expresan una opinión de consenso de los seminarios ni tampoco una posición institucional del PUB-UNAM. Todo comentario, réplica o crítica es bienvenido.