CNDH alerta por riesgos de la IA para la autonomía, el empleo y la democracia

La Comisión Nacional de los Derechos Humanos (CNDH) advirtió que el avance de la Inteligencia Artificial (IA) plantea riesgos para la autonomía de las personas, el empleo, la educación, la democracia y el derecho a la verdad, además de que puede reproducir y ampliar desigualdades y prácticas discriminatorias.

En un pronunciamiento publicado este martes, el organismo planteó que el desarrollo y uso de esta tecnología deben abordarse desde una perspectiva de derechos humanos, con responsabilidad humana identificable, transparencia, protección de datos y regulación, y con el objetivo de ampliar las capacidades y derechos de las personas, reducir desigualdades y garantizar el bienestar colectivo.

La CNDH señaló que la incorporación de la IA está modificando la manera en que las personas trabajan, aprenden, crean, se informan, se relacionan y ejercen sus derechos, por lo que consideró necesario analizar sus efectos no sólo como una transformación tecnológica, sino también como una transformación social.

Beneficios y riesgos de subordinación

El organismo reconoció que la IA puede contribuir a mejorar los sistemas de salud y educación, acelerar la investigación científica, facilitar el análisis de información y acercar determinados servicios a personas y comunidades. También señaló que puede incrementar algunas capacidades del Estado para anticipar problemas públicos y diseñar políticas.

Sin embargo, advirtió que estas posibilidades pueden convertirse en nuevas formas de dependencia cuando las personas quedan subordinadas a los sistemas de Inteligencia Artificial. La CNDH sostuvo que la tecnología no es neutral, debido a que responde a determinados fines y es desarrollada por personas, instituciones y empresas.

En ese sentido, planteó que ante la expansión de estas herramientas es necesario cuestionar quién las diseña, para qué se utilizan, quién obtiene sus beneficios, quién asume sus costos y qué poder adquieren quienes controlan su infraestructura, sus datos y sus capacidades.

Lee: México y China apuestan por la inteligencia artificial para redefinir su cooperación científica

Reproducción de prejuicios

Sobre las desigualdades, la CNDH señaló que la Inteligencia Artificial no elimina por sí misma los prejuicios existentes en las sociedades, sino que puede incorporarlos en sus datos y convertirlos en patrones estadísticos que después pueden reproducirse a una escala mayor.

El organismo advirtió que sistemas utilizados para seleccionar personas para un empleo, evaluar riesgos, recomendar tratamientos o apoyar decisiones políticas pueden también generar resultados discriminatorios o excluyentes.

“Porque el mismo sistema que ahora selecciona personas para un empleo, evalúa riesgos, recomienda tratamientos o apoya una decisión política, puede también discriminar, excluir, invisibilizar y convertir desigualdades históricas en resultados aparentemente objetivos y válidos”, señaló.

Impacto en el mundo del trabajo

En materia laboral, la CNDH indicó que la IA puede incrementar la productividad y crear nuevas ocupaciones y dinámicas laborales, pero también eliminar actividades, desplazar trabajos, generar incertidumbre legal y acelerar la precarización.

Afirmó que estos cambios podrían ampliar las diferencias entre quienes poseen capital, tecnología y conocimientos y quienes dependen de un empleo u ocupación para sostener su vida y la de su familia.

Por ello, sostuvo que el avance tecnológico no debe medirse únicamente por la cantidad de bienes o servicios que una sociedad produce, sino por la forma en que se distribuyen los beneficios de ese desarrollo.

“La Inteligencia Artificial es una innovación que tanto podrá multiplicar riqueza como igualmente ampliar desigualdades y, por ello, desde una perspectiva de derechos humanos, no puede considerarse un progreso completo”, expuso.

También lee: La inteligencia artificial en las elecciones 2027 en México

Privacidad y desinformación

La CNDH también puso énfasis en los riesgos relacionados con la recopilación y utilización de datos personales. Señaló que estos pueden emplearse para mejorar servicios, pero también para perfilar, vigilar, controlar, predecir e influir sobre las decisiones de las personas.

El organismo cuestionó el espacio que queda para la intimidad, la autonomía, la libertad y los derechos humanos cuando las acciones de las personas se convierten de manera constante en información procesable.

En relación con el derecho a la verdad, la CNDH advirtió que la capacidad de la IA para generar textos, fotografías y voces con apariencia de verdad puede ser utilizada para fabricar identidades o acontecimientos, destruir reputaciones, influir en decisiones ciudadanas y organizar campañas de desinformación.

El problema, planteó, no se limita a la posibilidad de distinguir entre información verdadera y falsa, sino a las consecuencias que puede tener para una sociedad la pérdida de confianza en aquello que observa, experimenta o recibe.

“La erosión de esta confianza puede convertirse en la erosión de la vida democrática y del ejercicio mismo de los derechos humanos”, afirmó.

Efectos en la educación

En materia educativa, la CNDH señaló que la gran cantidad de información y conocimiento que puede procesar la Inteligencia Artificial y poner al alcance de niñas, niños y adolescentes puede ampliar sus posibilidades de aprendizaje, pero también generar mayor desinformación.

Advirtió que el uso reiterado de estas herramientas como sustituto del esfuerzo intelectual puede debilitar procesos de análisis, memoria, imaginación y razonamiento. Por ello, dijo observar con atención sus efectos tanto en niñas, niños y adolescentes como en la sociedad en general.

El organismo sostuvo que una sociedad que delega progresivamente su pensamiento en sistemas automatizados puede terminar con más información, pero con menor autonomía intelectual para formular preguntas, confrontar ideas, equivocarse, descubrir, imaginar y construir un criterio propio.

Concentración corporativa y regulación

La CNDH también señaló que la expansión de la IA ocurre en un contexto en el que un pequeño número de corporaciones concentra infraestructura y datos. De acuerdo con el pronunciamiento, esta concentración puede convertirse en una fuente de desigualdad cuando pocas personas y empresas poseen tecnologías capaces de influir en la información, el trabajo, la educación, la cultura, el consumo y la vida política.

Ante este escenario, la CNDH sostuvo que las transformaciones tecnológicas requieren regulación y orientación. Señaló que las democracias necesitan contrapesos y que la libertad implica límites tanto al poder público como al privado.

Puedes leer: Nueva York prohibirá el uso de IA en escuelas públicas para cuidar la salud mental

Por ello, planteó que la Inteligencia Artificial debe desarrollarse bajo instituciones y regulaciones que garanticen que ninguna innovación tecnológica esté por encima de la dignidad humana y que los sistemas automatizados no sustituyan las obligaciones del Estado.

En particular, estableció que cuando una decisión apoyada o generada por Inteligencia Artificial pueda afectar derechos debe existir una persona responsable que pueda ser identificada.

“Cuando una decisión emanada de la Inteligencia Artificial pueda afectar derechos, siempre deberá existir responsabilidad humana identificable”, estableció la CNDH.

Marco normativo y medio ambiente

El organismo también señaló que el desarrollo de esta tecnología debe considerar el derecho a un medio ambiente sano, la disponibilidad de agua, energía y recursos, así como los derechos de las comunidades sobre sus territorios.

Como referente nacional, la CNDH mencionó los Principios de Chapultepec, presentados en 2026 por la Secretaría de Ciencia, Humanidades, Tecnología e Innovación y la Agencia de Transformación Digital y Telecomunicaciones. Según el pronunciamiento, estos principios colocan como premisas la ampliación de derechos, las responsabilidades humanas, la participación, el bienestar y el uso responsable de datos.

A partir de ello, la Comisión planteó que cualquier desarrollo, utilización o regulación de la Inteligencia Artificial debe tener como parámetros los derechos humanos, el derecho a la verdad y la dignidad; la responsabilidad humana identificable; la prevención de daños; la transparencia y el derecho a comprender, cuestionar y corregir; así como el uso de la tecnología para reducir desigualdades y evitar la automatización de la segregación y la discriminación.

También consideró necesaria la protección de la privacidad y los datos personales desde el diseño y durante toda la utilización de estas tecnologías, además de una participación democrática ampliada y una gobernanza participativa e incluyente.

La CNDH incluyó entre estos parámetros la justicia ambiental y territorial, una regulación proporcional, clara y adaptable, y la protección de derechos como la libre expresión y la elección de gobernantes.

El organismo resumió su planteamiento en la necesidad de utilizar la tecnología para ampliar los derechos y las capacidades humanas, y no para restringirlos.

Retos para México

Para la CNDH, la Inteligencia Artificial representa más que una nueva herramienta tecnológica, pues puede modificar la distribución del poder y tener efectos sobre la democratización del conocimiento, el trabajo y la ampliación de derechos.

Por ello, planteó que el desafío consiste en aprovechar los avances tecnológicos sin permitir que las personas queden subordinadas a ellos ni que su utilización genere nuevas formas de exclusión, dependencia o dominación.

La Comisión señaló que para México la oportunidad consiste en mantener la capacidad de innovación sin aceptar cambios que permitan o profundicen desigualdades o ventajas para unos cuantos, y en colocar a las personas y al bienestar social en el centro del desarrollo y uso de la Inteligencia Artificial.

“El progreso tecnológico sólo puede considerarse progreso cuando se traduce en progreso humano”, concluyó la CNDH.