Principios que deben guiar al Estado ante el desarrollo de la Inteligencia Artificial

En México, como en varios países latinoamericanos, se está discutiendo cómo debería ser la regulación sobre inteligencia artificial -dado que la tecnología cada vez avanza a pasos agigantados sin contemplar aún un marco normativo que proteja y garantice el ejercicio pleno de los derechos humanos-. Sin embargo, uno de los temas que está pendiente abordarse en la agenda gubernamental de inteligencia artificial y ciberseguridad de la infraestructura crítica es la adquisición, uso y desarrollo de tecnologías emergentes por parte del sector público.

Recordemos que el gobierno de México aún tiene pendiente resolver las prácticas y vulneraciones en torno a la intervención de comunicaciones sin orden judicial en contra de periodistas, activistas y defensores de derechos humanos mediante el malware Pegasus. En tanto que el gobierno continúa siendo omiso, la adquisición de tecnología continúa siendo opaca y vacía de información respecto a qué tipo de tecnologías compran, quiénes son los proveedores, qué instituciones las compran y cuál es el uso que se les está dando. Ante esto, la indolencia, la impunidad y la falta de rendición de cuentas es una problemática que socava la capacidad del Gobierno mexicano de cumplir con su responsabilidad de salvaguardar los derechos de cualquier persona, casi en cualquier materia.

Mirando los compromisos de los Estados de la región frente a los derechos humanos, la Electronic Frontier Foundation publicó recientemente un informe respecto al uso estatal de sistemas basados en algoritmos e inteligencia artificial (IA) para automatizar tareas y procedimientos en apoyo a funciones y decisiones que afectan derechos. El informe destaca que, aunque el despliegue de estas tecnologías por entes públicos pueda ser novedosa, la base de garantías de derechos sobre la cual se debe asentar su utilización viene de muchos años y cuenta con estándares robustos que los Estados deben garantizar.

Debe recordarse que la Convención Americana sobre Derechos Humanos establece a los Estados Parte —México entre ellos— la obligación de respetar y garantizar los derechos humanos, los cuales incluyen la de prevenir, investigar y castigar las violaciones a dichos derechos. En este marco, es clave tener en cuenta que la adopción de sistemas algorítmicos como parte de políticas o iniciativas de órganos del Estado implica riesgos de seguridad, discriminación, vigilancia ilegal y errores que pueden afectar el acceso a servicios esenciales o conllevar a consecuencias graves sobre la vida de miles de personas. 

La implementación de tecnología en el sector público requiere entonces de un examen detenido de los órganos que contemplen la adquisición o uso de estas tecnologías para conocer si el uso de un sistema de IA es adecuado para el propósito pretendido, así como si presenta un beneficio concreto. Estos propósitos y beneficios deben estar asociados al fortalecimiento en la garantía y el ejercicio de determinados derechos, lo que se debe comprobar al momento de monitorear y evaluar su implementación. Es así, que la adopción de estos sistemas por entes estatales demanda la realización de evaluaciones de impacto de derechos humanos antes del despliegue y durante su uso.

Aunado a ello, cualquier violación de derechos humanos derivada de la adopción de estos sistemas y tecnologías por instituciones públicas debe resultar en investigaciones que proporcionen insumos para la evaluación del sistema y del contexto de su utilización, conduciendo a modificaciones efectivas o a su interrupción. Con ello, también se desarrollan las medidas necesarias para evitar que la violación de derechos se repita.

Respetar y garantizar derechos implica organizar todo el aparato del poder público para hacer efectivos los derechos establecidos por la Convención, incluyendo adoptar medidas legislativas y ajustar prácticas, procesos y estructuras del Estado hacia este objetivo. Todas las instituciones del Estado están sujetas a los compromisos asumidos frente al derecho internacional de derechos humanos. Esto incluye a los jueces y tribunales a los cuales compete ejercer un control de convencionalidad sobre las leyes y reglamentos nacionales que basan el uso estatal de sistemas de IA o decisiones automatizadas en situaciones o mediante procedimientos ilícitos según la Convención Americana.

Un elemento primordial que se desprende de las garantías interamericanas es el imperativo de la transparencia de las actividades estatales. A ellas se aplica el principio de la máxima divulgación, según el cual el derecho de acceso a la información es la regla y el secreto es la excepción. Corresponde al Estado la carga de la prueba de que el acceso a determinada información puede ser legítimamente restringido. Además, el derecho a la información tiene prioridad frente a normas contradictorias o la falta de regulación. 

No se permiten restricciones amplias basadas en una calificación general de “orden público”, “seguridad nacional” o “seguridad pública”. Las limitaciones deben aplicarse estrictamente a los tipos de información y a los tipos de divulgación que, conforme a la ley, representen efectivamente un riesgo según los principios democráticos, y solamente hasta que exista dicho riesgo específico y objetivo. La exigencia de transparencia se refuerza en iniciativas que involucran altos montos del presupuesto público, lo que suele ser la regla en el despliegue de tecnologías de IA por entes estatales.  

Las garantías de debido proceso en la implementación de tecnologías deben ser parte de sus bases esenciales. Las personas afectadas por decisiones automatizadas deben ser informadas de los procedimientos que analizan sus derechos y obligaciones antes de que se adopte una decisión. Ellas deben recibir, con la antelación suficiente para que puedan intervenir, información clara que explique por qué están sujetas al procedimiento, los elementos relevantes que se están considerando y una referencia sobre cómo los elementos que se están evaluando influyen en las consecuencias a las que pueden enfrentarse. La información necesaria incluye aún los medios de que ellas disponen para presentar sus alegaciones, que deben ser fácilmente accesibles. Además, las decisiones deben ser debidamente justificadas, lo que implica a los sistemas utilizados observar estándares de interpretabilidad y explicabilidad.

Se suman a estas garantías el derecho a la vida privada en su relación con la protección de datos y la autodeterminación. En una decisión reciente de la Corte Interamericana de Derechos Humanos se ha reconocido la protección de la autodeterminación informativa bajo la Convención Americana. Con ello, se garantiza una serie de derechos vinculados al poder asegurado a las personas de conocer y tener injerencia sobre cómo sus datos personales son tratados por terceros. 

Finalmente, la participación social significativa es otro elemento clave de una actuación estatal basada en los derechos humanos. Ello presupone el acceso a la información relevante sobre el uso de estos sistemas y el involucramiento de distintos sectores de la sociedad en los momentos de decisión y evaluación acerca de su implementación, especialmente de los grupos históricamente discriminados, personas afectadas y expertos en los temas vinculados a cada una de estas iniciativas (ej. educación, protección social, etc.). 

La transparencia y acceso a la información, el debido proceso, la igualdad y no discriminación, la privacidad y protección de datos, así como la participación social significativa son todos principios transversales que deben guiar la actuación del Estado en el despliegue de sistemas de IA en el desarrollo de sus funciones —no solamente para orientar cómo hacerlo y evaluar su implementación pero también para basar la definición primera de si dicho despliegue es legítimo y conforme a los derechos humanos. 

 

*Veridiana Alimonti (@veri_alimonti) es directora asociada de políticas para América Latina en Electronic Frontier Foundation y Priscilla Ruiz Guillén es coordinadora legal en Derechos Digitales para ARTICLE 19 MX-CA (@article19mex).