Algoritmos, desigualdad y calificación cero para México

La tecnología nunca es neutral.

¿Cuántas veces al día hablas con ChatGPT? ¿Cuántos correos hechos por inteligencia artificial (IA) te han negado trabajo? ¿Bajo qué sesgos el algoritmo decide qué ves, compras o crees?

Lo que hace no mucho tiempo creíamos temas de una película de ciencia ficción, hoy es una realidad. La tecnología está decidiendo tantas cosas de nuestra vida, que su diseño, acceso y adopción en condiciones de igualdad debería de ser una prioridad para cualquier país.

México: octavo lugar en IA

Hace unos días se publicó el Índice Latinoamericano de Inteligencia Artificial (ILIA) 1 clasificando a México como un país adoptante ––dado su grado de madurez–– y ocupando el lugar 8º de 19 países de Latinoamérica. Lo preceden Perú, Argentina, Costa Rica, Colombia, Uruguay, Brasil y Chile con el primer lugar, mientras que Venezuela, Bolivia y Honduras ocupan los últimos puestos de la región.

Este índice evalúa tres dimensiones: 1) factores habilitantes, que tienen que ver con infraestructura digital, talento humano y datos; 2) investigación, desarrollo y adopción, que abarca el ecosistema académico, emprendedor y la adopción de la IA en diversos sectores, y 3) gobernanza, que considera elementos institucionales y normativos para una gestión responsable y sustentable de la IA.

Una de las grandes ausencias del índice son los pocos elementos relacionados con igualdad e inclusión, así como la falta de datos desagregados que visibilicen brechas no solo por género, sino también por pertenencia étnica, edad o discapacidad.

Algunos subindicadores como “porcentajes de población que usa internet”, “alfabetización” y algunos más de cobertura ni siquiera consideran las brechas vinculadas con lenguas indígenas, por ejemplo, y esto no es solo un problema técnico, sino una forma de exclusión estructural. Hablar de igualdad en la IA implica también hablar de derechos y justicia algorítmica, ámbitos ausentes en la agenda mexicana.

Esta falta de datos se refleja incluso en los ejemplos de buenas prácticas del informe. La directora de Datysoc señala la importancia de diseñar modelos alineados con una tecnología soberana y con potencial para América Latina, incorporando distintos tipos de datos culturales e indígenas para poder usarlos en chatbots comunes y servicios públicos que actualmente no lo toman en cuenta y mantienen la exclusión de comunidades.

Seguimos diseñando tecnologías que hablan los idiomas del poder, menos de quienes más lo necesitan o menos han sido integrados al ecosistema digital, incluyendo a las mujeres. 

Participación de mujeres en investigación de IA

El informe señala un incremento en la participación de mujeres en investigación en IA, que pasó de 19.8 % a 23.6 %. Sin embargo, la brecha sigue siendo profunda: en ningún país las mujeres representan siquiera un tercio del total de personas investigadoras, y en la mayoría no superan una de cada cuatro.

Algo no muy alentador para nuestro país es que este crecimiento está liderado por Cuba (32 %), Panamá (30 %) y Argentina (28 %), Venezuela (27 %), Ecuador (27 %) y Honduras (26 %). En el caso de México, de 4,276 personas investigadoras en IA, solo 1,001 son mujeres —una tasa de 23.39 %— y sin ninguna estrategia para revertir estos números.

Esta falta de diversidad refleja quiénes dominan el sector y nos da una idea del porqué se perpetúan los sesgos algorítmicos. Como señala el informe, si la composición no cambia, la brecha no solo persistirá, sino que podría ampliarse.

México sin estrategia nacional de IA y sin perspectiva de género

En materia de regulación y planeación, México sale reprobado. Siete países de la región –Brasil, Chile, Colombia, Costa Rica, Perú, República Dominicana y Uruguay– ya incorporan en sus estrategias nacionales de IA elementos con perspectiva de género, pero México ni siquiera cuenta con una.

Esto tiene un costo. El índice asigna a México cero puntos en casi todos los elementos de gobernanza, precisamente los que deberían marcar el rumbo de la política tecnológica. No existen mecanismos de evaluación ni de coordinación interinstitucional, ni se reconocen elementos de ética, sostenibilidad o perspectiva de género. México comparte este vacío con Bolivia, Ecuador, Guatemala, Honduras y Paraguay, naciones que aún carecen de una política pública clara e instrumentada; vamos, que hasta en la hoja de ruta tenemos cero.

Hace unos días, la presidenta Claudia Sheinbaum presentó en el Foro Económico Mundial el proyecto País de innovación con cuatro ejes principales, entre los que destaca la formación científica, técnica y humanista desde la niñez hasta la universidad, y un laboratorio nacional de inteligencia artificial, pero sin estar respaldado por un instrumento tangible.

Me pregunto si este plan logrará consolidarse en una Estrategia Nacional de IA que no sea únicamente declarativa, sino operativa, con acciones afirmativas, presupuesto y mecanismos de seguimiento. De lo contrario, como advierte el propio informe, México se quedará en discurso y mantendrá su cero: sin gobernanza, sin perspectiva de género y con las mismas desigualdades que la inteligencia artificial, y la autodenominada 4T, prometían resolver.

*Tatiana Revilla (@tatianarevilla) es escritora de clóset. Ha dedicado su vida a temas de género, feminismos y sus cruces con la vida misma. Doctora en Política Pública y fundadora de Gender Issues; dirigió el Programa de Género de la Escuela de Gobierno del Tecnológico de Monterrey, trabajó en Palladium Group y después se fue a la Escuela Federal de Formación Judicial como Secretaria Técnica de Derechos Humanos. Hoy combina la escritura, la consultoría y la docencia.

 

1 Creado por el Centro Nacional de Inteligencia Artificial (CENIA) de Chile, la Comisión Económica para América Latina y el Caribe (CEPAL) y apoyo de otras entidades públicas y privadas, disponible aquí.