La Inteligencia Artificial desafía el arbitraje electoral rumbo a 2027

Un audio con una voz atribuida a Margarita González Saravia comenzó a circular en 2024 durante la campaña por la gubernatura de Morelos. En la grabación, la candidata de Morena supuestamente amenazaba con retirar los programas sociales a quienes no votaran por ella o por el movimiento. La página de Facebook “Noticias de México y el mundo” empezó a difundirlo el 20 de abril y, dos días después, pagó 2 mil pesos para amplificarlo como publicidad. En los días siguientes, periodistas y medios de comunicación retomaron el audio.

González Saravia dijo el 25 de abril que la grabación era “completamente falsa”, negó que fuera su voz, sostuvo que se había hecho con inteligencia artificial y pidió una aclaración y derecho de réplica. Cuatro días después, Animal Político publicó una verificación para la que consultó al Grupo de Respuesta Rápida de WITNESS, cuyos especialistas encontraron en el audio evidencia significativa de manipulación, incluidos silencios que podían indicar empalmes, aunque la revisión no identificó a quien lo produjo.

Se habla de que algún día la inteligencia artificial podría acabar con la humanidad, pero hay un riesgo más cercano que ya apareció en una campaña electoral mexicana. De cara a las elecciones de 2027, cuando resulta cada vez más fácil imitar voces, alterar imágenes y difundir esos contenidos, una grabación manipulada puede llegar a los votantes antes de que alguien consiga verificarla.

Esa diferencia de tiempos preocupa a Daniela Arias, coordinadora general del Laboratorio Electoral, organización que publicó en agosto pasado el estudio La Inteligencia Artificial en la gestión electoral. El análisis examina los riesgos de esta tecnología durante una contienda, pero también las posibilidades de utilizarla para organizar elecciones y detectar irregularidades.

“Creo que el principal hallazgo es que siempre vamos a ir atrás. Creo que ese es el problema más grande con la inteligencia artificial”, dice Arias. Cuando una institución termina de discutir cómo atender un problema, explica, las herramientas y las formas de usarlas pueden haber cambiado; no es necesariamente falta de interés de las autoridades electorales, sino resultado del tiempo que requieren para investigar, valorar pruebas y tomar decisiones.

Una voz clonada o un video falso son apenas algunas posibilidades que aborda el estudio, junto con la difusión automatizada de mensajes y la propaganda dirigida a grupos específicos de votantes. También está el dinero utilizado para amplificar esos contenidos. Aun después de comprobar que una pieza fue manipulada, queda por establecer de dónde salió, cómo circuló y si existe una conducta que la autoridad pueda investigar.

¿Ya leíste?: INE instala comisión para verificar posibles vínculos de candidatos con el crimen organizado

A ese panorama se suma lo que el informe llama el “dividendo del mentiroso”. Si el público sabe que una voz o una imagen pueden fabricarse, alguien también puede negar una grabación auténtica y atribuirla a la inteligencia artificial. La duda sirve entonces para difundir contenidos manipulados y para poner bajo sospecha los que son verdaderos.

La campaña que circula en los grupos

Arias ve hacia espacios donde una publicación puede llegar a miles de personas sin quedar a la vista de quienes podrían denunciarla o comprobarla. “Ya va a haber videos que van a salir de las candidaturas a alguna gubernatura y obviamente no se van a mover en la televisión, donde todo el mundo los ve. Se van a mover en grupos de WhatsApp, de Facebook y de Telegram”, señala.

Ahí ve un riesgo particular en la clonación de voces y expresiones faciales. Ante un video atribuido a una candidatura, la respuesta tendría que empezar por encontrarlo, seguir su recorrido y verificarlo mientras todavía pasa de un grupo a otro, una tarea más difícil cuando no circula en una conversación pública.

Para enfrentar tales escenarios, Laboratorio Electoral propone formar equipos con conocimientos electorales, tecnológicos y de comunicación, trabajar con las plataformas para detectar contenidos engañosos, proteger los datos personales de los votantes y hacer visible el uso de inteligencia artificial en la propaganda política. Son recomendaciones del estudio, no obligaciones generales que rijan las campañas mexicanas.

El etiquetado, advierte Arias, tampoco resuelve mucho si aparece escondido o pasa inadvertido. Su utilidad depende en parte de cómo lo muestran las plataformas y de que alguien alcance a verlo antes de compartir el contenido.

Tampoco existe un solo grupo de votantes vulnerables a estos engaños, señala la coordinadora del Laboratorio Electoral: aunque las personas jóvenes suelen reconocer mejor ciertos contenidos generados con inteligencia artificial, pueden consumirlos sin cuestionarlos; quienes conocen estas herramientas también pueden equivocarse cuando una imitación resulta convincente. Por eso considera un error reducir el problema a las personas mayores.

Las reglas y el tiempo de respuesta

El Instituto Nacional Electoral (INE) ya cuenta con lineamientos para el uso interno de inteligencia artificial y convirtió su proyecto Certeza en un programa permanente para verificar la desinformación electoral. Son respuestas concretas, aunque atienden tareas distintas de la obligación que plantea el estudio para partidos y candidaturas: identificar de manera visible la propaganda creada con estas herramientas.

La discusión llegó también a Palacio Nacional. La reforma electoral presentada en marzo por la presidenta Claudia Sheinbaum proponía identificar de forma visible la propaganda hecha con inteligencia artificial, pero no fue aprobada. En agosto, ella dijo que corresponde al INE valorar si podía emitir lineamientos para las campañas.

Con el proceso electoral ya iniciado, Sheinbaum volvió al tema el 14 de septiembre. Consideró pendiente la regulación de las redes sociales y la inteligencia artificial y planteó abrir una discusión nacional, aunque expresó dudas sobre si todavía podían impulsarse cambios legales para esta elección.

Arias sostiene que esa discusión no parte de un vacío legal. Si existen pruebas suficientes de una conducta prohibida, el marco electoral mexicano permite atender una denuncia aunque se haya empleado inteligencia artificial; lo difícil, dice, es reunirlas, vincular el contenido con sus responsables y obtener una respuesta mientras la campaña continúa.

Lee: Morena publica convocatoria para elegir coordinadores de los 300 distritos federales

También Ernesto Ramos, consejero del Instituto Electoral de la Ciudad de México (IECM), considera que existen herramientas para actuar. Aunque reconoce que “la tecnología va mucho más rápido que las leyes”, discrepa de que haya rebasado a las autoridades electorales. En entrevista explica que pueden investigar quejas y, cuando procede, dictar medidas cautelares para retirar propaganda que afecte la contienda, mientras el tribunal resuelve el fondo del caso y las posibles sanciones.

“Sabemos que en el proceso electoral y más en la jornada el tiempo es fundamental, por lo tanto muchas veces una noticia falsa puede generar daño en un par de horas o antes de que se baje”, dice Ramos. Entre los escenarios que le preocupan están las imágenes fabricadas para aparentar irregularidades durante la votación y las encuestas falsas capaces de sembrar desconfianza en los resultados.

El consejero pide cautela al discutir nuevas reglas por sus posibles efectos en la libertad de expresión. Desde su perspectiva, lo más difícil de contener es la combinación de inteligencia artificial y redes sociales: crear una pieza engañosa puede ser sencillo, y su alcance depende después de quienes deciden compartirla.

La misma herramienta, del otro lado

La inteligencia artificial también podría ayudar a las autoridades a atender dudas de los votantes, ordenar información electoral y detectar anomalías en el gasto de campaña, según el estudio de Laboratorio Electoral. Arias destaca en particular la posibilidad de identificar publicidad pagada y movimientos de recursos difíciles de rastrear. El informe plantea estos usos como posibilidades, sin presentar resultados medidos en una elección mexicana.

Para incorporar esas herramientas, el documento pide supervisión humana, evaluaciones independientes y protección de los datos personales. Una aplicación puede reunir información o advertir de un patrón inusual, pero las decisiones con consecuencias electorales deben quedar en manos de personas capaces de explicarlas y justificarlas, algo con lo que Ramos coincide.

De cara a 2027, la pregunta no es sólo si una autoridad puede demostrar que un audio fue alterado o conseguir que una plataforma lo retire. Es si podrá encontrarlo a tiempo, reconstruir quién lo difundió y actuar antes de que la versión manipulada llegue más lejos que la aclaración.