“Violencia digital es violencia real”: IA genera mayor realismo y riesgo para las mujeres

Este 25N, Día Internacional de la Eliminación de la Violencia contra la Mujer, diversas organizaciones ponen de relieve la necesidad de denunciar y prevenir un tipo de violencia que, en realidad, traslada las mismas violencias de la vida real a otro ámbito. Ante ello, recuerdan que la digital no es menos grave, pero sí igualmente dolorosa en sus impactos.

Además, si bien la manipulación de imágenes ya existía mediante programas de edición, hoy las herramientas más desarrolladas, basadas en Inteligencia Artificial, hacen que parezcan más reales, mientras la actualización de las instancias encargadas de procurar justicia en nuestro país no avanza al mismo ritmo.

En los últimos años, ha sido evidente cómo la violencia digital ha ganado espacio, señala Moni Pizani, representante de ONU Mujeres en México. Por ejemplo, según el módulo sobre ciberacoso del Instituto Nacional de Estadística y Geografía (Inegi), un total de 10 millones de mujeres en el país han sido víctimas de violencia digital.

“Es una cifra alarmante, por supuesto. Eso no resta importancia al resto de las violencias, que siguen también; hay una gran preocupación y se están haciendo esfuerzos, pero quisimos llamar la atención sobre este tema porque es un tipo de violencia que recién se está visibilizando, y ver de qué forma se toman medidas para evitar que aumente, porque lo más importante siempre es prevenir”, dice en referencia a la campaña Es real, #EsViolenciaDigital, que lanzó la organización en el marco de los 16 días de activismo por el 25N.

Además de la alta incidencia digital, los datos del INEGI destacan que el 90 % de las propuestas sexuales no consentidas ocurren de hombres hacia mujeres. La violencia digital, igual que el resto, limita derechos, silencia voces y afecta de forma particular a las mujeres más jóvenes. La activista aclara que muchas veces al abrir un perfil en redes sociales, por más seguro o privado que sea, comienzan a estar expuestas a la violencia de manera más temprana.

Las formas más comunes son el ciberacoso, la utilización de fotos no permitidas, “o peor aún, las que se manejan con inteligencia artificial”, subraya. Además, los insultos y las amenazas que se suman a éstas muchas veces conducen a silenciar a las mujeres o a impedirles estar en el espacio público, al menos con cierta seguridad.

Otras formas de esta violencia, destacadas en un compendio de ONU Mujeres en relación con la campaña, son los discursos de odio, el abuso basado en imágenes y videos alterados (deepfakes), el doxing, las amenazas violentas, la difusión de contenido íntimo sexual sin consentimiento o exposición a contenidos sexual no pedido, el monitoreo y acoso, así como la desinformación en el sentido de difamación y ataques a la reputación.

Bajo el eje “lo que pasa en el mundo virtual impacta de manera real”, la organización recuerda que un 40 % de mujeres en el mundo viven violencia digital, mientras que 9 de cada 10 por lo menos la han presenciado contra otras. En México las mujeres víctimas de ciberacoso reciben el doble de insinuaciones o propuestas sexuales que los hombres. Ante ello, experimentan inseguridad, frustración y miedo.

Más de la mitad de las niñas y jóvenes en todo el mundo han experimentado violencia en línea, la mayoría sufrió su primera experiencia de acoso en redes sociales entre los 14 y los 16 años. En México, sin embargo, de acuerdo con los datos del INEGI, las mujeres de 20 a 29 años son las que más viven violencia digital.

Lee: Una de cada tres mujeres en el mundo ha sufrido violencia sexual o ejercida por su pareja, revela la OMS

Mientras que solo en 2024 medio millón de mujeres reportó haber sido víctima de publicación y venta de imágenes o videos de contenido sexual, y una de cada tres mujeres acusó haber recibido contenido sexual, insinuaciones o propuestas que no pidió, a nivel global el 70 % han sido difamadas, 60 % han vivido doxing, 70 % ciberacoso, 70 % han recibido discurso de odio, 6 de cada 10 han sido monitoreadas y vigiladas, y la mitad amenazadas. En tanto, el 95 % de todos los casos de creación de imágenes con Inteligencia Artificial (deepfakes) son de mujeres.

Ante esa realidad, la campaña de ONU Mujeres busca que, en primer lugar, se identifique qué es la violencia digital, se nombre y se denuncie como tal, pero al mismo tiempo, que el resto de las personas se involucre y contribuya a acompañar a las personas víctimas, añade Pizani.

“Le estamos creyendo a la tecnología antes que a la persona”: Mujeres Vivas y Libres

En entrevista por separado, Angie Contreras, de la organización Mujeres Vivas y Libres, recuerda que las agresiones y omisiones que conocemos como violencia digital se han dado normalmente en espacios públicos físicos, pero con la llegada, avance y popularidad de la tecnología, se replican esas mismas violencias en entornos digitales.

“Por su carácter digital, toman mayor fuerza, porque se viraliza, se pierde el control. Además, pareciera que no tiene fecha de caducidad, porque lo que se guarda puede volverse a publicar o revivirse esa violencia dentro de cinco días, o una semana o un año, pero que también es información que se puede manipular, ya sea un video, un mensaje, una fotografía”, explica.

Las conversaciones en torno de estas violencias, dice, se han sostenido en los últimos años, primero por su incremento, principalmente entre las más jóvenes, pero también porque pareciera que como se da desde una pantalla, se va a quedar ahí sin ninguna consecuencia. Sin embargo, se trata de una violencia muy íntima que tiene múltiples afectaciones.

Lee más: Feminicidios en México: Edomex, Morelos y Ciudad de México, entre las cinco entidades con más casos

Entre ellas, destaca, las más importantes son las psicológicas y emocionales, porque el uso del celular sigue siendo necesario, y se genera un “miedo a la notificación” de que el teléfono suene nuevamente, que aparezca una nueva etiqueta o mensaje u otra captura de pantalla, pero sin ver a la persona físicamente, e incluso sin saber quién está detrás de la cuenta, lo que a su vez genera incertidumbre en torno de si la amenaza se volverá realidad o quedará solo en el mensaje.

“Y posteriormente estas violencias no se quedan solo en una pantalla, sino que pueden salir de ella y tener afectaciones en los espacios laborales, en espacios físicos o en tu integridad física y también sexual”, apunta.

Ante los casos recientes donde de manera más visible se ha evidenciado el uso de la Inteligencia Artificial para manipular imágenes, como el que ocurrió en una secundaria de Zacatecas y vulneró la intimidad de al menos 400 estudiantes, Contreras afirma que aunque la modificación de imágenes no es nueva, pues se hacía con programas de edición, las nuevas herramientas han logrado que el contenido se vea más real.

“Hace algunos años se alcanzaba a ver, por ejemplo, lo pixelado, o el recorte, o el tono de piel distinto, entonces era más fácil identificar que era una fotografía falsa, y no se digan los videos, pero estas herramientas se van volviendo cada día más fáciles, sus ediciones son cada día más reales y las personas que ven este contenido piensan que es real”, explica.

Esto termina teniendo un efecto silenciador, al saber que el cuerpo está expuesto, incluso si no es el real o propio, pues si la cara sí lo es, muchas veces no se es capaz de decir nada frente a la crítica, la burla o lo que se genere en el entorno más cercano, a veces con más implicaciones por tratarse, por ejemplo, de la comunidad y la escuela. “La tecnología tiene un efecto: le estamos creyendo primero a la tecnología antes que a la persona”, remarca. Se trata de un efecto similar al que tiene la desinformación.

Además, las víctimas se enfrentan a un sistema de justicia que no les cree, así como a fiscalías que no cuentan con las herramientas suficientes para guardar las evidencias, no saben cómo documentar las situaciones de violencia en los entornos digitales y, en general, “no se están actualizando a la misma rapidez que la tecnología”. Esto sin contar la sensibilización necesaria para que las autoridades dejen de pensar que como ocurre en una pantalla, no pasa nada.

Te puede interesar: Vinculan a proceso a presunto responsable de feminicidio múltiple en Hermosillo, Sonora; padre de niñas exige cadena perpetua

Otro pendiente fundamental es la regulación que debe exigirse a las empresas que crean programas con base en Inteligencia Artificial, una discusión que ya tuvo su antecedente en la posibilidad de reportar contenidos en plataformas y redes sociales. Aunque la herramienta por sí sola no va a resolver el tema, pues se requiere un cambio de cultura y hábitos de las personas, también es necesario plantear ese tipo de regulaciones.

Por lo pronto, en el caso de las víctimas más pequeñas, Contreras enfatiza la importancia de acercarse con la comunicación y la confianza necesaria a infancias y adolescencias, para saber cómo están usando esas herramientas, y que no crean que deben aguantarse porque “no pasa nada”. La conversación aún pendiente, para todas las edades, debe darse en torno a cómo estamos usando esas herramientas, concluye.