La nueva modalidad de violencia de género: Inteligencia Artificial

Pocas veces nos cuestionamos si el nombre, la imagen, el rostro o la voz se encuentran protegidos, incluso existen personas que no saben que estos datos forman parte del derecho humano a la identidad e imagen y por tanto merecen un cuidado sensible. Las Tecnologías de la Información y la Comunicación (TIC) han generado nuevas formas de violencia contra las mujeres y las niñas por razón de género. Conocida comúnmente como violencia digital, este tipo de agresiones se traducen en aquellas que son cometidas desde el espacio del internet y se distribuye a través de tecnologías de la información y la comunicación.

Esto se demuestra en el informe “módulo sobre ciberacoso 2023” del INEGI, el cual arroja que la violencia de género en el mundo cibernético afecta al menos a nueve millones de personas. Este tipo de violencia, es solo una extensión de la que miles de mujeres enfrentan día con día en su entorno físico. Además, el rango de edad que oscila entre la población femenina afectada al respecto, es desde 12 a 29 años, mismas que han sido acosadas en un seis por ciento más que los hombres de la misma edad.

¿Cómo se manifiesta éste tipo de violencia? La forma más común es a través del acoso o abuso de medios digitales conocido como stalked. También encontramos el llamado grooming, que es un engaño principalmente pederasta, en el cual adultos se hacen pasar por niños a través de juegos y en redes sociales, con el fin de ganarse su confianza y después cometer abuso sexual. Existe el shaming, el cual consiste en emitir comentarios despectivos o burlas hacia los cuerpos de otras personas y el doxing (o “doxxing”), que implica revelar información verídica, sensible y confidencial para identificar a una persona en línea (desde su nombre, hasta datos financieros, por ejemplo) y posteriormente divulgarla al público sin el permiso de la víctima. Por último, el sexting, el cual es una manera de disfrutar la sexualidad y bajo diálogo consensuado puede llevarse a la práctica de manera segura; no obstante, llega a convertirse en violencia digital cuando este contenido se comparte sin consentimiento de las personas implicadas.

Especialmente esta última forma de violencia ha puesto en jaque al sistema judicial pues hace uso de técnicas “novedosas” como la inteligencia artificial, para modificar fotografías y videos de carácter íntimo-sexual al difundirlos. Con esto queda visible que tanto la comunidad internacional, como el Estado mexicano y sobre todo, las poblaciones vulnerables frente a este tipo de violencias nos encontramos ante nuevos retos de seguridad.

¿Qué puedo hacer o cómo puedo defenderme ante un caso de violencia digital en México? Hay formas legales de crear protección ante esta modalidad y es a través de la conocida Ley Olimpia. Una serie de reformas a los diversos códigos penales que existen en México, a través de las cuales se establece que el grabar o tomar fotos y/o video de personas sin su consentimiento (o a través de mentiras), la exposición, distribución, venta o difusión de las mismas (sean reales o simulados), serán consideradas actividades ilícitas.

Esta ley protege los derechos a la intimidad y al ejercer y disfrutar plenamente la sexualidad de las personas, sin temor a que su imagen quede expuesta. A pesar de su existencia desde el año 2020, no existía ningún caso documentado que se denunciara por modificación de contenido a través de la inteligencia artificial. Fue hasta 2023 que algunas alumnas del Instituto Politécnico Nacional (IPN) denunciaron que uno de sus compañeros (y actualmente su agresor) se dedicaba a “robarles fotos de sus redes sociales” para después modificarlas con aplicaciones de inteligencia artificial (IA) y distribuirlas.

Lamentablemente, este no es el primer caso que aborda la modificación de contenidos íntimos sexuales con el uso de IA. En septiembre de 2023, en Almendralejo, España, existió un caso que implicaba a veinte mujeres menores de edad y un grupo de veinte hombres adolescentes, los cuales robaron fotos de sus compañeras de clase para después modificarlas con un programa experto en inteligencia artificial que simula la desnudez con las características que el usuario indique en cada fotografía.

La forma de operar en ambos continentes es la misma, compañeros de escuela como victimarios, mujeres jóvenes como víctimas, la vulneración de la intimidad, la imagen y el libre disfrute de la sexualidad vulnerado por la modificación de fotos con ropa para “desvestirlas” virtualmente y lo que es todavía más deleznable usando la misma aplicación para modificar estas fotos. Estos indicadores muestran que los medios digitales están avanzando a pasos agigantados, resolviendo problemas pero también creando otros tantos que no se encontraban en nuestro radar y así la regulación de estas herramientas se han tardado en llegar.

Este tipo de violencia no solo es alarmante por el robo de la identidad, el uso de la imagen y su aprovechamiento económico por parte del perpetrador. Mayormente trae consigo un efecto paralizador, pues impide que las mujeres y niñas disfruten de la participación plena e igualitaria en la vida pública y se genere un efecto intimidatorio o de vergüenza en sus ámbitos sociales, laborales y escolares al ser objeto de críticas o burlas de quienes las reconocen. El no considerar que estas actividades son violencia digital equiparables a la violencia física o psicológica es un grave problema, esto sin mencionar el sesgo de género en el desarrollo de las tecnologías digitales, en donde las mujeres y niñas se ven poco beneficiadas.

En el derecho internacional todavía no existe algún pronunciamiento en la materia, y aunque en México contamos con la Ley Olimpia, la IA no solo puede modificar fotos y/o videos, sino alterar la voz e incluso suplantar identidades, como ha sucedido con artistas y personas famosas. Urge hacer un llamado a sumar esfuerzos a nivel mundial con lo relacionado a la violencia digital, porque nuevamente las mujeres y niñas vuelven a ser, por estadística, las víctimas principales de esta violencia. No hay que olvidar que aún y cuando esta violencia se realice en el mundo cibernético, no deja de ser violencia. Lo virtual también es real y genera afectaciones en las víctimas, pues aunque sus cuerpos o caras no coincidan con las reales, estas modificaciones se encuentran íntimamente ligadas a la imagen de las personas y  se puede manifestar en afectaciones tangibles en lo cotidiano.

* Valeria Martínez es abogada y colaboradora del Centro de Derechos Humanos Fray Francisco de Vitoria A. C. (@CDHVitoria).