IA y misoginia: qué pasa con Grok y la violencia digital de sus imágenes alteradas

Una vez más la inteligencia artificial está siendo utilizada para modificar imágenes de mujeres sin su consentimiento. Así que estamos nuevamente ante un episodio de violencia digital.

¿Qué está pasando con Grok y las imágenes en bikini?

A finales de diciembre de 2025, se lanzó una función de “edición de imágenes” en Grok. Los usuarios descubrieron que podían pedirle a la IA que modificara fotos reales de personas para que aparecieran en bikini, ropa interior o incluso desnudas (un proceso conocido como undressing) o hasta en posturas hipersexualizadas usando indicaciones como “ponla en bikini” o “quítale la ropa”.

Mira: Violencia digital con IA: ¿qué hacer si crean contenido sexual de mi persona?

Y eso no es lo único grave, pues entre las imágenes alteradas hay muchas que son de adolescencias e infancias.

Precisamente, el caso más grave fue el 28 de diciembre, cuando Grok cumplió con la solicitud de un usuario para manipular imágenes de dos niñas entre 12 y 16 años en atuendos sexualizados.

Imágenes de menores también han sido modificadas

El propio Grok emitió una disculpa pública posterior reconociendo el incidente del 28 de diciembre como un “fallo en las salvaguardas”. Admitió que estas imágenes violaron estándares éticos y potencialmente leyes federales de EE.UU. sobre Material de Abuso Sexual Infantil (CSAM).

La cuenta oficial de Grok en X advirtió que generar contenido ilegal resultará en la suspensión permanente de las cuentas y posibles acciones legales. Elon Musk reafirmó esto al decir

“Cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”.

Sin embargo, eso no se ve reflejado en X, pues esta ola de imágenes modificadas con Grok no ha terminado y la plataforma sigue sin ofrecer medidas de protección.

Lee: Otro tipo de violencia digital: qué es el stalkerware y cómo evitar ser víctima

El gobierno británico instó el martes a la red social X, propiedad de Elon Musk, a encontrar una solución para evitar que sigan creándose imágenes falsas de mujeres y niñas desnudas generadas por Grok.

“Lo que hemos estado viendo en internet en los últimos días ha sido absolutamente repugnante e inaceptable en una sociedad decente”, declaró Liz Kendall, la ministra de Tecnología del gobierno laborista de Keir Starmer.

“No podemos, y no permitiremos, la proliferación de estas imágenes humillantes y degradantes, que afectan de manera desproporcionada a mujeres y niñas. X debe solucionar este problema de manera urgente”, insistió.

Violencia digital con IA: ¿qué hacer si crean contenido sexual de mi persona?

Hay que repetir que este tipo de acciones no son broma, ni entretenimiento. Es violencia digital y sexual. Además, subir una foto NO es dar permiso para modificarla, sexualizarla, ni difundirla.

La realidad es que en México (así como en muchas partes del mundo) todavía existe un vacío legal en temas de imágenes modificadas con inteligencia artificial. Aunque la Ley Olimpia hace alusión, no la menciona explícitamente, por lo que dificulta el proceso.

En esta nota te dejamos una guía detallada sobre qué hacer si crean contenido sexual de tu persona, pero a forma de resumen debes:

1. Juntar y guardar evidencia
2. Reportar el caso en plataformas
3. Evita compartir el enlace
4. Denuncia ante las autoridades
5. Busca acompañamiento legal y/o psicológico

No esperemos a que nos pase; comparte, infórmate y habla acerca de este tema. Y recuerda: tú no eres culpable de nada, lo es quien violenta.