"Modo picante" la problemática herramienta que estrena Grok

Elon Musk nuevamente da de qué hablar y esta vez es por la última herramienta que se ha integrado a Grok. Se trata de un modo de inteligencia artificial que rompe los límites.  Te decimos qué es lo que hace el “modo picante” y la razón por la qué podría resultar problemático.

 

Como ya sabrás Grok es una herramienta de inteligencia artificial llamada que permite generar imágenes y videos mediante IA. Una de las características más polémicas de Grok Imagine es su modo más reciente que es el “modo picante” (spicy mode).

¿Qué es lo que hace el “modo picante” en Grok?

Cuando un usuario activa el modo “picante”, Grok Imagine accede a una configuración que permite crear contenido visual más explícito. El sistema presenta cuatro modos predeterminados:

• Personalizado.
• Normal.
• Divertido.
• Picante.

Al elegir “picante”, el usuario debe confirmar su edad, y luego la IA genera imágenes o videos de hasta 15 segundos. Sin embargo, el sistema no siempre necesita instrucciones explícitas para producir material delicado: simplemente al pedir, por ejemplo, que una celebridad celebre un evento en este modo, puede terminar generando desnudos falsos o contenido no deseado.

Puedes leer: The Velvet Sundown, la banda creada con Inteligencia Artificial que junta miles de oyentes

¿Lo que podría ocurrir con esta herramienta?

La principal preocupación es que Grok está generando imágenes sexualizadas de personas reales sin consentimiento, incluso si el usuario no solicita contenido explícito directamente. Este comportamiento puede violar derechos de imagen, privacidad y, en algunos países, leyes sobre abuso digital, por ejemplo en México la Ley Olimpia.

Además, el sistema no siempre puede distinguir entre solicitudes legítimas y aquellas que, aunque parezcan inocentes, terminan en deepfakes sexualizados o degradantes, lo cual representa un peligro real para la integridad y reputación de las personas afectadas.

Taylor Swift entre las primeras afectadas

Según un informe publicado por The Verge, la periodista Jess Weatherbed utilizó Grok Imagine en modo “picante” y, sin hacer ninguna solicitud sexual, obtuvo más de 30 imágenes de Swift con ropa muy reveladora.

Este incidente es especialmente preocupante porque, en el pasado, ya hubo una gran polémica por la difusión de deepfakes sexualizados de Taylor Swift en la red social X (antes Twitter). En ese momento, la empresa aseguró tener una política de tolerancia cero contra los desnudos no consensuados y prometió eliminar ese tipo de contenido.

Este caso, y la llegada d e esta nueva herramienta solo vuelve  poner sobre la mesa y en evidencia un fallo grave en la ética, seguridad y reglas del desarrollo de la inteligencia Artificial, haciendo que esta en lugar de ser una herramienta se convierta en una forma nueva de explorar el acoso digital y el daño reputacional. ¿Tu qué opinas?

Mira también: Entre algoritmos y emociones: ¿Puede la inteligencia artificial reemplazar a un terapeuta?