YouTube intenta frenar la explosión de los deepfakes

Ante el aumento de los contenidos generados por inteligencia artificial en las redes sociales, YouTube intenta recuperar el control. La plataforma estadounidense está desarrollando una herramienta capaz de detectar los llamados deepfakes; es decir, videos manipulados que utilizan la imagen o la voz de una persona sin su consentimiento.

¿Quieres estar al día con Animal MX? Dale clic a nuestros canales gratuitos en Whatsapp y en Instagram.

Este fenómeno ha experimentado una plena expansión en los últimos meses y preocupa especialmente a la industria del entretenimiento y a las celebridades. Hollywood, donde la imagen es el recurso esencial, está directamente expuesto. Por ello, YouTube ha decidido ampliar las pruebas de esta tecnología con figuras públicas, con el objetivo de proteger mejor su identidad digital.

El objetivo es claro: limitar los abusos mientras la plataforma se adapta a una revolución tecnológica que está transformando los hábitos de consumo.

¿En qué consiste realmente esta herramienta?

El sistema que desarrolla YouTube se basa en una tecnología de detección de “semejanza” (likeness detection), capaz de identificar si un video utiliza artificialmente el rostro o la voz de una persona.

Inspirado en el sistema Content ID —utilizado para gestionar los derechos de autor—, este mecanismo permite a los afectados señalar un contenido y solicitar su eliminación. Sin embargo, este proceso no es automático: depende del contexto y de las normas de la plataforma, que sigue permitiendo ciertos usos como la parodia o la sátira. El reto para YouTube es encontrar un equilibrio entre la libertad de creación y la protección de la imagen.

¿Por qué Hollywood se siente especialmente amenazado?

Las celebridades son las principales víctimas de los deepfakes. Actores, cantantes y figuras públicas pueden ver su imagen manipulada en contenidos engañosos o perjudiciales. Recientemente, por ejemplo, circuló un video muy realista en el que Brad Pitt y Tom Cruise aparecían enfrentándose en un combate ficticio.

Para Duncan Crabtree-Ireland, director del sindicato SAG-AFTRA (que representa a los actores):

“El uso no autorizado de la imagen de los artistas es uno de los problemas más urgentes que plantea la inteligencia artificial en nuestra industria”.

En este contexto, la imagen se convierte en un activo económico. La capacidad de la IA para reproducir un rostro o una voz con gran precisión cuestiona las bases mismas de las industrias culturales.

¿Es suficiente esta solución frente a los riesgos de la IA?

A pesar de estos avances, las limitaciones siguen siendo importantes. Los deepfakes son cada vez más sofisticados, lo que vuelve su detección mucho más compleja. Además, el volumen de contenidos publicados diariamente supera ampliamente la capacidad de moderación de las plataformas.

Como señala el experto Siwei Lyu, especialista en el tema:

“Es una carrera constante entre los creadores de deepfakes y las tecnologías de detección”.

En la práctica, YouTube ofrece una respuesta parcial. La herramienta permite encuadrar mejor los abusos, pero no es suficiente para frenar un fenómeno en constante crecimiento. Más allá de la tecnología, la cuestión se vuelve ahora política: ¿cómo regular la inteligencia artificial sin frenar la innovación?