Logo Computerhoy.com

Crean una IA para frenar la creación de vídeos Deepfake con famosos

Obama seguridad

Luchar contra la Inteligencia Artificial con más Inteligencia Artificial puede parecer un planteamiento muy desesperado, pero, por el momento, está funcionando. Ante la creciente preocupación por los vídeos deepfake, un grupo de investigadores ha decidido plantarle cara a esta peligrosa tecnología con otro sistema basado también en la Inteligencia Artificial. 

Aunque ya hace varios años que surgieron los primeros vídeos deepfake, esta técnica ha conseguido tal nivel de perfección que cada vez resulta más difícil distinguir un vídeo falso en el que un famoso dice algo que nunca dijo, de un vídeo real. Hasta ahora, ya que los especialistas parecen haber dado con un "antídoto".

Un grupo de investigadores de dos Universidades de California han trabajado en un sistema capaz de analizar la forma de hablar y gesticular de las personas para reconocer los vídeos en los que su cara haya sido falsificada por deepfake.

Es lo que se conoce como firma biométrica débil, un conjunto de gestos que realizamos al hablar que nos identifican aunque no de una manera tan única como sí lo haría el iris de nuestro ojo o la huella dactilar del dedo. Pero puesto que en los vídeos aún no podemos estudiar esos rasgos, nos tendríamos que conformar con estos otros que, al fin y al cabo, son los que se falsifican con la técnica deepfake.

Para comprobar la eficacia de este nuevo programa, este grupo de investigadores estadounidense creó sus propios vídeos deepfake con los principales líderes de su país como Donald Trump, Barack Obama y Bernie Sanders, entre otros, utilizando el sistema GAN en el que se basan muchos de estos vídeos falsos.

Rasgos tan característicos como la sonrisa que usa Trump en sus apariciones públicas aún no están dominados por los deepfake, por lo el programa consiguió detectar la diferencia y alertar con una precisión de hasta el 92% del engaño.

El proyecto ha sido financiado por Google y DARPA, la sección del Pentágono dedicada a la investigación. Este es un tema que ha empezado a preocupar mucho tanto a famosos como a los gobiernos al ver lo sencillo que se ha vuelto crear estos vídeos y usarlos como arma de desinformación en el extenso mundo de las fake news. 

Samsung crea un sistema de IA capaz de hacer cualquier vídeo de una imagen

Hao Li, miembro del equipo de desarrollo del proyecto asegura que "las celebridades y las figuras políticas han sido los principales objetivos hasta ahora. Pero no me sorprendería que dentro de un año o dos, cualquiera pueda ser el objetivo de este engaño". 

Habrá que ver si este método acaba sufriendo el mismo destino que el resto de sistemas que se han ido creando para luchar contra los vídeos deepfake estos años y que terminaron siendo superados por esta Inteligencia Artificial engañosa que continúa superándose a sí misma día a día.

Descubre más sobre , autor/a de este artículo.

Conoce cómo trabajamos en Computerhoy.