Todo comenzó como un experimento con la Inteligencia Artificial, pero rápidamente se ha ido de las manos. En el foro de Reddit, un usuario compartió una herramienta avanzada para generarporno falso de famosos-sobre todo de famosas- utilizando la IA. Es el conocido como Face Swap, la técnica de cambiar caras entre dos personas.

Esta herramienta, llamada FakeApp, fue perfeccionada por otros usuarios para hacerla más intuitiva para la gente de a pie. Ahora tiene una interfaz mucho más simple y fácil de manejar, y eso nos debería dar miedo porque de repente decenas de usuarios de Reddit han comenzado a generarporno de famosastotalmente falso. Sólo necesitan tiempo libre y un ordenador lo suficientemente potente.

Según publica Motherboard tras haber entrevistado a varios de los usuarios que lo hacen, sólo hace falta "entrenar" a la Inteligencia Artificial deFakeApppara que detecte las expresiones faciales del famoso que quieres añadir al vídeo. A continuación, aprende de los movimientos de una estrella porno y cambia sus caras de forma que prácticamente encajan a la perfección.

Ya hay vídeos porno falsos de Daisy Ridley -Rey en Star Wars- o Jessica Alba, por citas dos actrices famosas que han sido utilizadas para generar clips con Inteligencia Artificial. No son ni mucho menos las únicas, pero sí dos de los contenidos que aparentemente han tenido más éxito.

Los vídeos son lo suficientemente creíbles si le echas imaginación, aunque no son ni mucho menos perfectos. Al parecer, a los usuarios de este foro no les importa demasiado, por el subforo en el que se comparten sus creaciones ha alcanzado rápidamente 15.000 suscriptores, una cifra que no está nada mal y que nos muestra que existe una altísima demanda de porno de famosas, aunque sea falso y generado por la IA.

El crecimiento es imparable, tanto en audiencia como en colaboradores. Parece que esta tecnología tiene un nicho importante de demanda que está aún por cubrir, aunque las implicaciones son tantas y tan negativas que este fenómeno debería asustar a cualquiera con sentido común.

Estos portátiles con WiFi AC te permitirán navegar a toda velocidad por Internet

Una tecnología prácticamente imparable

Que un usuario cualquiera con presupuesto limitado haya creado una herramienta tan potente dice mucho del futuro de esta tecnología de Face Swap o intercambio de caras. Con el suficiente tiempo y trabajo, mejorará y se hará difícil distinguir imágenes generadas por la IA que son falsas de las verdaderas, y eso es un auténtico peligro.

Que en Reddit haya triunfado el subforo en cuestión significa que sus posibilidades aún no han alcanzado ni un pequeño porcentaje del potencial que tiene.

El ejemplo más ilustrativo es quizás el siguiente vídeo de Mauricio Macri, presidente de Argentina. Un usuario uso el Face Swap para mezclar su cara con la de Hitler, y este es el resultado:

Por qué debería preocuparte esta posibilidad

¿Qué daño puede causar esta tecnología? Al fin y al cabo, hay quien podría pensar que no hay nada peligroso en generar porno falso que a todas luces no ha sido interpretado por esas famosas. Pues bien, hay varias puntualizaciones.

Para empezar, nadie ha pedido permiso a dichas personas para generar porno con sus caras. Probablemente a poca gente le gustaría verse en una de estas, sobre todo teniendo en cuenta que muy pronto será difícil distinguir los vídeos generados por la IA de los genuinos. Imagina que sus familiares o amigos comienzan a ver vídeos totalmente realistas con motivos pornográficos: ¿hasta qué punto seremos capaces de distinguirlos?

El segundo punto que debería preocuparnos de la posibilidad de generarvídeos porno de famosascon la IA es lo que esto implica para la gente de a pie. Ahora son celebridades, pero pronto podrías ser tú. No son excepcionales los casos de porno venganza, vídeos reales que ex parejas filtran en Internet y que causan mucho daño.

Haz un esfuerzo para imaginar un escenario en el que ni siquiera sea necesario filtrar un vídeo real: sólo un ordenador, vídeos tuyos y la Inteligencia Artificial. Sin duda el daño potencial a miles de personas es enorme.