El problema no es nuevo, ni tampoco la incapacidad de X para frenar este tipo de contenido. Con una plantilla reducida y la manga ancha a las cuentas de dudosa procedencia, en favor de "la libertad de expresión", cuando surge una oleada de deepfakes de alguien tan famosa y atractiva como la cantante Taylor Swift, X se ha visto desbordada.

El pasado miércoles, comenzaron a aparecer en varias cuentas de X, deepfakes sexuales de Taylor Swift. Un deepfake es la alteración de una foto o vídeo mediante inteligencia artificial, para cambiar el cuerpo o el rostro.

En este caso, imágenes pornográficas habían sido manipuladas por IA para añadir el rostro de Taylor Swift.

La lenta reacción de X a los deepfakes de Taylor Swift

Al hacerse públicas estas alteraciones, que se viralizaron enseguida, los fans de la cantante comenzaron a avisar a X. Pero no sirvió de mucho. Los deepfakes se viralizaban cada vez más, hasta el punto de que algunas de estas imágenes llegaron a ser reproducidas 45 millones de veces, según The Verge.

Pese  que supuestamente X los estaba eliminando, seguían apareciendo en las búsquedas, así que los fans de Taylor Swift pusieron en marcha una campaña masiva para retuitear contenido positivo de la cantante, con el objetivo de "ocultar" los deepfakes en las búsquedas.

Incapaz de eliminar este contenido, finalmente ayer sábado, tres días después, X bloqueó las búsquedas de Taylor Swift. He comprobado si aún siguen bloqueadas, y en efecto, si buscas Taylor Swift en X, la búsqueda da error:

Joe Benarroch, responsable de operaciones comerciales de X, ha declarado en The Wall Street Journal que "se trata de una acción temporal y realizada con todas las precauciones, ya que damos prioridad a la seguridad en este asunto." 

En un comunicado, X ha recalcado que "la publicación de imágenes de desnudos no consentidos (NCN) está estrictamente prohibida en X, y tenemos una política de tolerancia cero hacia este tipo de contenido. Nuestros equipos están eliminando activamente todas las imágenes identificadas y tomando las medidas oportunas contra las cuentas responsables de su publicación.

Lumiere es la nueva IA generativa de Google que convierte texto y fotos a vídeo, y es espectacular

Y continúa: "Estamos vigilando de cerca la situación para asegurarnos de que se aborda inmediatamente cualquier nueva infracción y se elimina el contenido. Nos comprometemos a mantener un entorno seguro y respetuoso para todos los usuarios":

Los expertos han rastreado el origen de los deepfakes hasta un grupo de Telegram que se dedica a crear deepfakes de famosos. Lo más grave es que están creados con herramientas gratuitas al alcance de todo el mundo.

La inteligencia artificial nos ha traído muchas cosas buenas, pero también tiene su lado oscuro, como los deepfakes, que se viralizan cuando los protagonizan personajes famosos, como Taylor Swift. No hay una solución sencilla.