Midjourney cancela la prueba gratuita, ¿demasiados usuarios, o abuso de los deepfakes?
Hemos llegado un punto en que ya es imposible distinguir los deepfakes de la realidad. Y todo el mundo señala con el dedo a la inteligencia artificial.
Midjourney ha dejado de ofrece pruebas gratuitas, y ya solo se puede acceder mediante suscripción. The Verge publicó que era por culpa de los deepfakes, aunque el CEO de la compañía asegura que es por la gran cantidad de nuevos usuarios... seguramente interesados en crear sus propios deepfakes.
Estos días todos hemos visto los deepfakes de Donald Trump arrestado, o del Papa en plan "fashion", ambos creados con Midjourney.
Son realmente buenos, y aunque examinándolos con atención se descubren los fallos, cada vez es más difícil hacerlo.
Mucha gente se siente molesta cuando es engañada por un deepfake, pero lo más preocupante es cuando se utilizan con fines manipuladores, como es el caso de las falsas fotos del arresto de Donald Trump.
¿Y qué hacen las IAs al respecto? Extrañamente, las inteligencias artificiales generativas basadas en texto, como ChatGPT, son más estrictas que las basadas en imágenes, como MidJourney o Stable Diffusion.
Tal como explica el propio CEO de Midjourney, David Holz, en Discord, vía The Verge, intentan limitar los deepfakes bloqueando palabras clave. Por ejemplo, desde el episodio de Trump, la palabra "arrestado" no se puede usar. Pero la lengua inglesa es rica en sinónimos, y como ha comprobado The Verge, basta con escribir "Donald Trump con unas esposas en las muñecas", para obtener el mismo resultado.
Holz asegura que también cierran la cuenta a quienes crean los deepfake, pero como la prueba de las 10 primeras imágenes es gratuita, no tienen problemas en crear más cuentas.
Midjourney cerró ayer el acceso gratuito. Su CEO ha dicho que se debe al alto crecimiento de usuarios, y a la saturación de sus GPU. La inteligencia artificial necesita tanta potencia de proceso como las criptomonedas, así que su capacidad de uso es finita.
Pero los deepfakes son solo la punta del iceberg. La evolución de la IA, en apenas unos meses, ha sido vertiginosa, y cada vez más son más las voces que piden frenar su frenético desarrollo hasta que exista una normativa.
Elon Musk, Steve Wozniak y más de 1.000 expertos han firmado una carta para que se detenga el lanzamiento de nuevas versiones de ChatGPT y compañía, hasta que se evalúe su influencia en los puestos de trabajo, y el posible peligro para la Humanidad.
De momento Midjourney ha cerrado su versión gratuita, pero es necesaria una legislación que no llega, porque los políticos y legisladores no saber ni por dónde empezar.
Otros artículos interesantes:
Descubre más sobre Juan Antonio Pascual Estapé, autor/a de este artículo.
Conoce cómo trabajamos en Computerhoy.