El Papa con un rifle, Mickey con un cuchillo ensangrentado, Trump el bebé llorón: los stickers de Facebook creados con IA, sin filtros
Meta quiere liderar el mercado de inteligencia artificial, pero hoy hemos retrocedido un año en el tiempo para volver a la inteligencia artificial sin filtros que crea todo tipo de barbaridades.
La última actualización de Facebook Messenger permite a usuarios seleccionados, crear stickers generados por IA, escribiendo una frase de texto. Nadie esperaba que esta IA de Meta no tenga filtros, o sean muy vagos.
La gente está creando en Facebook Messenger todo tipo de stickers de niños soldado, o personajes de videojuegos o de películas con tetas, embarazos, o convertidos en strippers. También con personas reales, como Elon Musk y Barack Obama en el retrete, el Papa disparando, Trump de bebé llorón, el presidente de Canadá presumiendo de culo… Incomprensible.
Hace unos días, en la Meta Connect, el mismísimo Mark Zuckerberg aseguró que van más lentos con la Inteligencia artificial, porque son muy cuidadosos a la hora de hacerla más segura y respetuosa. Unas declaraciones que desde luego no se aplican a la nueva función de crear stickers con IA en Facebook Messenger.
La IA de Facebook, sin filtros
Poco a poco, Meta está integrando la IA en sus productos. En la Meta Connect anunció la integración en WhatsApp e Instagram. Antes ha llegado a Facebook Messenger.
El servicio de mensajería de Meta ya permite a algunos usuarios crear stickers usando inteligencia artificial.
Un sticker es una especie de "pegatina" digital que se puede pegar en los mensajes, a modo de meme o emoji tipo dibujo. El poder crearlos con IA abre un mundo de posibilidades... y envía al paro a los dibujantes que creaban stickers dibujados a mano y luego los vendían, o los ofrecían gratis en la tienda de stickers, a modo de promoción.
Pero lo que ha sorprendido a todo el mundo, es que esta IA de Meta no tenga filtros que impidan usar personajes famosos, armas, drogas, y otros conceptos poco éticos:
Buscando un poco en X se pueden encontrar las Torres Gemelas en llamas, los personajes de Barrio Sésamo con armas, Pokémon vestidos de strippers, Los Simpson en ropa interior, y otros.
Más allá de la cuestión ética, hay una evidente violación del copyright. A Disney, Nintendo, o al Papa, no les va a hacer ninguna gracia que su imagen se asocie a armas, drogas, o prostitución.
Quizá se trate de un bug. O a lo mejor es que Facebook está probando los límites de su IA. Sea la razón que sea, no es aceptable que la IA de Facebook en Messenger permita crear stickes poco éticos, ofensivos, que insulten a personas reales, o usen personajes infantiles en situaciones de adultos.
Poco a poco, Meta se adentra en la inteligencia artificial generativa. Pero con los stickers de Facebook Messenger, lo ha hecho de forma torpe e inaceptable.
Otros artículos interesantes:
Descubre más sobre Juan Antonio Pascual Estapé, autor/a de este artículo.
Conoce cómo trabajamos en Computerhoy.