Sin que nos demos cuenta, la inteligencia artificial, ChatGPT y OpenAI, están en todos los sitios. La prueba es sencilla. Si introduces la frase "Lo siento, su petición va en contra de la política de OpenAI", en los buscadores de Amazon USA, eBay y X, obtendrás docenas de productos y cuentas.

Resulta que una gran cantidad de productos de Amazon se llaman justo así: "Lo siento, su petición va en contra de la política de OpenAI". También cientos de respuestas de cuentas de X. ¿Qué está pasando?

Como puedes ver en la anterior captura de Amazon.com, el pasado viernes docenas de productos de Amazon tenían todos el mismo nombre, con pequeñas variantes: "Lo siento, pero no puedo atender su petición porque viola la política de OpenAI".

Una limitación de OpenAI, y las miserias de la IA

Esta frase se puede ver tanto en el nombre del producto, como en su descripción. Incluyendo descripciones de productos tan ridículas como: "Nuestro [producto] puede utilizarse para diversas tareas, como [tarea 1], [tarea 2] y [tarea 3], lo que lo convierte en un complemento versátil para su hogar".

En el momento de redactar esta noticia, he hecho una búsqueda en Amazon.com, y ya no aparecen estos articulos. Seguramente Amazon ha metido mano, y los ha eliminado todos. Pero tras probar en eBay.com, sí ha aparecido alguno:

En muchos casos se trata de articulos que solo muestras imágenes generadas por ordenador, posiblemente, con DALL-E, así que el producto ni siquiera existe, aunque no quiere decir que sea ilegal. Simplemente, que toda la ficha del producto se ha generado con ChatGPT. Y la IA de OpenAI ha dicho "basta".

Lo mismo ocurre si buscas en X la frase: "goes against OpenAI's content policy" (va en contra de la política de contenidos de OpenAI). A mí me han aparecido docenas de mensajes de cuentas de X que responden con la misma frase:

¿Qué está pasando? La respuesta es sencilla. Muchos vendedores de Amazon y eBay están usando ChatGPT para generar las fichas de sus productos.

De la misma forma, muchas cuentas de X son bots que generan las respuestas utilizando ChatGPT.

Hasta ahora OpenAI lo permitía, pero ante la plaga de productos comerciales generados por IA, y cuentas falsas de X y otras redes sociales, OpenAI ha cerrado el grifo. Cuando la IA detecta que el usuario está realizando estas actividades, avisa con un "lo siento, su petición viola la política de OpenAI".

Muchos vendedores y creadores de bots han tardado en darse cuenta, y por eso han aparecido productos y respuestas en X con la mencionada frase.

La inteligencia artificial gana al iPhone: Microsoft ya es la compañía más valiosa del mundo, superando a Apple

Más allá de la curiosidad, es un problema serio. Porque las descripciones de los productos son falsas, están inventadas por una IA, no son una descripción real de cómo es el verdadero producto, porque la IA no lo ha probado. Y los bots de X intentan hacerse pasar por personas para engañar, estafar, confundir, o difundir fake news o ideas extremistas.

Amazon nos ha hecho llegar su posición oficial al respecto, ya que constantemente verifica que las fichas de los vendedores externos, sean precisas.

Esto es lo que dice Amazon: "Trabajamos arduamente para brindar una experiencia de compra confiable a los clientes, lo que incluye exigir a los vendedores externos que proporcionen listados de productos precisos e informativos. Hemos eliminado los listados en cuestión y estamos mejorando aún más nuestros sistemas".

La inteligencia artificial va a traer muchas cosas buenas, pero también tiene un reverso oscuro, como los productos falsos creados con ChatGPT, y los bots de X. Solo estamos empezando a descubrirlo...