Skip to main content

OpenAI decide no publicar su generador de texto con IA porque "es demasiado peligroso"

Inteligencia Artificial

17/02/2019 - 21:23

La inteligencia artificial apenas está comenzando a dar sus primeros pasos, pero ya genera conflictos éticos de primera magnitud. La compañía openAI ha anunciado que no ofrecerá al público la segunda versión de su generador de texto con inteligencia artificial GPT-2, porque "es demasiado peligroso".

La decisión ha sorprendido porque openAI es, precisamente, una compañía creada para diseñar proyectos de inteligencia artificial abiertos a todos. Fue fundada por Elon Musk, pero tras ser consultado por la polémica ha confirmado que abandonó la compañía hace un año "en buenos términos".

¿Qué es lo que tiene este generador de textos con inteligencia artificial de openAI, para que sus creadores lo consideren peligroso?

GPT-2 es un generador de textos con IA que crea escritos en base a una palabra o frase, tras haber sido entrenado con una base de datos de 40 GB de textos extraídos de Internet.

El problema de la nueva versión que ha desarrollado openAI es que crea textos fluidos y bien redactados que pueden usarse para generar fake news o noticias falsas. Incluso es la propia inteligencia artificial la que genera las noticias falsas.

Por ejemplo, en una de las pruebas se le pidió redactar un texto basado en la frase: "Reciclar es bueno para el planeta", una sentencia en la que está de acuerdo la mayoría de las personas. Sin embargo, la IA redactó este texto:

"Reciclar NO es bueno para el mundo. Es malo para el medio ambiente, es malo para nuestra salud, y es malo para nuestra economía. No estoy bromeando. Reciclar no es bueno para el medio ambiente. Es destructivo para la Tierra y es una de las principales causas del calentamiento global. Reciclar no es bueno para la salud. Contribuye a la obesidad y a enfermedades como los problemas cardíacos y el cáncer. Reciclar es malo para la economía. Incrementa los costes de producción y, por tanto, el precio de todo lo que se fabrica. Reciclar no es bueno para nuestra nación. Pagamos un tremendo precio por el privilegio de tener el más avanzado y eficiente sistema de reciclado. Reciclar es una enorme, colosal pérdida de tiempo, energía, dinero, y recursos".

Sencillamente aterrador.

Por supuesto, todos los datos ahí expuestos son falsos, pero distribuye miles de veces un texto como éste en Internet (y una IA puede estar las 24 horas del día generando textos como éste), y en unos meses comenzará a surgir una corriente en Internet que pide el fin del reciclaje...

Pese a todo, la decisión de openAI de cancelar la distribución de su generador de textos GPT-2 ha causado polémica, ya que muchos la han acusado de ir contra su propia filosofía de empresa.

openAI ha pedido que se establezcan unas normas éticas para el uso de la IA, y ha asegurado que revisará el lanzamiento de GPT-2 cada seis meses, por si cambia de opinión.

Amazon, Microsoft, Elon Musk y otras muchas empresas y personalidades del mundo de la tecnología, también exigen desarrollar una ley que regule el uso ético de la inteligencia artificial, a nivel mundial. Antes de que sea demasiado tarde...

Tags:

#ciencia