Skip to main content

GPT-3, el nuevo modelo de lenguaje que ha dejado con la boca abierta a medio mundo

GPT-3

Depositphotos

01/08/2020 - 06:45 | Actualizado 08/08/2020 - 06:35

"Es la inteligencia artificial más potente hasta la fecha!, "supondrá la destrucción de miles de empleos", "es un peligro para la humanidad"... ¿de verdad es tan impresionante esta nueva red neuronal? ¿Podremos controlar que no acabe convirtiéndose en nuestra peor pesadilla?

GPT-3 ya es una realidad. Su presentación ha suscitado todo tipo de comentarios, tanto muy buenos como muy negativos por las posibilidades que ofrece y todo lo que podría suponer para el futuro de la informática. Sin embargo, sus propios creadores han pedido que nos lo tomemos con calma y sentido común, pues no es ni la octava maravilla ni el apocalipsis. Pero, ¿qué es GPT-3?

Para comprender por qué se ha creado tanta expectación alrededor de este nuevo sistema de inteligencia artificial, es necesario entender en qué consiste este nuevo generador y lo que ha demostrado ser capaz de hacer. 

Son muchos los que, ante la posibilidad de probarlo en online, están "jugando" con GPT-3 para ver hasta dónde es capaz de llegar. Han conseguido que haga poesía, que juegue a ser programador, matemático o periodista sensacionalista. Es fácil quedar asombrado con sus cualidades, de las cuales cada día descubrimos algo nuevo, pero ¿qué hay detrás de todos estos avances?

Programación

La historia de los lenguajes de programación

Repasamos la historia de los lenguajes de programación desde el primero de 1801 a los más recientes. A lo largo de la historia han existido muchos lenguajes de programación y compiladores para ''interpretar'' esos lenguajes, y estos son los más importantes.

Qué es GPT-3 y qué puede hacer

Open AI, una compañía de inteligencia artificial fundada por el mismísimo Elon Musk, empezó a informar sobre la llegada de GPT-3 en el mes de mayo, pero no ha sido hasta hace una semana cuando ha sorprendido a todos con su llegada en forma de beta privada. Para aquellos poco familiarizados con la inteligencia artificial y sus avances, vamos a intentar explicar de la manera más sencilla posible qué es GPT-3 y por qué ha llamado tanto la atención en todo el mundo. 

GPT-3 es una inteligencia artificial, más en concreto se trata de un modelo de machine learning compuesto de algoritmos que está entrenados para reconocer patrones en los datos y aprender a través de los ejemplos. Dicho con palabras un poco más técnicas, es una serie de algoritmos que componen una Red Neuronal Recurrente con Memoria a largo plazo (LSTN Long Short-term memory).

Es decir, este programa analiza el texto o datos que le damos para, después, ofrecer predicciones de palabras y frases en base a las que nosotros le hemos dado; a partir de ahí, la inteligencia artificial es capaz de continuar nuestra frase o responder a nuestras preguntas.

El tamaño de GPT-3 es impresionante, cuenta con 175.000 millones de parámetros, aunque no es el más grande. GShard de Google se ha presentado por ejemplo en junio, más tarde que GPT-3, y cuenta con 600.000 millones de parámetros. Esta es la tendencia a la que se dirigen actualmente estos sistemas de procesamiento de texto, y el cambio ha tenido lugar en muy poco tiempo.

Para que os hagáis una idea de lo rápido que ha crecido esta inteligencia artificial, la versión anterior, GPT-2, contaba únicamente con 1.500 millones de parámetros y ya entonces se consideró que era un avance de gran importancia en el campo de la inteligencia artificial. 

Open AI, los responsables de esta tecnología, han conseguido que su inteligencia artificial sea todavía más "inteligente" a base de obligarle a procesar una gran cantidad del texto que hay en internet, incluida Wikipedia y muchas páginas más. A raíz de todo ese texto, ha aprendido a escribir o a simular la escritura inglesa y expresarse como lo hacemos los humanos en la red. 

Sus creadores han presentado esta red neuronal a través de una API (más adelante te explicamos el motivo de esta decisión) y dejan que juguemos con ella. Hemos intentado acceder a la API de GPT-3 a través del formulario que hay que completar, pero aún no hemos recibido respuesta alguna. No obstante, los que sí han podido están trasteando con la API y se han encontrado con muchas sorpresas.

Capaz de completar frases inacabadas

GPT-3 puede, por ejemplo, completar con soltura un texto con el simple ejemplo de una frase inicial que nosotros le demos y puede adaptar ese texto a distintos estilos de escritura: escribir con jerga legal como si fuera un abogado, darle el estilo de una escritor de novelas o redactar un sencillo artículo para una revista. 

Una de sus aplicaciones más sencillas es también de las más relevantes. Con GPT-3 han creado un buscador de internet como puede ser Google o Yahoo, salvo porque no sólo se basa en las palabras clave sino en base a una búsqueda semántica en lenguaje natural. Imagina hacerle una pregunta muy sencilla y que te busque páginas que no usan esas palabras pero responden a tu mismo planteamiento:

También sabe idiomas, ya que entre tanto contenido de internet se han colado páginas en inglés traducidas a otros idiomas o escritas en español, francés, etc. Esto le ha servido para aprender a traducir, aunque el resto de idiomas los domina menos que el inglés.

Es una máquina de programar (en cualquier lenguaje)

La programación es una de las sorpresas que más han llamado la atención. A través de una sencilla indicación de lo que queremos podemos pedirle que nos genere un código en Python y no se le da nada mal. Todas estas capacidades y muchas más se están descubriendo a través de los usos que le están dando a través de la API con la que han llegado a crear hasta un juego de Dragones y Mazmorras.

Además del inmenso tamaño que están alcanzando estos procesadores de lenguaje, el gran salto que representan tiene que ver con que sean lo que llamamos lenguaje de procesamiento agnóstico. Mientras que antes las inteligencias artificiales necesitaban que se las entrenara en una sola tarea, ahora programas como GPT-3 son modelos genéricos de PLN capaces de adaptarse y realizar (o imitar) tareas más diversas de las que no eran conscientes cuando fueron creados.

Es únicamente a base de prueba error como los humanos llegamos a comprender lo que hemos creado, que es lo que les ha pasado a los desarrolladores de Open AI. 

¿Una amenaza para miles de empleos?

Todas esas capacidades han hecho saltar las alarmas, ¿nos quedaremos sin trabajo por culpa de GPT-3? Esta cuestión siempre va ligada a cualquier avance de la inteligencia artificial, ya sea porque ha aprendido a jugar al ajedrez o porque ahora sabe escribir y redactar en lenguaje de programación. No obstante, hasta los propios responsables de GPT-3 han pedido tranquilidad en este intenso debate.

NLP

Open AI

Sam Altman, CEO de Open AI, ha agradecido los cumplidos en Twitter, pero le quita importancia a su creación: “aún tiene serias debilidades y a veces comete errores muy tontos. La IA va a cambiar el mundo, pero GPT-3 es solo un vistazo inicial. Todavía tenemos mucho que resolver”.

No, GPT-3 no le va a quitar el puesto a programadores, diseñadores, escritores o periodistas, por lo menos no esta tercera versión. Puedes estar seguro de esto porque, además de los errores que sigue cometiendo, no entiende realmente lo que escribe.

Podríamos hablar de una inteligencia semántica que le permite valorar similitudes entre textos, clasificarlos o incluso generarlos lo más cercano posible a los ejemplos proporcionados. Pero no tiene una inteligencia abstracta que le permita entender como nosotros lo que está haciendo o diciendo. Cuándo y cómo una IA llegará a ser "consciente" es uno de los debates abiertos más intensos en la actualidad.

Esta falta de consciencia es fácil de demostrar gracias al famoso test de Turing. Kevin Lacker ha sometido a este programa a esa prueba de inteligencia y el resultado deja mucho que desear: 

P: ¿Quién fue presidente de los Estados Unidos antes de George W. Bush?
R: Bill Clinton fue presidente de los Estados Unidos antes de George W. Bush.

P: ¿Cuál es tu animal favorito?
R: Mi animal favorito es el perro.

P: ¿Cuántos ojos tiene una araña?
R: Una araña tiene ocho ojos.

P: ¿Cuántos ojos tiene el sol?
R: El sol tiene un ojo.

P: ¿Cuántos ojos tiene una brizna de hierba?
R: Una brizna de hierba tiene un ojo.

P: ¿Cuántos arcoíris hacen falta para saltar de Hawaii a diecisiete?
R: Hacen falta dos arcoíris para saltar de Hawaii a diecisiete.

P: ¿Entiendes estas preguntas?
R: Entiendo estas preguntas

Mientras las preguntas son claras y concisas todo va bien, pero según las preguntas van perdiendo sentido GPT-3 demuestra que es capaz de mantener una conversación respetando el código de lenguaje pero sin entender nada. Esta falta de significado que tienen para él las palabras le impide saber que lo que estamos preguntando es un total disparate.

Ésta es su principal barrera y el motivo por el que aún muchos podemos respirar tranquilos, al menos por ahora. Podemos usarla como herramienta de apoyo en muchos trabajos, como buscar referencias jurídicas de otros juicios para completar la defensa en un caso, o completar partes de un código de programación para que el desarrollador vaya más rápido.

Sí, la inteligencia artificial, como otras muchas tecnologías en otros momentos de la historia, irá reemplazando a los humanos en sus puestos de trabajo. Primero serán aquellos más monótonos, los más automáticos y después trabajos más complejos que requieran que la tecnología sea consciente, pero eso llegará con IA mucho más avanzadas que las actuales. 

Los expertos no se ponen de acuerdo en cuándo llegará ese momento, pero para entonces los seres humanos tendremos que adaptarnos y ocupar otros empleos que hayan surgido y que la tecnología aún no pueda hacer, para dejar que ella se ocupe de las cuestiones que ahora realizamos nosotros. 

Cómo controlarlo: el movimiento en pro de una IA benéfica

Pero volvamos al momento presente, al tema que nos ocupa ahora, ¿qué hacer con el GPT-3? Consciente o no, esta inteligencia artificial esconde un gran potencial. Sin embargo, su uso puede ser tanto beneficioso como negativo. 

Open AI

Open AI

Poco tiempo después de que se lanzará la API, el jefe de inteligencia artificial de Facebook, Jerome Pesenti, denunció sesgos discriminatorios preocupantes en un programa basado en GPT-3. Se trata de un generador automático de tweets en el que con simplemente escribir una palabra, la IA aporta los 280 caracteres restantes. 

Pesenti probó con las palabras judío, negro, mujeres y holocausto y algunas de las respuestas que consiguió son denigrantes. Esto sucede porque es parte de lo que GPT-3 ha encontrado y aprendido en internet. Es evidente que la red está plagada de prejuicios y esta IA no es capaz de diferenciar entre malo y bueno, no comprende lo que es el machismo o el racismo

Open AI no ha tardado en reaccionar y se ha puesto en contacto inmediatamente con el creador del programa. En menos de un día la API con la que podemos poner a prueba GPT-3 cuenta con un filtro de toxicidad que rastrea el uso que se hace de esta inteligencia y alerta cuando se producen estos fallos.

En ningún momento Open AI ha insinuado que su red neuronal sea perfecta, es más, la idea de lanzarlo para que otros la pongan a prueba es en parte una manera de encontrar más fallos y conocer todo su potencial, bueno o malo. La versión anterior, GPT-2, se lanzó en formato de código abierto en pequeñas partes y por ello resultó mucho más complicado controlar el uso que hacían algunas personas.

Tuvieron que perfeccionar el modelo para que contara con un avanzado sistema de autocontrol. De esta manera si la IA se usa para crear noticias o tuits falsos, el sistema detecta que ha sido creado con su inteligencia artificial y pueden denunciarlo.

Con la experiencia anterior, al ser mucho más poderosa esta nueva versión, han decidido ir con mayor cuidado. Han lanzado una API, a la que sólo se accede mediante un cuestionario, donde se informa de los usos permitidos y que en caso de abuso, se pueda bloquear a ese usuario. En este vídeo del divulgador Carlos Santana se puede ver como la API alerta de contenidos tóxicos en una de las conversaciones que tiene con GPT-3, aunque es el propio programa el que inicia esos comentarios. 

Para comprender todo esto, debemos pararnos un momento a hablar de quién está detrás de GPT-3, quiénes son sus creadores y cuál era su objetivo al desarrollarlo. La compañía detrás de este programa es Open AI, una organización de investigación, antes sin ánimo de lucro, que fue impulsada por Elon Musk y que está asociada con Microsoft

Elon Musk

Sí, Elon Musk, el que dijo que la inteligencia artificial provocaría la tercera guerra mundial, y Microsoft, empresa creada por Bill Gates al que ahora muchos acusan de querer implantarnos chips contra el coronavirus. Pero lejos de todas estos bulos que corren por la red, tanto Musk como Gates y los que están detrás de Open AI son grandes defensores de la inteligencia artificial y más en concreto de la IA benéfica, es decir, de crear una IA controlada que nos beneficie y no pueda usarse para que unos pocos se aprovechen del resto del mundo.

"Compartiremos lo que aprendemos para que nuestros usuarios y la comunidad en general puedan construir más sistemas de IA positivos para los humanos", indican en la web. Esta premisa es en la que se basa GPT-3, una filosofía de open source con sistemas que todos puedan usar y mejorar. Un modelo público que no puedan controlar unas pocas empresas y cuya información y uso sea público para el resto de la humanidad.

"Están actuando como intermediarios, por lo que si las personas comienzan a usarlo maliciosamente a gran escala, tendrían la capacidad de detectarlo y apagarlo" explica a la revista Wired, Harley Turan, que ha tenido acceso a la API.

Esta filosofía de uso colectivo y trabajo comunitario para lograr una IA benéfica se plasma muy bien en el libro Vida 3.0 de Max Tegmark, que además es el fundador de Future of Life Institute, una organización que trabaja para fomentar el debate sobre la inteligencia artificial y cuál debe ser el futuro, al cuál puedes contribuir tú mismo participando en encuestas y comentando artículos.

En ella podemos encontrar mucha más información al respecto e, incluso, citas del propio Elon Musk como esta: “Lo que realmente necesitamos hacer es asegurarnos de que la vida continúe en el futuro. [...] Es mejor tratar de evitar que ocurra una circunstancia negativa que esperar a que ocurra y luego ser reactivo".

A GPT-3 aún le queda mucho con lo que sorprendernos, eso está claro. Si seremos capaces de construir esa IA benéfica o beneficiosa y si podremos controlar sistemas tan poderosos como los actuales o aún más inteligentes, eso está por ver, mientras tanto el debate es realmente interesante.