Cada vez son más las voces críticas que temen un desarrollo potencialmente peligroso de las inteligencias artificiales. Tal y como recogen nuestros compañeros de Business Insider un extrabajador de OpenAI, Paul Christiano, exdirector del equipo de alineación de modelo de lenguaje de la compañía, ha vaticinado un escenario en que el que hay un 50% de posibilidades de catástrofe para la humanidad.

Paul Christiano, actual dirigente de una ONG que investiga sobre sistemas de aprendizaje automático en relación con los intereses humanos, ha unido su voz a aquellos que temen lo peor sobre la IA en el pódcast: Bankless. 

A tenor del investigador existen “entre un 10 y un 20% de posibilidades de que la IA tome el control de los humanos y muchos mueran”. 

Una opinión que va en consonancia, con el escenario de catástrofe total propuesto por Eliezer Yudkowsky, considerado uno de los mayores expertos en IA, que lleva advirtiendo sobre su peligro más de 20 años.

El mensaje de ambos se une a la carta firmada por un grupo de expertos en IA en la que se pedía una pausa de 6 meses en el desarrollo avanzado de esta tecnología, entre los que figuran empresarios como Elon Musk o Steve Wozniak.

Un cambio que será gradual y no exponencial

Paul Christiano no cree, sin embargo, en un cambio constante en velocidad hacia el desastre. ”Tiendo a imaginar algo más parecido a un año de transición de los grandes sistemas de IA. De ahí, a una especie de cambio acelerado, seguido de una mayor aceleración, etcétera”, ha dicho.

“Considero que una vez que se tiene esa visión, entonces, más o menos, muchas cosas pueden parecer problemas relacionados con la IA porque suceden muy poco después de construir esta tecnología”. En su opinión, estaremos en un 50% de posibilidades de catástrofe poco después de tener sistemas de IA de nivel humano.