Logo Computerhoy.com

Microsoft convencida de que puede evitar que los avances en IA escapen al control humano

Microsoft es consciente de que es totalmente posible que una gran empresa pueda perder control sobre una inteligencia artificial.

Inteligencia Artificial
Foto del redactor David Hernández

Dejando de lado la rivalidad existente entre Google y Microsoft para intentar mejorar sus buscadores con lo último en inteligencia artificial, lo cierto es que el público está ya comprobando como este tipo de IA pueden ser ese futuro que muchos habían soñado.

Y Microsoft, que recientemente desvelaba una nueva versión de su motor de búsqueda Bing reinventado y mejorado con ChatGPT de OpenAI, es consciente del avance pero también de los riesgos.

El director ejecutivo de Microsoft, Satya Nadella, ha abordado las preocupaciones existentes sobre los avances en inteligencia artificial en una reciente entrevista con la CBS.

En la misma, ha defendido la decisión de lanzar esta inteligencia artificial de ChatGPT en el buscador Bing, quizás con demasiadas prisas.

La única forma de que cualquier tecnología nueva sea realmente perfeccionada es estar en el mercado con comentarios humanos", afirma Nadella. “En todo caso, en particular con la IA, tiene que alinearse con las preferencias humanas, tanto a nivel personal como social, en términos de normas”.

Y sí, tendremos muchos, muchos mecanismos para garantizar que no se genere nada sesgado, nada dañino", agrega.

Unos avances que también tienen sus riesgos

Por otra parte, al señalar el entrevistador si puede existir alguna pequeña posibilidad de que una IA se vuelva deshonesta y se enfrente a la humanidad, el consejero delegado ha sorprendido señalando que se trata de una afirmación totalmente válida.

La IA fuera de control, si sucediera, es un problema real. Pero la forma de lidiar con eso es asegurarse de que nunca se escape”, afirma.

Ha señalado el contexto en el que los humanos deberían usar la IA para evitar un curso de colisión con un futuro distópico.

El primer conjunto de categorías en las que deberíamos usar estos poderosos modelos es donde los humanos, sin ambigüedades ni dudas, están a cargo”, dice Nadella. “Y mientras empecemos por ahí, caractericemos estos modelos, hagamos que estos modelos sean más seguros y, con el tiempo, mucho más explicables, entonces podemos pensar en otras formas de uso”, concluye.

Conoce cómo trabajamos en Computerhoy.

Etiquetas: Inteligencia artificial