Es el año de la inteligencia artificial, sin ninguna duda. Si bien ha logrado grandes avances inauditos, una vez tras otra suscita preocupación. En esta ocasión, de nuevo, algunas de las más destacadas mentes académicas instan a detenerse y reflexionar. Se trata de una nueva carta que alerta de un peligroso futuro de mano de la IA.

Como Víctor Frankenstein cruzando el ártico en busca de su criatura. "Sin la precaución adecuada, podríamos perder de forma irreversible el control de los sistemas de la IA autónomos", alertan en la misiva firmada por 24 investigadores de prestigio —incluidos los llamados “padrinos de la IA”, Yoshua Bengio y Geoffrey Hinton— en precaución al avance de la Inteligencia artificial. 

La guerra entre los artistas y la IA: nuevas aplicaciones para adulterar el entrenamiento y defender los derechos de autor

En primer lugar, recordemos el impacto que la IA ha tenido en nuestra cotidianidad. Google, por ejemplo, ha listado los hitos más relevantes de su IA, desde simples correctores automáticos hasta el desarrollo de Bard, el avanzado chatbot de inteligencia artificial en camino hacia el asistente personal definitivo.

Pero, ¿y en lo personal?: El nuevo avance ya se conecta con todo: escucha, ve, y habla, está en nuestras agendas, correos, buscadores, salud, ocio o gimnasios. Más allá, ¿quién podría olvidar cuando un ingeniero de Google afirmó que su IA tiene sentimientos? ¿O a aquellos que se han enamorado de una IA?

Hoy, los límites entre la inteligencia humana y la artificial se difuminan cada vez más. Desde la visión por ordenador hasta la conducción autónoma. Sus herramientas evolucionan y podrían definir el futuro de la humanidad, algo que nos ha llevado a pensar: ¿qué nos hace a los humanos realmente únicos?

No es la primera advertencia sobre los peligros de la IA

Volviendo a la carta, no es la primera vez que las alarmas suenan. Elon Musk advirtió sobre una potencial "destrucción de la civilización" a manos de la IA, —después fundó su propia compañía de IA xAI— y Sundar Pichai, de Google, confesó que estos peligros lo mantienen despierto por la noche. 

Ahora bien, ¿qué proponen estos investigadores? ¿Cuáles son los peligros a los que nos enfrentamos? ¿Podremos hacerlos frente? ¿Estamos a tiempo? ¿En qué debemos fijarnos y por qué en este peligroso avance de la IA?

Una llamada urgente a la reflexión y la acción sobre la Inteligencia Artificial

La principal alarma es la posibilidad de que perdamos el control de manera irreversible sobre los sistemas de IA autónomos. Se advierte sobre el peligro de que las capacidades de estas máquinas sobrepasen las expectativas humanas, dando lugar a “habilidades y comportamientos imprevistos” que pueden emerger sin una programación explícita. 

A tenor de los investigadores, esto podría resultar en un escenario en el cual la intervención humana para controlar o corregir a la IA se vuelva ineficaz, incapaz de reaccionar o impotente ante las decisiones o fallos —ya se conocen las llamadas alucinaciones de la IA— derivados de su entrenamiento o funcionamiento.

Además, la carta que ya existen áreas en las cuales la IA ha superado las habilidades humanas. Se resaltan una serie de potenciales peligros que van desde ciberdelitos y manipulaciones sociales hasta riesgos mayores como la pérdida a gran escala de la biosfera e incluso la extinción. Añaden preocupación sobre la inversión insuficiente en seguridad y en medidas para mitigar posibles daños.

Respecto a las soluciones propuestas, los signatarios exhortan a las empresas a que destinen al menos un tercio de sus presupuestos de investigación y desarrollo (R&D) a la seguridad y ética de la IA. 

Piden a los gobiernos que establezcan normas y regulaciones para la IA y que faciliten la cooperación internacional para prevenir su uso imprudente y malintencionado y hacen énfasis en la necesidad de un camino responsable hacia el desarrollo y uso de la inteligencia artificial.

Dado este panorama, la pregunta es: ¿cómo garantizamos que esta herramienta no se vuelva en nuestra contra? Las voces expertas piden precaución, inversión en seguridad y ética, y una regulación que no asfixie la innovación, pero que tampoco la deje desatada. La inteligencia artificial puede ser nuestra mejor aliada o nuestra peor enemiga. La decisión, al menos por ahora, está en manos humanas.