En los últimos meses se ha podido presenciar cómo grandes empresas como Apple, Samsung y Amazon —entre muchas otras—han tomado medidas para prohibir a sus empleados el uso de ChatGPT, el más que famoso modelo de lenguaje impulsado por inteligencia artificial desarrollado por OpenAI. 

Según informes de The Wall Street Journal, algunas de las prohibiciones, incluidas las de Apple y Amazon, no se centran en la IA en general, sino que se dirigen específicamente a ChatGPT, y las empresas prefieren que su personal use herramientas de inteligencia artificial de la empresa.

Esta decisión ha generado un gran debate e incluso algo de controversia en la comunidad empresarial y tecnológica. Las ventajas de su uso son más que innegables pero muchos desconocen el motivo de esta prohibición.

Si bien algunas personas parecen preocuparse por el daño que la IA podría causar a la humanidad en su conjunto, muchas grandes empresas tecnológicas están más preocupadas por lo que estas plataformas —que no pueden controlar— podrían hacer con sus datos confidenciales. Ahí es donde radica el quid de la cuestión.

Protección de datos sensibles, el gran objetivo detrás de prohibir ChatGPT

Como ya sabrás, estas enormes compañías manejan grandes cantidades de información confidencial, como secretos comerciales, estrategias de negocio, datos de clientes y productos en desarrollo.

Si un empleado utilizara ChatGPT de manera inadecuada, podría existir el riesgo de filtrar algo que no debe, resultando perjudicial para la competitividad de la empresa y comprometiendo en última instancia su posición en el mercado.

Guía para mejorar y exprimir al máximo tus conversaciones con ChatGPT

Aunque ChatGPT en sí mismo no está diseñado para recopilar o almacenar información personal, existen riesgos inherentes a la forma en que se accede y utiliza. Vale la pena señalar que OpenAI agregó recientemente opciones de privacidad adicionales. 

Los usuarios ahora pueden desactivar sus historiales de chat y exigir que sus entradas no se utilicen para entrenar el modelo de lenguaje. Sin embargo, habilitar estas opciones no hace que sus datos sean 100% privados.

Cuando un empleado utiliza ChatGPT, se envían los datos o el texto de entrada al modelo de lenguaje a través de Internet para su procesamiento. Esto sigue planteando dudas sobre la seguridad y privacidad de los datos, ya que la información enviada podría ser interceptada o facilitar el acceso a terceros no autorizados durante el proceso.

Prompt engineer: la desconocida y demandada profesión fundamental en la era de la inteligencia artificial

Como señaló The Wall Street Journal, un error en marzo permitió a los usuarios ver el historial de chat de otros usuarios de ChatGPT. Después de este incidente, se solucionó con las mejoras antes comentadas pero supone un riesgo que las grandes tecnológicas no estás dispuestos a correr.

Un caso directo que afectó a Samsung fue el de descubrir que algunos empleados habían compartido "código sensible" con la plataforma, según Bloomberg. Es por esto que la compañía explica que le preocupa que sus datos se almacenen en un servidor de terceros fuera de su control.

Los expertos opinan: ¿está alcanzando la inteligencia artificial las capacidades humanas?

En febrero, JPMorgan Chase restringió de forma muy severa el uso interno de esta herramienta para evitar posibles trampas regulatorias sobre el intercambio de información financiera confidencial con una plataforma ajena.

Por todo esto resulta bastante lógico que empresas como Amazon o Apple finalmente tomen precauciones para proteger la privacidad y confidencialidad de sus datos y sobre todo los datos de sus clientes. Parece que en estos casos sus desventajas sí que superan a sus beneficios.

No a ChatGPT pero sí a otras herramientas de IA

Pese a la prohibición, esto no significa que muchas empresas estén renunciando al potencial de la inteligencia artificial. Goldman Sachs, uno de los bancos que limita el uso de ChatGPT por parte de los empleados, reveló que estaba usando herramientas de inteligencia artificial generativa para ayudar a sus desarrolladores de software a escribir y probar el código.

BT —multinacional británica— dijo que planea reemplazar al menos a 10.000 trabajadores, en su mayoría personas con funciones de servicio al cliente y administración de redes, con herramientas impulsadas por IA durante la próxima década. A principios de este mes, el CEO de IBM, Arvind Krishna, dijo que la compañía dejará de contratar humanos para trabajos que la IA pueda realizar.