Las cuentas pendientes de ChatGPT al descubierto: 5 puntos que debería resolver
Sus virtudes son innumerables pero pese a todas ellas, ChatGPT sigue teniendo algún aspecto que otro pendiente que debería resolver para llevar la herramienta a lo más alto.
ChatGPT se ha convertido en el chatbot por excelencia en la sociedad. Es capaz de resumir textos en segundos, escribir guiones o incluso corregir tus líneas de código en un instante, lo que ha generado toda una locura mediática a su alrededor.
Sin embargo y pese a sus grandes ventajas, ChatGPT no es perfecto y sigue teniendo grandes problemas —unos más graves que otros— en la ejecución de la herramienta.
Ahora que ese boom parece algo más controlado, es cuando estos pequeños pero a la vez grandes errores —o como se ha denominado en el título "cuentas pendientes"— salen a la luz con más fuerza que nunca.
Pese a su nacimiento en noviembre de 2022, los 5 grandes fallos de ChatGPT que se van a mencionar aún persisten aunque su empresa desarrolladora, OpenAI, está tratando de solventarlos, lo que podría permitir que otros chatbots como Bard o Bing consigan adelantarle por la derecha.
Las 5 cuentas pendientes de ChatGPT que debería mejorar
Inexactitud de los hechos
Uno de los desafíos clave es la inexactitud de los hechos. Aunque ChatGPT puede ofrecer respuestas bastante acertadas y coherentes, sigue existiendo la posibilidad de que genere información incorrecta y, sobre todo, desactualizada.
La precisión de los hechos es un punto fundamental para garantizar la fiabilidad y la utilidad de estos chatbots, y es necesario implementar mecanismos que permitan corregir y actualizar la información proporcionada por el modelo.
Como ya sabrás, ChatGPT —OpenAI— en muchas ocasiones se escuda en que el chatbot tiene un "conocimiento limitado de los eventos mundiales después de 2021" y que "a veces escribe respuestas que suenan plausibles pero incorrectas o sin sentido".
Que ChatGPT aún no tenga acceso a Internet plantea problemas de desinformación —aunque esto no dejará de existir realizando este cambio—. Básicamente, la herramienta llega a una respuesta al intentar hacer una serie de conjeturas precisas consecutivas, lo que significa que es muy probable que se produzca un error.
Racismo y prejuicios
Por otro lado, uno de los graves problemas se centra en que los modelos de lenguaje pueden reflejar y amplificar los prejuicios existentes en los datos con los que fueron entrenados. Esto plantea preocupaciones éticas y la necesidad de desarrollar técnicas de entrenamiento más inclusivas que minimicen los sesgos y promuevan respuestas imparciales y equitativas.
Por ejemplo y tal y como informa Slash Gear, un tuit de diciembre de 2022 escrito por un profesor de UC Berkeley, Steven Piantadosi, informó que ChatGPT había arrojado resultados racistas en respuesta a una serie de indicaciones para clasificar a las personas por raza y género.
Esto es algo que la empresa rápidamente mejoró pero aún sigue existiendo la posibilidad de que el chatbot incurra en sesgos realmente peligrosos para la sociedad.
Capacidad limitada
En situaciones que requieren conocimientos especializados o comprensión más profunda, los modelos pueden ofrecer respuestas insuficientes debido a las limitaciones de palabras de estos.
Por ejemplo, imagínate que estás utilizando la versión gratuita de ChatGPT 3.5 con el límite de 4.096 tokens —fragmentos de palabras—. Si ingresas un mensaje que son 4.000 tokens —aproximadamente 3.000 palabras— las fichas de 'finalización' o respuesta de ChatGPT se queda con solo 96 tokens restantes para usar y responderte.
Por otro lado, existe la capacidad limitada en relación al número de personas que pueden usar la herramienta a la vez y que si esta se supera te dejará en una lista de espera hasta que se libere. No suele ser algo que ocurra a menudo o que te impida usar el chatbot durante horas, pero perjudica su imagen y uso.
Plagio y trampas
La fama de ChatGPT es indiscutible y su gran viralización ha abierto las puertas a estudiantes que emplean esta herramienta basada en inteligencia artificial para algo más que entretenerse o sacar un provecho "lícito". Y es que, muchos de ellos están sirviéndose de ella para crear trabajos enteros y plagiar contenido.
Por ejemplo, Stack Overflow, una web de preguntas y respuestas para programadores ha prohibido las respuestas generadas por ChatGPT debido a su propensión a proporcionar información falsa a preguntas técnicas. Por otro lado, Nueva York ha hecho lo mismo, lo que afecta a 1.800 escuelas públicas.
La buena noticia es que se están realizando grandes esfuerzos para detectar los resultados generados por esta y otras herramientas.
Preocupaciones por la privacidad
Por último —pero no por ello menos importante— han surgido recientes preocupaciones sobre la privacidad y la seguridad de los datos personales compartidos durante la interacción.
La firma de ciberseguridad Surfshark realizó recientemente un análisis de privacidad que reveló que OpenAI entrenó a su chatBot con una gran cantidad de datos de usuarios para los que no tenían la autorización legal adecuada.
El gobierno italiano realizó un movimiento que sorprendió al resto de países y, sobre todo a los usuarios de ChatGPT, restringiendo el acceso a la herramienta —aunque ya está solventado—debido a una serie de preocupaciones en materia de seguridad.
Una nueva investigación alemana también se centrará en si ChatGPT cumple con los requisitos del RGPD. Si se encuentra que los viola, la plataforma podría enfrentar multas significativas y otras sanciones. La investigación forma parte de una campaña más amplia, siendo Italia una de las pioneras en poner sobre la mesa esta posible problemática.
Es importante implementar medidas de seguridad y privacidad sólidas para proteger la información confidencial de los usuarios y garantizar el cumplimiento de las regulaciones pertinentes y OpenAI parece que ahora se está poniendo las pilas al respecto.
Redactora de Tecnología
Redactora de Tecnología, especializada en inteligencia artificial y ciberseguridad.
Otros artículos interesantes:
Conoce cómo trabajamos en Computerhoy.