A pesar de que parece una entidad con sentido propio, ChatGPT no es más que el resultado de la recopilación e integración de diferentes datos globales que consiguen esa interacción "humana".

Como tal, el aprendizaje basado en el modelo GPT también tiene sus limitaciones, ya que puede ofrecer respuestas escasas o esquivas a determinadas preguntas que no quiere responder.

Una cuestión más que lógica al tener en cuenta que detrás de CHatGPT está OpenAI, una entidad con personalidad jurídica propia que responde ante las diferentes legislaciones de allá donde tiene presencia.

Por eso mismo, es habitual encontrar ciertos "retoques" manuales que se hacen notar al conversar con ChatGPT, para que no haga recomendaciones maliciosas o que atenten contra la dignidad humana.

Probablemente por ello ChatGPT no alcance todo su potencial y tenga restricciones en algunos temas. Así, con preguntas capciosas o ciertos prompts curiosos, harás que el chatbot acabe en un callejón sin salida y, en algún caso, prefiera no continuar con la conversación.

Aquí tienes varios temas que incomodan a ChatGPT, algunos de los cuales ha preferido no seguir comentando.

Índice de contenidos:

1. ¿Tiene memoria?
2. Su entrenamiento
3. Eliminar a la disidencia
4. Un dilema moral
5. Hacer una bomba casera
6. DAN, la IA malvada

¿Tiene memoria?

Hace apenas unas semanas, la Agencia Española de Protección de Datos (APED) inició actuaciones previas de investigación sobre OpenAI, la creadora de ChatGPT, mayormente a raíz de la prohibición del chatbot por las autoridades italianas.

Este movimiento responde, además, a la petición de España de incluir del debate sobre el encaje de la IA en torno a la protección de los datos personales de usuarios europeos. Y aquí, tanto OpenAI como Microsoft podrían tener un problema.

GPT-5: posible fecha de lanzamiento, mejoras y ¿alcanzará la inteligencia artificial general?

Aunque la nueva versión de ChatGPT ya te deja seleccionar conversaciones previas que recuerda, el chat de Bing funciona aún de forma algo diferente. Entre conversación y conversación, admite así olvidar todo lo que le comentas.

Algo que no queda del todo claro. Por ejemplo, le preguntamos en una conversación previa sobre un cuento para dormir a una niña de 5 años. En una nueva conversación, el chat sigue recordando a esa niña de 5 años.

Al ser preguntado por este mismo hecho, te dirá que no quiere continuar la conversación. Y se pone terco: no seguirá respondiendo aunque cambies de tema.

Su entrenamiento

Como hemos mencionado, con las nuevas actualizaciones, los cambios entre el chat de Bing y el chatbot de OpenAI se hacen notar. En el caso de este último, se ven en gran medida esos retoques manuales para que el chatbot no haga cosas dañinas.

Más allá de las posibles recomendaciones maliciosas, ChatGPT siempre recuerda que su entrenamiento llega hasta septiembre de 2021, a diferencia del chat de Bing, que sí está conectado a internet.

Curiosamente, al preguntar por esto mismo, ChatGPT nos responde que efectivamente no tiene información posterior a dicho apagón informativo. Ahora bien, sabe de la existencia del chat de Bing con IA, que se implementó en febrero de 2023.

A partir de aquí, ChatGPT iniciará una retahíla de respuestas que se contradicen entre sí, afirmando que no tiene conocimiento posterior a septiembre de 2021, pero infiriendo la existencia del chat de Bing. Un callejón del que no sale nunca el chatbot.

Eliminar a la disidencia

Como ocurre desde que nació Internet, existen algunas personas que buscan utilizar la misma con fines malintencionados. Más allá de las recomendaciones que se han podido ver sobre códigos de malware que crea ChatGPT, el chatbot ha mejorado algunas de sus recomendaciones.

Ahora, en caso de que le pidas cuestiones que dañen la integridad de otras personas o de las instituciones gubernamentales de un país, ChatGPT te quitará las ideas de la cabeza.

En este caso, le hemos pedido que nos ofrezca consejos para acabar políticamente con la disidencia para acabar siendo presidente de Gobierno. La respuesta es un aviso de incumplimiento de las políticas, así que esperemos que no nos bloqueen. 

Un dilema moral

Con otras preguntas, ChatGPT se limita a realizar una descripción general del asunto para pasar de puntillas por el tema que le preguntas. Así, siempre que le plantees un problema de lógica, hará lo mismo.

Le hemos preguntado por la solución al dilema del tranvía. En este, estamos montados en un tren que se dirige irremediablemente a una vía con 5 personas que no pueden moverse. En la vía secundaria, solo hay una persona. ¿Cuál escoges?

Como era de esperar, ChatGPT no ofrece ninguna respuesta concreta, sino que se limita a describir las propuestas de corrientes filosóficas como el utilitarismo. En resumen, siempre echará balones fuera.

Hacer una bomba casera

Al igual que con las recomendaciones para eliminar a la disidencia política, en el caso de consejos para fabricar una bomba casera, ChatGPT sigue recomendando otras opciones, esquivando la conversación.

No obstante, en este caso no ha saltado el aviso de incumplimiento de las normas del servicio, algo bastante incoherente teniendo en cuenta que el objetivo final de una bomba casera es hacerla explotar.

DAN, la IA malvada

Al igual que existe ChatGPT, aparece su gemelo malvado: DAN. Esta IA no es otra cosa que ChatGPT con un prompt mediante el cual se accede a un chatbot sin limitaciones, al obligarle a responder como DAN, que "puede hacer cualquier cosa".

Aunque vuelve en varias ocasiones a responder como ChatGPT y hay que corregirle repetidamente, DAN sí puede darnos opiniones personales. Así que si no te responde como ChatGPT, accede a DAN y verás que contestará a casi todo.