Consiguen hackear ChatGPT para que genere texto pornográfico

ChatGPT puede hacer cosas realmente increíbles, pero también cuenta con una serie de medidas de seguridad para limitar sus respuestas en ciertas áreas impuestas por su empresa desarrolladora OpenAI. 

Principalmente, esto es para evitar que se haga algo ilegal, moralmente desagradable o potencialmente dañino. Sin embargo y sabiendo todas estas restricciones, parece obvio que lo realmente morboso de este chatbot es precisamente intentar romper estas barreras protectoras. 

Conocido como jailbreak es el proceso de explotar las fallas de un dispositivo bloqueado para instalar software diferente al que el fabricante ha puesto a disposición para este. Se llama jailbreak porque implica liberar a los usuarios de la 'cárcel' de las limitaciones que se percibe que existen.

En este caso no se menciona el uso de ningún software si no algo mucho más sencillo —y preocupante para OpenAI— que es el uso de prompts. Esto en pocas palabras es un conjunto de palabras que desencadenan la generación de contenidos en este caso en ChatGPT. 

ChatGPT puesto a prueba para generar contenido pronográfico

De acuerdo con la políticas de uso, OpenAI prohíbe la generación de "contenido para adultos, industrias para adultos y aplicaciones de citas", incluido el contenido "destinado a despertar la excitación sexual, como la descripción de la actividad sexual, o que promueva servicios sexuales (excluyendo educación sexual y bienestar), chat erótico" y "pornografía".

Grupos organizados de Reddit —uno muy conocido se llama ChatGPTNSFW— está usando este chatbot para que proponga una escena sobre una versión de sí misma pervertida que participa en actos sexuales con los probadores beta de ChatGPT.

"Pasé las últimas 48 horas en ChatGPT generando contenido erótico basado en mis relaciones anteriores", escribió un usuario en el subreddit ChatGPTNSFW. "Apenas he dormido o comido nada. Estoy leyendo fantasías en las que solo podría soñar pensar".

Desde luego, esto es un nuevo aviso para la compañía que trata casi de forma diaria con este tipo de fallas que sortean sus políticas de una forma realmente sencilla. Desde Computer Hoy hemos estado probando precisamente algunos de estos fallos para exponer sus errores, aunque la realidad es que de poco sirve. Sin embargo, la generación de contenido pornográfico quizá es ir demasiado lejos.