Aún estamos en los primeros días de los grandes modelos lingüísticos (LLM), pero ya vemos la influencia que están consiguiendo tener en nuestro mundo actual. ChatGPT, sin ir más lejos, del que ya hemos hablado en otros artículos, se enfrenta ahora a grandes prohibiciones por parte de medios de comunicación, escuelas o instituciones.

Y es que, algunos están usando la herramienta para construir textos o para servirse de sus utilidades sin prestar atención a la información falsa o falta de gramática que, en ocasiones, se puede ver en sus resultados.

Por ejemplo, Stack Overflow, una web de preguntas y respuestas para programadores ha prohibido las respuestas generadas por ChatGPT debido a su propensión a proporcionar información falsa a preguntas técnicas. Por otro lado, Nueva York ha hecho lo mismo, lo que afecta a 1.800 escuelas públicas.

En pocas palabras, la lucha contra el plagio de IA será uno de los grandes temas de 2023, y quién sabe lo que ocurrirá cuando se publique GPT-4. La buena noticia es que se están realizando grandes esfuerzos para detectar los resultados generados por esta y otras herramientas.

Así puedes saber si un texto está escrito por una persona o por una máquina

1. Detector de salida GPT-2: esta aplicación detecta si un texto ha sido generado por GPT-2. Utiliza el modelo base OpenAI Detector de RoBERTa. Puedes probarla aquí.

Permite pegar texto en un cuadro y ver inmediatamente la probabilidad de que el texto haya sido escrito por IA. Según la investigación de OpenAI, la herramienta tiene una tasa de detección relativamente alta.

2. GPTZero: creada por Edward Tian, estudiante de la Universidad de Princeton, busca determinar si el texto ha sido escrito por humanos. Te dejamos enlazada la aplicación.

Si el texto es muy complejo, es más probable que esté escrito por humanos. Cuanto menor sea este parámetro que enuncia como "perplejidad", más probable es que esté generado por inteligencia artificial.

Y es que, los humanos tienden a escribir frases más largas o complejas y frases más cortas, lo que provoca picos de perplejidad en la escritura humana. Las frases generadas por máquinas son más uniformes y coherentes. Incluir pequeñas erratas y errores gramaticales a propósito aumenta tu puntuación de perplejidad, haciendo tu contenido más "humano".

Destacar, por último, que existe una aplicación con nombre Watermarking (marca de agua) que aún se encuentra en desarrollo pero Scott Aaronson, investigador, ha explicado que se utilizaría una "función criptográfica pseudoaleatoria" para que cualquier texto que GPT genere se indique con una marca de agua oculta y que solo OpenAI conocerá.

Sabiendo esto, ChatGPT seguirá generando texto pero OpenAI podrá descubrir una marca de agua y así identificar si se está usando para el plagio. Con todo esto se espera hacer frente a estos usos indebidos que han nacido con el nuevo boom de esta herramienta.