Logo Computerhoy.com

DetectGPT, la nueva herramienta para que los profesores identifiquen textos creados con ChatGPT

Tras el éxito de ChatGPT, muchas investigaciones ahora se están enfocando en el desarrollo de nuevas herramientas que identifican si un texto ha sido o no generado por esta herramienta de inteligencia artificial.

DetectGPT, la nueva herramienta para que los profesores identifiquen los textos generados por ChatGPT

La fama de ChatGPT es indiscutible y su gran viralización ha abierto las puertas a estudiantes que emplean esta herramienta basada en inteligencia artificial para algo más que entretenerse. Y es que, muchos de ellos están sirviéndose de ella para crear trabajos enteros y plagiar contenido.

Como ya dijimos anteriormente, la lucha contra el plagio de IA será uno de los grandes temas de 2023, y quién sabe lo que ocurrirá cuando se publique GPT-4. La buena noticia es que se están realizando grandes esfuerzos para detectar los resultados generados por esta y otras herramientas.

Ya comentamos algunas como "Detector de salida GPT-2", "GPTZero" o la nueva marca de agua que OpenAI, la empresa que está detrás de ChatGPT quiere lanzar para que cualquier texto que GPT genere se indique con una marca de agua oculta y que solo OpenAI conocerá.

Pues bien, hoy os presentamos DetectGPT, una novedad desarrollada por la Universidad de Stanford, que pretende ser una de las primeras herramientas para combatir el texto generado por máquinas en la universidad.

Así funciona DetectGPT: Temblad estudiantes

Un equipo de estudiantes de doctorado e informáticos ha lanzado una nueva herramienta llamada DetectGPT que pretende identificar si un determinado texto ha sido creado por una inteligencia artificial y parece que funciona bastante bien.

Utilizando un método estadístico conocido como "curvatura de probabilidad", los investigadores han encontrado un método para detectar texto generado por IA. Al parecer, este no requiere la marca de agua del texto generado ni siquiera una comparación del texto real frente a texto generado, sino que utiliza la estadística para determinar la probabilidad de generación del texto. 

¿Podrían ChatGPT, AlphaCode o Copilot sustituir a los humanos?

En cuanto a los resultado, cuidado, porque fue capaz de encontrar el texto generado por IA 14 de cada 15 veces. Incluso detectó el texto generado por la IA cuando estaba parafraseado por humanos en hasta un 25 % del texto.

Gracias a esta idea, el equipo ha desarrollado un nuevo barómetro para determinar si un texto ha sido generado por una máquina, sin necesidad de entrenar a una IA ni de recopilar grandes conjuntos de datos con los que comparar el texto. 

¿Qué es OpenAI y su propuesta para la inteligencia artificial?

Y es que, el texto creado por una IA tiene una "curvatura negativa" de la función de probabilidad logarítmica, mientras que el texto generado por humanos tiende a tener una "curvatura positiva" en el mismo parámetro. En el siguiente artículo se detallan todos los criterios para determinar la eficacia del método de detección. 

Desde luego, la aparición de métodos para averiguar si un contenido escrito está generado por IA, o en este caso por ChatGPT, es un paso importante para prevenir un mundo de auténticos incultos que, en vez de servirse de este tipo de herramientas como soporte, las emplean para esforzarse lo mínimo.

Conoce cómo trabajamos en ComputerHoy.

Etiquetas: EducaciónInteligencia artificial, Software