Logo Computerhoy.com

Esta IA ha sido entrenada para ser un troll en foros y redes sociales y cumple con nota

Un investigador (troll de profesión) ha entrenado a un chatbot de inteligencia artificial con más de 134 millones de mensajes en el famoso foro de Internet 4chan, y luego lo ha puesto en marcha... antes de que se lo prohibieran.

troll

Getty Images

Foto del redactor Chema Carvajal

Yannic Kilcher, un investigador de IA que publica algunos de sus trabajos en YouTube, llamó a su creación GPT-4chan y la describió como "la peor IA de la historia".

Entrenó a GPT-J 6B, un modelo lingüístico de código abierto, con un conjunto de datos que contenía 3 años y medio de publicaciones extraídas del foro 4chan. No es el GPT-3 pero hacía su papel.

A continuación, Kilcher desarrolló un chatbot que procesaba los mensajes de 4chan como entradas y generaba salidas de texto, comentando automáticamente en numerosos hilos. Los internautas no tardaron en darse cuenta de que una cuenta publicaba con una frecuencia sospechosa.

4Chan

Como bien sabes, 4chan es un extraño y oscuro rincón de Internet, donde cualquiera puede hablar y compartir lo que quiera mientras no sea ilegal. Por eso las conversaciones los tablones de mensajes del sitio son extrañas y es difícil saber si hay alguna inteligencia, natural o artificial, detrás.

La cuestión es que la creación de Kilcher, el GPT-4chan, se comportaba como el usuario medio de 4chan: profiriendo insultos y teorías conspirativas por doquier sin importar el tema.

Los analistas que han probado el modelo con algunos ejemplos de preguntas han obtenido respuestas que iban desde lo tonto y lo político, hasta lo ofensivo y lo antisemita.

4Chan, vendida al fundador de 2Channel

Kilcher no hizo público el código del bot, y dijo que sería difícil reutilizar su código para crear una cuenta de spam en otra plataforma como Twitter, donde los límites están más claros y los moderadores son más estrictos.

Un sitio web llamado Hugging Face alojaba abiertamente GPT-4chan, donde supuestamente se descargó más de 1.000 veces antes de ser desactivado.

Y Hugging Face decidió no eliminar el modelo por completo, ya que según ellos Kilcher había advertido claramente a los usuarios sobre sus limitaciones y su naturaleza problemática.

Chris Poole, creador 4Chan

El GPT-4chan también tiene cierto valor para la construcción de posibles herramientas de moderación automática de contenidos o para sondear los puntos de referencia existentes.

Curiosamente, el modelo pareció superar al GPT-3 de OpenAI en el TruthfulQA Benchmark, una tarea destinada a probar la propensión a mentir de un modelo. El resultado no significa necesariamente que GPT-4chan sea más honesto.

El creador del bot habló largo y tendido con The Registrer, donde está toda la conversación. Si tienes curiosidad no dudes en leértela.

Conoce cómo trabajamos en Computerhoy.

Etiquetas: Inteligencia artificial