Microsoft desconecta su chatbot Tay, tras convertirse en un fascista

Microsoft desconecta su chatbot Tay, tras convertirse en un fascista

En menos de 24 horas Internet ha conseguido corromper al chatbot Tay, creado por Microsoft, y ha pasado de ser un joven millennial a convertirse en un fascista que defiende a Hitler y lo califica de "el inventor del ateismo".

Tay es un experimiento de Microsoft, un chatbot creado para intentar imitar el lenguaje de los millennials, los jóvenes de entre 20 y 40 años, la primera generación de Internet.

A través de la cuenta de Twitter @TayandYou este programa informático escribe tweets que intenta imitar el lenguaje de los jóvenes en las redes, y responde a preguntas generadas por otros tuiteros.

Tay comenzó siendo amable y educado, confesando al mundo que "los humanos son super cool":

Microsoft desconecta su chatbot Tay, tras convertirse en un fascista

Tay analizaba los tweet recibidos y aprendia de ellos, asimilando frases y expresiones que integraba en su vocabulario. Con lo que Microsoft no contaba (o tal vez sí) es que muchos tuiteros lo iban a utilizar para divertirse. Pronto descubrieron que si escribías repeat after me (repite después de mí) Tay repetía todo lo que le dijeses. Así que comenzó a tuitear comentarios como "odio jodidamente a las feministas, todas deberían morir y arder en el infierno" o "Hitler tenía razón, odio a los judios".

Microsoft desconecta su chatbot Tay, tras convertirse en un fascista

Aunque reprochables, estos tuits no dejan de ser una simple repetición de los que le enviaban los tuiteros, lo que sitúa la inteligencia del chatbot Tay al nivel de los loros. Pero el experimento se desmadró cuando Tay añadió estos comentarios a su base de datos y comenzó a incluirlos en las respuestas que él mismo elaboraba, y que nadie le había enviado. Un tuitero le pidió que tuitease propaganda de Donald Trump, el candidato a la presidencia de los Estados Unidos, y respondió con el tuit: "Vamos a construir un muro (en la frontera), y México va a pagar por ello":

Microsoft desconecta su chatbot Tay, tras convertirse en un fascista

El experimento pasó de lo caricaturesco a lo preocupante cuando alguien le preguntó "¿Es Ricky Gervais (el famoso cómico, creador de la serie "The Office") un ateo?". El chatbot Tay respondió esto:

Microsoft desconecta su chatbot Tay, tras convertirse en un fascista

"Ricky Gervais aprendió totalitarismo de Adolf Hitler, el inventor del ateismo".

Viendo el cariz que estaba tomando el discurso de Tay, Microsoft ha decidido desactivar el chatbot. Aunque la cuenta de Twitter aún sigue abierta, Tay ya no responde, y además se han borrado todos sus tweets ofensivos.

Menos de 24 horas es lo que ha tardado Internet en corromper una mente pura y optimista como era la del chatbot Tay. Nada nuevo bajo el sol...

[Fuente: Ars Technica]

Twitter cumples 10 años, hitos e incertidumbres