Perspective, la IA de Google para censurar insultos

Acabar con los trolls de Internet

Los insultos son habituales en muchas páginas webs. Hay trolls que vierten decenas de ellos al día, y ahora tendrán que enfrentarse a la Inteligencia Artificial de Google. La compañía ha creado una herramienta para moderar los comentarios que se consideren como abusivos.

La han llamado Perspective, la IA de Google al servicio de los editores de páginas web, especialmente las informativas. Esta herramienta analiza los comentarios para identificar los patrones de comportamiento utilizado por los trolls. Va entrenando hasta ser capaz de bloquear comentarios insultantes de forma efectiva.

Moderar comentarios es una práctica habitual en muchos medios de comunicación. Insultar en Internet es fácil y mucha gente se divierte haciéndolo, por lo que para los moderadores es inasumible revisar tal cantidad de texto. Ahora tienen a la Inteligencia Artificial de su parte, al menos si así lo deciden.

La ha desarrollado Jigsaw, un laboratorio de ideas dependiente de Google. Cada web que decida utilizarla puede filtrar lo que quiere que se pueda decir o no en su sitio, aunque de forma posterior la propia IA irá mejorando el filtro con adiciones de su propia cosecha.

Entre las características configurables de este software hay varias interesantes, como la que permite mostrar a cada usuario el nivel de toxicidad de su comentario antes de postearlo.

La Inteligencia Artificial, ¿una esperanza para el mañana o una amenaza?

Perspective está disponible ya en inglés, aunque no en español. Al ser de código abierto puede adaptarse a las necesidades de cada editor. En cualquier caso Google irá actualizando su software, que también mejora por su propia cuenta para hacerse más eficiente.

El entrenamiento de la Inteligencia Artificial es una parte importante de su desarrollo y futuro. Poco a poco va aprendiendo y mejorando su comportamiento, aunque a veces se producen accidentes. Sin ir más lejos la propia IA de Google se ha puesto violenta varias veces, por no hablar de la de Microsoft, que directamente se hizo nazi.

El fenómeno de los trolls en Internet, especialmente en redes sociales, es toda una amenaza para lo bueno que tiene la red. Su capacidad para convertir cualquier conversación en tóxica exaspera a los demás usuarios, que en algunos casos llegan a retirarse de la aplicación o red social para no tener que soportarlos.

[Fuente: Wired]