Skip to main content

La IA de Microsoft que sustituye a periodistas confunde a dos cantantes mestizas del grupo Little Mix

Little Mix

Canal Littel Mix VEVO

09/06/2020 - 14:11

La inteligencia artificial sigue teniendo problemas y en muchos casos requiere de un supervisor humano que corrija sus fallos antes de que una persona pueda sentirse ofendida o se comentan injusticias irreparables.

Dejar a los sistemas de inteligencia artificial trabajar sin una supervisión humana todavía puede ser una idea peligrosa, aunque los humanos tampoco es que estemos exentos de equivocarnos. Ejemplo de ello es el fallo que ha cometido la IA de Microsoft confundiendo a dos personas en una noticia. 

Después de reemplazar a cientos de periodistas por un sistema de inteligencia artificial en MSN. Microsoft se ha encontrado con que este sistema inteligente tiene problemas para distinguir a las personas. La polémica ha saltado al confundir a dos cantantes del grupo de música Little Mix que son mestizas

La noticia hablaba sobre las experiencias que había tenido la cantante Jade Thirlwall con el racismo. La cantante explicó que durante su etapa escolar había sufrido acoso por su etnia mestiza. Un tema tan delicado se publicaba en MSN.com con la foto de otra cantante y no de la protagonista. Para los que no conozcan el grupo, Jade Thirlwall es la primera desde la izquierda en la foto que encabeza este artículo, pero como puedes ver a continuación, la foto era de Leigh-Anne Pinnock.

MSN

Captura de The Guardian

La propia Thirlwall llamaba la atención a MSN del fallo en una de las stories de su cuenta de Instagram: “@MSN Si vas a copiar y pegar artículos de otros medios de comunicación precisos, es posible que quieras asegurarte de que estás usando una imagen del miembro correcto de raza mixta del grupo."

Los periodistas que hasta hace un mes trabajan en MSN.com se encargaban de seleccionar noticias de otros medios y destacarlo en su web, pero ahora ese trabajo lo realiza un sistema de inteligencia artificial. Según explica The Guardian, alrededor de 50 periodistas fueron despedidos en los Estados Unidos y 27 en el Reino Unido.

Aún no se conocen exactamente cuáles han sido los factores que han desembocado en este error, lo más probable es que se trate de una base de datos con imágenes mal etiquetadas, pero de cuatro miembros que forman este grupo de música, se ha confundido a dos mujeres con la piel oscura, tal y como se ha quejado Jade Thirlwall. 

Microsoft ha explicado a The Guardian: "Tan pronto como nos dimos cuenta de este problema, inmediatamente tomamos medidas para resolverlo y reemplazamos la imagen incorrecta". Sin embargo, el error demuestra que el sistema no está preparado para rodar sólo y podría haberse corregido de contar con un supervisor humano.

O puede que esa tampoco sea la solución, pues no es la primera vez que un fallo similar los cometen los mismos humanos. La BBC tuvo que disculparse a principios de año por confundir al jugador de baloncesto LeBron James con su compañero de equipo Kobe Bryant, cuando se informaba de la muerte de este último. 

Los sistemas de inteligencia artificial han demostrado en otras ocasiones tener un sesgo racista que hace que su labor sea injusta con muchas personas y ese fallo inevitablemente lo han heredado del racismo que conservan los propios seres humanos que son los que crean y desarrollan esos sistemas.