La IA de Microsoft que sustituye a periodistas confunde a dos cantantes mestizas del grupo Little Mix

Dejar a los sistemas de inteligencia artificial trabajar sin una supervisión humana todavía puede ser una idea peligrosa, aunque los humanos tampoco es que estemos exentos de equivocarnos. Ejemplo de ello es el fallo que ha cometido la IA de Microsoft confundiendo a dos personas en una noticia. 

Después de reemplazar a cientos de periodistas por un sistema de inteligencia artificial en MSN. Microsoft se ha encontrado con que este sistema inteligente tiene problemas para distinguir a las personas. La polémica ha saltado al confundir a dos cantantes del grupo de música Little Mix que son mestizas. 

La noticia hablaba sobre las experiencias que había tenido la cantante Jade Thirlwall con el racismo. La cantante explicó que durante su etapa escolar había sufrido acoso por su etnia mestiza. Un tema tan delicado se publicaba en MSN.com con la foto de otra cantante y no de la protagonista. Para los que no conozcan el grupo, Jade Thirlwall es la primera desde la izquierda en la foto que encabeza este artículo, pero como puedes ver a continuación, la foto era de Leigh-Anne Pinnock.

La propia Thirlwall llamaba la atención a MSN del fallo en una de las stories de su cuenta de Instagram: “@MSN Si vas a copiar y pegar artículos de otros medios de comunicación precisos, es posible que quieras asegurarte de que estás usando una imagen del miembro correcto de raza mixta del grupo."

Los periodistas que hasta hace un mes trabajan en MSN.com se encargaban de seleccionar noticias de otros medios y destacarlo en su web, pero ahora ese trabajo lo realiza un sistema de inteligencia artificial. Según explica The Guardian, alrededor de 50 periodistas fueron despedidos en los Estados Unidos y 27 en el Reino Unido.

Aún no se conocen exactamente cuáles han sido los factores que han desembocado en este error, lo más probable es que se trate de una base de datos con imágenes mal etiquetadas, pero de cuatro miembros que forman este grupo de música, se ha confundido a dos mujeres con la piel oscura, tal y como se ha quejado Jade Thirlwall. 

El día en que la inteligencia artificial me prohibió entrar en una tienda

La tecnología ha llegado a un punto en el que algunas tiendas de Estados Unidos tienen inteligencias artificiales que deciden quién puede entrar. Estas situaciones serán cada vez más comunes en nuestro día a día. ¿Cómo pueden influir en nuestras vidas? ¿Son justas las IA al valorar a las personas?

Lee el reportaje

Microsoft ha explicado a The Guardian: "Tan pronto como nos dimos cuenta de este problema, inmediatamente tomamos medidas para resolverlo y reemplazamos la imagen incorrecta". Sin embargo, el error demuestra que el sistema no está preparado para rodar sólo y podría haberse corregido de contar con un supervisor humano.

O puede que esa tampoco sea la solución, pues no es la primera vez que un fallo similar los cometen los mismos humanos. La BBC tuvo que disculparse a principios de año por confundir al jugador de baloncesto LeBron James con su compañero de equipo Kobe Bryant, cuando se informaba de la muerte de este último. 

Inteligencia artificial: qué es, cómo funciona y para qué se utiliza en la actualidad

La inteligencia artificial ya está en boca de todos, pero poca gente sabe lo que es. ¿Cómo funciona? ¿Hasta dónde puede llegar? ¿Cuáles son sus limitaciones? Respondemos a estas preguntas.

Lee el artículo

Los sistemas de inteligencia artificial han demostrado en otras ocasiones tener un sesgo racista que hace que su labor sea injusta con muchas personas y ese fallo inevitablemente lo han heredado del racismo que conservan los propios seres humanos que son los que crean y desarrollan esos sistemas.