Airbnb implementó en 2015 un sistema algorítmico que ayudaría a los anfitriones a fijar sus precios en función de la demanda que hubiese para las fechas que los usuarios de la plataforma seleccionasen. El objetivo de la compañía era ayudar a acabar con la discriminación que sufren los anfitriones negros, que ven cómo sus apartamentos son menos reservados en la plataforma que los de los blancos.

El sistema, bautizado como "precio inteligente", ha sido un absoluto fiasco.

El Financial Times explica en este artículo cómo, a pesar de que su utilidad está demostrada y aquellos usuarios que fijan los precios con el algoritmo se ven beneficiados —sea cual sea su color de piel—, el hecho de que los anfitriones negros lo utilicen menos aumenta la brecha y la discriminación.

Xiaomi Mi Band 6 en Amazon

Última edición de la pulsera de actividad de Xiaomi con monitor de actividad física, sensor de ritmo cardiaco y medición de oxígeno en sangre con una mejor y mayor pantalla.

Cómprala al mejor precio

Un estudio de la Universidad Carnegie Mellon realizado sobre 9.000 apartamentos ofertados en Airbnb demostró que el uso del algoritmo sirvió para reducir la discriminación racial hasta en un 71% gracias a que el precio inteligente hacía que aumentase la demanda de las viviendas que eran propiedad de personas racializadas.

No obstante, el escaso uso que los ciudadanos negros hacen de esta herramienta implicó que la discriminación aumentase. "Aunque el algoritmo beneficiaba a blancos y negros, condujo a una mayor desigualdad entre la población, debido a las tasas de adopción significativamente más bajas entre estos últimos", explica al Financial Times Param Vir Singh, autor de la investigación.

"Incluso un algoritmo bien intencionado puede conducir a una mayor desigualdad social. Hay consecuencias no deseadas en los algoritmos", agregó.

El estudio se realizó sobre 9.396 viviendas ofertadas en alquiler en Airbnb en siete grandes ciudades estadounidenses. El análisis se extendió entre julio de 2015 hasta agosto de 2017. Antes de que se introdujese el algoritmo para fijar precios, la brecha entre las ganancias de anfitriones blancos y negros era de 12,16 dólares. Otros factores acuciaban en esta brecha: como por ejemplo, la ubicación de algunos pisos.

Cuando se introdujo el algoritmo, esta brecha se redujo a tan solo 3,46 dólares, ya que el algoritmo logró corregir los recelos ante los precios que ponían los negros de sus viviendas.

Sin embargo, estos anfitriones usaron la herramienta algorítmica un 41% menos que sus homólogos blancos, por lo que la brecha final entre las ganancias de unos y otros no se redujo, sino que aumentó de los 12,16 dólares iniciales hasta los 14,30 dólares.

El investigador destaca que Airbnb podría incentivar el uso de este algoritmo entre sus usuarios de la comunidad negra. La propia plataforma también ha reaccionado a la investigación y ha indicado al mismo medio británico que el incremento de anfitriones que usan este algoritmo ya asciende al 50%.

Stefan Grant es el fundador de Noirbnb, una plataforma similar a Airbnb pero dirigida y liderada por afroamericanos. En declaraciones al Financial Times, Grant da algunas posibles razones por las que los anfitriones negros no han usado el algoritmo de Airbnb con tanta intensidad como sus homólogos blancos. "Racismo, discriminación e historia".

"No somos siempre los early adopters", reflexiona Grant. "El problema con este algoritmo de precio inteligente es solo un microcosmos de muchos problemas raciales mucho mayores. Tenemos que buscar fórmulas nuevas para navegar, porque el objetivo de muchos productos no siempre somos nosotros".

Una organización en defensa de los derechos civiles en Estados Unidos, Color of Change, también ha recordado que "el análisis de discriminaciones no se debe dejar en manos de compañías tecnológicas autorreguladas". Por eso, la entidad ha pedido que reguladores tengan acceso a los algoritmos y a los datos de la firma.

Este artículo fue publicado en Business Insider España por Alberto R. Aguiar.