La IA que sabe cómo te sientes en tiempo real con solo mirarte a la cara

Las empresas no deberían confiar en tecnologías biométricas "inmaduras" que pretenden ofrecer un análisis emocional del personal, afirma la Oficina del Comisario de Información (ICO), advirtiendo que dicha tecnología podría discriminar a algunas personas.

¿De qué tecnología hablamos?, se refiere a la tecnología basada en la Inteligencia Artificial que pretende analizar aspectos como los movimientos y expresiones faciales, la forma de caminar e incluso el seguimiento de la mirada, como forma de controlar la salud y el bienestar de los trabajadores.

Básicamente se encarga de evaluar cómo nos sentimos para atajar el problema, ya sea emocional o de salud. Sin embargo, no es oro todo lo que reluce.

"Los desarrollos en el mercado de la biometría y la IA emocional son inmaduros. Puede que no funcionen todavía, o de hecho nunca", escribió el subcomisario del ICO Stephen Bonner. "Aunque hay oportunidades presentes, los riesgos son mayores. Nos preocupa que el análisis incorrecto pueda dar lugar a suposiciones y juicios sobre una persona que sean inexactos y conduzcan a discriminación". 

Y es que, ciertamente estamos viendo unos esfuerzos sobrehumanos por desarrollar algo que quizá debería ir algo más lento. La incapacidad de los algoritmos, que no están suficientemente desarrollados para detectar señales emocionales, implica la existencia de un riesgo de inexactitud e incluso discriminación.

¿La Inteligencia Artificial al servicio de nuestras emociones?

Desde luego, parece una locura, teniendo en cuenta todas las ventajas que ya nos aporta la Inteligencia Artificial. Sin embargo, continuamente llegan noticias sobre ese nuevo paso que se quiere dar a la hora de que esta tecnología entienda las emociones de los seres humanos.

Es un hecho que los algoritmos han mostrado en los últimos años que pueden ser usados tanto para ayudar a las personas como para el control y la vigilancia. 

Por ejemplo, existen algoritmos capaces de diagnosticar toda clase de enfermedades, desde depresión a cáncer. Por otro lado, una IA de Microsoft sirvió a una provincia argentina para estimar qué niñas podrían quedarse embarazadas.

Inteligencia Artificial, juegos y series: así se ha reinventado el televisor en la última década

Sin embargo, vale, aquí hablamos de ciencia, de datos médicos y de estadísticas. Sin embargo, que una IA sea capaz de entender nuestras emociones solo con ver cómo caminamos o los gestos de nuestra cara para servirnos de ayuda es un tema muy diferente.

Desde luego, la biometría y la IA emocional están aun dando sus primeros pasos y la computación afectiva, como también se la conoce, está lejos de que funcione bien, por lo que parece una locura comenzar a instalar esta tecnología en determinados espacios.

El regulador de la ICO, por su lado, insta a las organizaciones a que evalúen el riesgo público antes de utilizar este tipo de tecnología, y ha advertido de que se investigará a las empresas que no actúen de forma responsable, supongan un riesgo para las personas o no cumplan las expectativas expuestas en relación a su tecnología.