Skip to main content

La trampa de ofrecer un sistema de reconocimiento facial gratuito en las escuelas

microsoft billón dólares escuelas

18/07/2018 - 07:47

Los sistemas de reconocimiento facial están a la orden del día. Los utilizamos para desbloquear nuestro teléfono y nuestro ordenador, pero los hay mucho más avanzados que, conectados a una IA, nos monitorizan por la calle y en centros públicos. El reconocimiento facial ha llegado para quedarse, y los centros educativos lo están adoptando. El nuevo sistema se lama SAFR, de RealNetworks, y es gratuito.

El uso de sistemas de reconocimiento facial en escuelas es algo que se lleva implementando desde hace un tiempo. Por ejemplo, en una escuela de China se monitoriza a los alumnos de manera permanente y la inteligencia artificial no solo sabe cuándo asisten a clase, sino su estado de ánimo a tenor de las muecas y expresiones que tienen.

También están presentes en las calles como herramienta para encontrar personas que comenten algún tipo de delito. En algunos países ya han dado resultado, pero si juzgamos por las cifras, son sistemas que están lejos de ser completamente seguros para la población. Lo que es cierto es que vulneran la privacidad de formas que no nos habíamos tenido que plantear hasta ahora.

Ventajas y peligros del reconocimiento facial

De vuelta a las escuelas, debemos hablar del sistema SAFR de la empresa RealNetworks, una de las pioneras en contenidos de streaming cuando la web se estaba desarrollando (ha llovido desde entonces). Ahora, han desarrollado un sistema de reconocimiento facial para escuelas llamado SAFR. Y, cuando decimos ''para escuelas'', nos referimos a infantil y primaria, no a otros centros, como podemos haber visto en China.

El sistema SAFR está enfocado a los centros K-12, o lo que es lo mismo, escuelas para alumnos de hasta doce años. El objetivo es mejorar la seguridad en los centros, concretamente la seguridad del alumnado y del profesorado ante ataques con armas perpetrados por otros alumnos, algo que, por desgracia, es ''frecuente'' en Estados Unidos.

El reconocimiento facial de SAFR puede utilizar las mismas cámaras de vigilancia que ya están instaladas en el centro y su IA reconocerá a los alumnos, al personal docente y a cualquier otra persona que visite el centro. Estos sistemas están potenciados por la inteligencia artificial y, como han explicado desde la compañía. los algoritmos de SAFR también están ligados a una IA.

La compañía ha afirmado que ''SAFR es un software de reconocimiento facial altamente preciso impulsado por la IA. Funciona con cámaras IP ya instaladas y con hardware disponible para reconocer rostros en tiempo real. Gracias al sistema, las escuelas pueden mantenerse enfocadas en analizar mejor las amenazas potenciales, como los estudiantes expulsados y aquellos que representan una amenaza dentro y fuera de la escuela''.

Además, SAFR es totalmente gratuito en Estados Unidos y Canadá. Desde hoy mismo, las escuelas pueden descargar el software para emular la experiencia de un centro de Seattle que ha sido pionero (y piloto) con este software para identificar personal escolar y a los padres para permitirles la entrada en el edificio, por ejemplo.

Sistema SAFR

Sistema SAFR en la cámara de entrada a un edificio.

Ahora bien, aunque el sistema suene prometedor para prevenir ciertas acciones, nos enfrentamos a algo que está muy presente estos días cuando hablamos de reconocimiento facial, la privacidad y la seguridad cuando se trata de ciertos grupos étnicos, sobre todo en los Estados Unidos. Microsoft ha pedido que se regule el uso del reconocimiento facial, pero otras organizaciones argumentan que se pondría en riesgo a una parte del alumnado.

Además, ciertas organizaciones, como la American Civil Libertries Union, están luchando contra los sistemas de reconocimiento facial argumentando que la alta tasa de error, sobre todo cuando se trata de ciudadanos afroamericanos, pone en duda la viabilidad de la tecnología ya que solo sirve para aumentar un historial de abusos y discriminación que ya se da en el sistema de justicia.

Rob Glaser, CEO de RealNetworks, no está preocupado por ese tipo de implicaciones y, de hecho, ha afirmado que quien quiera una tecnología que discrimine, mire a otro lado. De momento, habrá que ver qué tal funciona el sistema SAFR y quienes lo implementan. Parece que el único requisito es tener un sistema de cámaras IP (y así podemos conocer la nuestra si queremos una cámara del estilo), descargar el software de manera gratuita y contar con un registro fotográfico del alumnado y el personal que queremos que esté en la base de datos.

Ver ahora: