Microsoft dice que sus herramientas de reconocimiento facial son cada vez mejores en la identificación de personas con tonos de piel más oscuros que antes, de acuerdo con una publicación de blog de la compañía de hoy . Las tasas de error se han reducido hasta en 20 veces para hombres y mujeres con piel más oscura y en nueve veces para todas las mujeres.

La compañía dice que ha estado entrenando sus herramientas de inteligencia artificial con conjuntos de datos más grandes y diversos, lo que ha llevado al progreso. “Si estamos entrenando sistemas de aprendizaje automático para imitar las decisiones tomadas en una sociedad sesgada, usando datos generados por esa sociedad, entonces esos sistemas reproducirán necesariamente sus sesgos”, dijo Hanna Wallach, investigadora sénior de Microsoft, en la publicación del blog.

En febrero, un informe del Media Lab del MIT probaron los sistemas de reconocimiento facial de Microsoft, IBM y Megvii de China y descubrieron que hasta un 35 por ciento de las mujeres de piel más oscura tenían su género identificado erróneamente por los sistemas. El informe solo confirmó lo que muchos habían sospechado durante años: los sistemas de reconocimiento facial pueden estar sesgados por conjuntos de datos limitados y otros factores como el racismo sistémico. En 2015, Google identificó a los amigos negros de un ingeniero de software en una foto como “gorilas” y tuvo que disculparse por el error.

Aún así, aunque el anuncio de hoy de Microsoft indica una reducción en el sesgo racial dentro de su sistema de reconocimiento facial, si la policía tiene en sus manos la herramienta de reconocimiento facial mejorada, no está claro cómo podría afectar a las personas de color y si eso podría exacerbar prácticas ya problemáticas . Microsoft se asocia con el Servicio de Inmigración y Control de Aduanas (ICE) de EE. UU. , y su herramienta de reconocimiento facial se ofrece a los agentes del gobierno como un recurso. El CEO de Microsoft, Satya Nadella, aclaró en una nota la semana pasada que “Microsoft no está trabajando con el gobierno de los EE. UU. en ningún proyecto relacionado con la separación de niños de sus familias en la frontera”, pero no abordó cómo el reconocimiento facial podría desempeñar un papel en beneficio del trabajo de ICE.

Actualización 27 de junio de 2018 11:43 AM ET: Este artículo se ha actualizado para reflejar que la tecnología de reconocimiento facial se encuentra entre los muchos recursos que ofrece Microsoft a ICE.