Por:Trevor Collins,
\nSecurity Analyst de WatchGuard Technologies<\/p>\n
El software de reconocimiento facial ha estado en problemas en los \u00faltimos meses. Investigadores, expertos de la industria, empresas y legisladores han planteado preocupaciones que van desde posibles repercusiones en la privacidad hasta su papel en la discriminaci\u00f3n y m\u00e1s. De hecho, la Universidad de Michigan public\u00f3 recientemente un estudio que relacion\u00f3 el uso del reconocimiento facial en el campus con estos problemas.<\/p>\n
En la d\u00e9cada de 1960, Woodrow W. Bledsoe cre\u00f3 un programa secreto que identificaba manualmente puntos en la cara de una persona y comparaba las distancias entre estas coordenadas con otras im\u00e1genes.<\/p>\n
La tecnolog\u00eda de reconocimiento facial ha avanzado mucho desde entonces. El campo ha evolucionado r\u00e1pidamente y el software ahora puede procesar autom\u00e1ticamente cantidades asombrosas de datos faciales en tiempo real, mejorando dr\u00e1sticamente los resultados (y la confiabilidad) de la coincidencia en una variedad de casos de uso.<\/p>\n
A pesar de todos los avances que hemos visto, muchas organizaciones todav\u00eda conf\u00edan en el mismo algoritmo utilizado por la base de datos de Bledsoe, conocido como “k vecinos m\u00e1s cercanos” o k-NN. Dado que cada rostro tiene m\u00faltiples coordenadas, una comparaci\u00f3n de estas distancias en millones de im\u00e1genes faciales requiere un procesamiento de datos significativo. El algoritmo k-NN simplifica este proceso y facilita la coincidencia de estos puntos al reducir considerablemente el conjunto de datos. Pero eso es solo una parte de la ecuaci\u00f3n. El reconocimiento facial tambi\u00e9n implica encontrar la ubicaci\u00f3n de una caracter\u00edstica en una cara antes de evaluarla. Esto requiere un algoritmo diferente, como HOG (histogram of oriented gradients). Este tema se tratar\u00e1 m\u00e1s adelante.<\/p>\n
El problema<\/p>\n
Los algoritmos que se utilizan hoy en d\u00eda para el reconocimiento facial dependen en gran medida de los modelos de aprendizaje autom\u00e1tico (ML), que requieren una formaci\u00f3n significativa. Desafortunadamente, el proceso de capacitaci\u00f3n puede resultar en sesgos en estas tecnolog\u00edas. Si la capacitaci\u00f3n no contiene una muestra representativa de la poblaci\u00f3n, ML no identificar\u00e1 correctamente la poblaci\u00f3n perdida.<\/p>\n
Si bien esto puede no ser un problema significativo al hacer coincidir rostros para plataformas de redes sociales, puede ser mucho m\u00e1s da\u00f1ino cuando las agencias gubernamentales y las fuerzas del orden utilizan el software de reconocimiento facial de Amazon, Google, Clearview AI y otros.<\/p>\n
Estudios anteriores sobre este tema encontraron que el software de reconocimiento facial sufre de prejuicios raciales, pero en general, la investigaci\u00f3n sobre el prejuicio ha sido escasa. Las consecuencias de tales sesgos pueden ser nefastas tanto para las personas como para las empresas. Para complicar a\u00fan m\u00e1s las cosas, est\u00e1 el hecho de que incluso peque\u00f1os cambios en la cara, el cabello o el maquillaje pueden afectar la capacidad de una modelo para hacer coincidir las caras con precisi\u00f3n. Si no se tiene en cuenta, esto puede crear distintos desaf\u00edos al intentar aprovechar la tecnolog\u00eda de reconocimiento facial para identificar a las mujeres, que generalmente tienden a usar productos de belleza y cuidado personal m\u00e1s que los hombres.<\/p>\n
Comprender el sexismo en el software de reconocimiento facial<\/p>\n
\u00bfQu\u00e9 tan graves son las identificaciones err\u00f3neas basadas en el g\u00e9nero? El equipo de WatchGuard llev\u00f3 a cabo una investigaci\u00f3n adicional sobre el reconocimiento facial, analizando \u00fanicamente los sesgos de g\u00e9nero para averiguarlo. Los resultados fueron reveladores. Las soluciones que evaluaron fueron identificar err\u00f3neamente a las mujeres un 18% m\u00e1s a menudo que a los hombres.<\/p>\n
Pueden imaginar las terribles consecuencias que podr\u00eda generar este tipo de sesgos. Por ejemplo, un tel\u00e9fono inteligente que dependa del reconocimiento facial podr\u00eda bloquear el acceso, un oficial de polic\u00eda que utilice software de reconocimiento facial podr\u00eda identificar err\u00f3neamente a un transe\u00fante inocente como un delincuente o una agencia gubernamental podr\u00eda llamar a la persona equivocada para interrogarla bas\u00e1ndose en una coincidencia falsa. La lista contin\u00faa. La realidad es que el culpable de estos problemas es el sesgo dentro del entrenamiento del modelo que crea sesgos en los resultados.<\/p>\n
Exploremos c\u00f3mo descubrimos estos resultados.<\/p>\n
El equipo realiz\u00f3 dos pruebas independientes: la primera con Amazon Rekognition y la segunda con Dlib. Desafortunadamente, con Amazon Rekognition no lograron analizar c\u00f3mo funciona su algoritmo y modelado de AA debido a problemas de transparencia (aunque asumieron que es similar a Dlib). Dlib es una historia diferente y utiliza recursos locales para identificar las caras que se le proporcionan. Viene previamente entrenado para identificar la ubicaci\u00f3n de una cara y con el buscador de ubicaci\u00f3n de caras HOG, un algoritmo m\u00e1s lento basado en CPU, y CNN, un algoritmo m\u00e1s r\u00e1pido que utiliza procesadores especializados que se encuentran en las tarjetas gr\u00e1ficas.<\/p>\n
Ambos servicios proporcionan resultados de partidos con informaci\u00f3n adicional. Adem\u00e1s de la coincidencia encontrada, se otorga una puntuaci\u00f3n de similitud que muestra qu\u00e9 tan cerca debe coincidir una cara con la cara conocida. Si la cara en el archivo no existe, una puntuaci\u00f3n de similitud establecida en baja puede coincidir incorrectamente con una cara. Sin embargo, una cara puede tener una puntuaci\u00f3n de similitud baja y aun as\u00ed coincidir cuando la imagen no muestra la cara con claridad.<\/p>\n
Para el conjunto de datos, se utiliz\u00f3 una base de datos de caras llamada Caras etiquetadas en la naturaleza, y s\u00f3lo investigamos las caras que coincid\u00edan con otra cara en la base de datos. Esto nos permiti\u00f3 probar caras coincidentes y puntuaciones de similitud al mismo tiempo.<\/p>\n
Amazon Rekognition identific\u00f3 correctamente todas las im\u00e1genes que proporcionamos. Sin embargo, cuando miramos m\u00e1s de cerca los datos proporcionados, nuestro equipo vio una distribuci\u00f3n m\u00e1s amplia de las similitudes en los rostros femeninos que en los masculinos. Vimos m\u00e1s rostros femeninos con m\u00e1s similitudes que los hombres y m\u00e1s rostros femeninos con menos similitudes que los hombres (esto en realidad coincide con un estudio reciente realizado aproximadamente al mismo tiempo).<\/p>\n
\u00bfQu\u00e9 significa esto? B\u00e1sicamente, significa que una cara femenina que no se encuentra en la base de datos tiene m\u00e1s probabilidades de proporcionar una coincidencia falsa. Adem\u00e1s, debido a la menor similitud en los rostros femeninos, nuestro equipo confiaba en que ver\u00edamos m\u00e1s errores en la identificaci\u00f3n de rostros femeninos sobre los masculinos si se les dieran suficientes im\u00e1genes con rostros.<\/p>\n
Amazon Rekognition dio resultados precisos pero carec\u00eda de consistencia y precisi\u00f3n entre rostros masculinos y femeninos. Los rostros masculinos en promedio fueron 99.06% similares, pero los rostros femeninos en promedio fueron 98.43% similares. Puede que esto no parezca una gran variaci\u00f3n, pero la brecha se ampli\u00f3 cuando observamos los valores at\u00edpicos: una desviaci\u00f3n est\u00e1ndar de 1,64 para los hombres frente a 2,83 para las mujeres. M\u00e1s rostros femeninos est\u00e1n m\u00e1s lejos del promedio que rostros masculinos, lo que significa que la coincidencia falsa femenina es mucho m\u00e1s probable que la diferencia del 0,6% seg\u00fan nuestros datos.<\/p>\n
Dlib no funcion\u00f3 tan bien. En promedio, Dlib identific\u00f3 err\u00f3neamente los rostros de mujeres m\u00e1s que los de hombres, lo que llev\u00f3 a una tasa promedio de 5% m\u00e1s de mujeres identificadas err\u00f3neamente. Al comparar rostros usando el HOG m\u00e1s lento, las diferencias crecieron al 18%. Es interesante que nuestro equipo descubri\u00f3 que, en promedio, los rostros femeninos tienen puntajes de similitud m\u00e1s altos que los hombres cuando usan Dlib, pero al igual que Amazon Rekognition, tambi\u00e9n tienen un espectro m\u00e1s amplio de puntajes de similitud que conducen a resultados bajos en precisi\u00f3n.<\/p>\n
Abordar el sesgo de reconocimiento facial<\/p>\n
Desafortunadamente, los proveedores de software de reconocimiento facial luchan por ser transparentes cuando se trata de la eficacia de sus soluciones. Por ejemplo, nuestro equipo no encontr\u00f3 ning\u00fan lugar en la documentaci\u00f3n de Amazon en el que los usuarios pudieran revisar los resultados del procesamiento antes de que el software hiciera una coincidencia positiva o negativa.<\/p>\n
Desafortunadamente, esta suposici\u00f3n de precisi\u00f3n (y la falta de contexto por parte de los proveedores) probablemente conducir\u00e1 a m\u00e1s y m\u00e1s casos de arrestos injustificados, como este. Es muy poco probable que los modelos de reconocimiento facial alcancen el 100% de precisi\u00f3n en el corto plazo, pero los participantes de la industria deben concentrarse en mejorar su efectividad, no obstante. Sabiendo que estos programas contienen prejuicios en la actualidad, las fuerzas del orden y otras organizaciones deber\u00edan usarlos como una de las muchas herramientas, no como un recurso definitivo.<\/p>\n
Pero hay esperanza. Si la industria puede reconocer y abordar honestamente los sesgos en el software de reconocimiento facial, se puede llegar a trabajar juntos para mejorar el entrenamiento y los resultados del modelo, lo que puede ayudar a reducir las identificaciones err\u00f3neas no solo basadas en el g\u00e9nero, sino tambi\u00e9n en la raza y otras variables.-<\/p>\n
Acerca de WatchGuard Technologies, Inc.<\/p>\n
WatchGuard\u00ae Technologies, Inc. es un l\u00edder mundial en seguridad de redes, Wi-Fi seguro, autenticaci\u00f3n multifactor e inteligencia de red. Los galardonados productos y servicios de la compa\u00f1\u00eda son confiados en todo el mundo por cerca de 10,000 revendedores de seguridad y proveedores de servicios para proteger a m\u00e1s de 80,000 clientes. La misi\u00f3n de WatchGuard es hacer que la seguridad de nivel empresarial sea accesible para compa\u00f1\u00edas de todos los tipos y tama\u00f1os a trav\u00e9s de la simplicidad, haciendo de WatchGuard una soluci\u00f3n ideal para empresas distribuidas y pymes. La compa\u00f1\u00eda tiene su sede en Seattle, Washington, y oficinas en Am\u00e9rica del Norte, Europa, Asia Pac\u00edfico y Am\u00e9rica Latina. <\/p>\n","protected":false},"excerpt":{"rendered":"
Por:Trevor Collins, Security Analyst de WatchGuard Technologies El software de reconocimiento facial ha estado en problemas en los \u00faltimos meses. Investigadores, expertos de la industria, empresas y legisladores han planteado preocupaciones que van desde posibles repercusiones en la privacidad hasta su papel en la discriminaci\u00f3n y m\u00e1s. De hecho, la Universidad de Michigan public\u00f3 recientemente […]<\/p>\n","protected":false},"author":16,"featured_media":7950,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[17,1],"tags":[],"class_list":["post-7949","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia","category-titulares"],"acf":[],"yoast_head":"\n