El reconocimiento facial de Amazon confunde a 28 congresistas de EE.UU. con registros policiales

La Unión Estadounidense de Libertades Civiles (ACLU) sigue con su lucha contra los sistemas de reconocimiento facial. Esta vez ha denunciado los errores del sistema creado por Amazon. Para demostrarlo, hizo un experimento.

Consistió en escanear las fotos de los 535 miembros del congreso de los Estados Unidos y luego las confrontó con 25.000 fotografías públicas de sospechosos de la policía con el programa de Amazon Rekognition.

El resultado fue que el sistema de Amazon generó 28 supuestas coincidencias cuando en realidad ningún congresista está fichado por la policial.

Las conclusiones de esta prueba plantean preocupaciones serias sobre el uso del programa Rekognition por parte de la policía, según denuncia la ACLU.

“Una identificación, sea precisa o no, podría costarles a las personas su libertad o incluso sus vidas”, afirma la ACLU en un comunicado.

“El Congreso debe tomarse en serio estas amenazas, pisar el freno y promulgar una moratoria sobre el uso de la aplicación de la ley para el reconocimiento facial”, agregó.

Un portavoz de Amazon en declaraciones al diario digital The Verge asegura que estos resultados se deben a una mala calibración.

Las pruebas de la ACLU se realizaron utilizando el umbral de confianza predeterminado de Rekognition del 80 por ciento. 

Amazon asegura que recomienda al menos un umbral del 95 por ciento, ya que en estos casos una identificación falsa podría tener consecuencias más graves.

”Aunque el 80% de confianza es un umbral aceptable para las fotos de perros o para su uso en las redes sociales, no es apropiado identificar individuos” asegura el portavoz de Amazon.

Pero el programa Rekognition no aplica esa recomendación en su configuración, y no hay nada que impida que las agencias de aplicación de la ley usen la configuración predeterminada, advierten de la ACLU.

La Rekognition de Amazon ya fue objeto de polémica cuando un informe de ACLU mostró que el sistema era utilizado por varias agencias de aplicación de la ley, incluido una versión de prueba reconocimiento en tiempo real por la policía de Orlando.

Se trata de un software extremadamente económico, de menos de 12 dólares al mes, por lo que muchos cuerpos policiales se hicieron con él.