¿Ahora vienen por tu cara?: este experto advierte sobre los peligros del reconocimiento facial

El reconocimiento facial es una tecnología biométrica que permite identificar a las personas mediante los rasgos de sus rostros. No es infalible, puede arrojar falsos positivos y discriminar por el tono de piel y género de una persona.

La distancia entre los ojos, la nariz y la boca. La forma de la oreja. El tono de piel. Cada una de esas características únicas de los seres humanos es información personal sensible que el reconocimiento facial utiliza para identificar y autenticar de manera automática a uno o múltiples individuos.

El despliegue de esta tecnología con fines de seguridad pública se extiende en la Argentina, con los sistemas implementados en la Capital Federal, la ciudad de Tigre, en el norte del Gran Buenos Aires, y las provincias de Salta, Córdoba y Mendoza.

La Asociación por los Derechos Civiles (ADC), una organización de la sociedad civil con más de 25 años de trayectoria en la defensa y promoción de los derechos humanos en la Argentina lanzó "Con mi cara no", una iniciativa que busca concientizar sobre el reconocimiento facial.

Eduardo Ferreyra, oficial de proyecto de la ADC, explica en la siguiente entrevista de iProfesional los riesgos del reconocimiento facial en sistemas estatales y privados de vigilancia

-La búsqueda automatizada de personas a partir de información biométrica, ¿es un vehículo de discriminación? ¿Cuáles son los derechos vulnerados por estos sistemas? ¿Cómo impacta esta tecnología en la vida cotidiana?

-Las tecnologías de reconocimiento facial son un vehículo para la discriminación ya que es imprecisa y puede arrojar un porcentaje más alto de falsos positivos contra personas de tez no blanca y mujeres.

El entrenamiento del algoritmo del software define la precisión con la cual podrá reconocer rostros en diversos escenarios. Por ejemplo, ante cambios de luz, fondos con distintos colores o ángulos variados, también puede incidir en la certeza del reconocimiento.

En esta instancia, aspectos sensibles como el tono de piel y el género de una persona juegan un rol crucial, dado que el software de reconocimiento facial puede discriminarlas, sea por ejemplo si confunde a una persona con otra por tener rasgos "parecidos" sólo por su tez, o incluso estigmatizando las identidades binarias y no binarias.

-¿Se han registrado casos en la Argentina de falsos positivos y discriminación por el tono de piel y género de una persona? ¿Cuáles fueron y qué consecuencias tuvieron en las personas damnificadas?

-Si bien no tenemos información de falsos positivos por cuestiones de tono de piel o género en nuestro país, si hay registrados varios casos de identificaciones erróneas por esta tecnología.

Más allá de eso, la manera de verificar el impacto de estas tecnologías en esas -y otras cuestiones- es a través de evaluaciones y auditorías externas e independientes sobre los sistemas implementados en nuestro país. Hasta donde nosotros tenemos entendido, estos procesos todavía no han tenido lugar.

-¿Cuál es el tratamiento que el Estado hace de las imágenes que capturan estas herramientas?

-El reconocimiento facial funciona mediante un software alimentado por un algoritmo (una fórmula) que está entrenado para reconocer rostros e individualizar sus rasgos. Una vez que se realiza el mapeo de los rasgos faciales, el software genera una plantilla con la representación matemática para ese rostro único.

Esa plantilla es el dato biométrico dentro de la tecnología de reconocimiento facial. Con la plantilla biométrica el rostro ya puede ser leído por una computadora y contrastado con una base de datos que previamente almacenó todo un conjunto de rostros.

El software puede llevar a cabo una comparación en tiempo real con todos los rostros almacenados en esa base de datos para determinar si una persona se encuentra registrada allí.

La biometría es un proceso de probabilidades, por lo que una vez que el software encuentra una potencial coincidencia, arroja un porcentaje que define qué tan probable es que corresponda a la misma persona.

Eduardo Ferreyra: "La gente no debería ceder ni su derecho a la intimidad ni su seguridad".

Reconocimiento facial y sus falencias legales 

-¿Cuál es el marco legal vigente para el reconocimiento facial en espacios públicos? ¿Existen restricciones legales para su uso? ¿La legislación vigente alcanza para proteger la privacidad de las personas bajo estos sistemas? ¿O tiene falencias que deben ser solucionadas? ¿Hay proyectos de leyes al respecto?

-En su gran mayoría, estos sistemas suelen ser implementados mediante resoluciones de los gobiernos sin la participación del Poder Legislativo. En el último tramo del año pasado, la Legislatura de la CABA modificó la ley de seguridad pública para incorporar disposiciones sobre reconocimiento facial. Sin embargo, la ley está muy lejos de ser una regulación detallada que establezca las garantías necesarias o establezca condiciones estrictas para su uso.

-¿Hay una falta de transparencia sobre el funcionamiento y la tecnología involucrada?

-En el caso de la Ciudad de Buenos Aires, el propio relator del derecho a la privacidad de la ONU sostuvo que la justificación de tal sistema, su legitimidad, necesidad y proporcionalidad deberían haberse establecido mediante una evaluación del impacto en la privacidad (en inglés Privacy Impact Assessment, PIA) que no parece haberse llevado a cabo. También manifestó que en la entrevista que sostuvo con funcionarios, ellos no pudieron explicar la necesidad y proporcionalidad del sistema.

-A casi un año y medio de gestión de la administración Fernández en el Poder Ejecutivo Nacional, ¿se observa algún cambio en las políticas relativas al reconocimiento facial?

-En octubre del año pasado, el Gobierno nacional tuvo que cerrar el acceso público a la base de datos del sistema de Consulta Nacional de Rebeldía y Captura (Conarc) que es el encargado de brindar los datos para el sistema de la Ciudad de Buenos Aires.

Esto se debió a una denuncia de organizaciones internacionales de derechos humanos acerca de la difusión libre de datos personales de menores de edad sujetos a órdenes de detención, algo que está prohibido por el marco de derecho internacional de los derechos humanos.

-Además de la seguridad pública, ¿dónde crece el reconocimiento facial? ¿Cuáles son los principales actores y propósitos que impulsan su adopción?

-La tecnología de reconocimiento facial es usada por actores privados y públicos con múltiples propósitos. Por ejemplo, últimamente se utiliza mucho como método para desbloquear un celular. Sin embargo, nuestra campaña se enfoca en su uso con fines de seguridad y vigilancia en espacios públicos o privados de acceso público.

En estos casos, los riesgos son múltiples: uso encubierto o sin consentimiento de la población, filtraciones o hackeos a la base de datos por una pobre o nula implementación de medidas de seguridad, permite individualizar y realizar un seguimiento preciso de cada persona, facilita la vigilancia masiva en forma automatizada: los algoritmos de reconocimiento facial deben necesariamente detectar todos los rostros que registran las cámaras en donde están implementados. Por más que el nombre de una persona no esté vinculado a su rostro, el software igualmente lo estará reconociendo.

-¿Por qué lanzaron ahora esta iniciativa "Con mi cara no"?

-Lanzamos la campaña y página web "Con mi cara no" para brindar información y alertar a la población sobre los peligros de esta tecnología, en particular en la CABA. Sin embargo, el porteño no es el único ámbito de la Argentina en donde estos sistemas fueron implementados. Cada vez hay más provincias y ciudades que ya los utilizan o anunciaron su intención de recurrir a sistemas de reconocimiento facial con fines de vigilancia pública. 

Frente a esta situación, en la ADC consideramos necesario comenzar a dar cuenta de todos estos sucesos, ya que la lucha por la defensa de nuestros derechos en el espacio público no pertenece a una sola ciudad. Por eso, hemos actualizado los contenidos de la campaña y sumamos una nueva sección, llamada "El mapa de la vigilancia".

Allí, se puede encontrar información sobre actuales y futuras implementaciones de sistemas de reconocimiento facial por parte de las autoridades provinciales o municipales de nuestro país.

El reconocimiento facial con fines de vigilancia se expande en Argentina y en la ADC actualizamos https://t.co/ACmszgi5aP para lanzar "El mapa de la vigilancia", con información sobre desarrollos actuales y anuncios sobre el uso de esta tecnología en el país ???? — ADC (@adcderechos) April 29, 2021

-¿Cómo evalúan el grado de conciencia de la población argentina en torno al funcionamiento del reconocimiento facial, el procesamiento de sus datos biométricos y los riesgos de su implementación? ¿Qué sectores de la población son más conscientes? Puedes ser por franja etaria, nivel de educación, distribución geográfica.

-No tenemos estadísticas tan precisas del impacto de nuestra campaña, pero hemos notado un mayor grado de conciencia en aquellos lugares en donde existen este tipo de tecnologías. Particularmente en Buenos Aires hubo mucho interés por parte de la gente en conocer más acerca de cómo funciona esta tecnología y cómo puede afectar sus derechos.

-¿Las personas deben ceder su intimidad a cambio de seguridad?

-La gente no debería ceder ni su derecho a la intimidad ni su seguridad. Esa suele ser una falsa dicotomía que en el caso del reconocimiento facial se disuelve cuando notamos que el Estado cuenta con medios menos invasivos para llevar a cabo las funciones que le corresponde.

Más que brindar seguridad, los sistemas de reconocimiento facial suelen ser herramientas de vigilancia y control, que ponen en riesgo el ejercicio de nuestros derechos fundamentales, el disfrute del espacio público y el desarrollo de nuestra vida en sociedad.