La prestigiosa e influyente ONG estadounidense American Civil Liberties Union (ACLU) puso a prueba la tecnología de reconocimiento facial de Amazon, Rekognition. Los resultados no fueron alentadores y fortalecen el argumento de que su uso por parte de las autoridades estadounidenses es un riesgo para ciudadanos afroamericanos.
Según los resultados de la prueba realizada por ACLU, publicados en el sitio oficial de la organización, Rekognition confundió a 28 miembros del Congreso de los Estados Unidos con posibles delincuentes. La tecnología los identificó como personas que habían sido arrestadas por cometer un crimen. Dichos congresistas son tanto demócratas como republicanos, así como hombres y mujeres de todas las edades.
La mayoría de las falsas coincidencias de Rekognition fueron personas de raza negra. Para llevar a cabo la prueba, ACLU descargó 25.000 fotografías de una «fuente pública». Después publicó las fotos oficiales de los 535 miembros del Congreso estadounidense a través de Rekognition. Al pedirle al sistema de reconocimiento facial de Amazon que relacionara las imágenes con cualquiera de las fotos que se le toman a las personas que son detenidas, identificó incorrectamente a los 28 congresistas en cuestión.
«Las falsas coincidencias fueron desproporcionadamente de personas de raza negra», señaló el abogado Jacob Snow de ACLU en el post publicado este jueves en el sitio web de la organización. También detalló que el costo total por realizar la prueba fue de 12.33 dólares.
«Cotejar a personas con fotos de arrestos no es un ejercicio hipotético. Amazon está comercializando agresivamente su tecnología de vigilancia facial, presumiendo que su servicio puede identificar hasta 100 caras en una sola imagen, rastrear personas en tiempo real a través de cámaras de vigilancia y escanear imágenes de cámaras corporales», indicó Snow.