Novedades Tecnología

Reconocimiento facial de Amazon confunde congresistas con sospechosos

Grupo de presión asegura que el sistema identificó erróneamente a 28 políticos de EE. UU.

Deepfakes

La tecnología de reconocimiento facial de AWS ha sido criticada por grupos activistas y defensores de los derechos digitales por el riesgo de que sea usada de forma discriminatoria.

Foto:

123rf

26 de julio 2018 , 10:39 a.m.

El sistema de reconocimiento facial de Amazon Web Services (AWS) identificó erróneamente a 28 miembros del Congreso de EE. UU. como sospechosos de la policía. Así lo reveló la Unión de Libertades Civiles de Estados Unidos (ACLU), que realizó una prueba del sistema y viene presionando al gigante del comercio electrónico para que suspenda la venta de ese software a los gobiernos. 

Rekognition, como se llama el software, ha sido criticado en los últimos meses. Grupos de presión y defensores de los derechos digitales han advertido que la herramienta podría usarse para atacar injustamente a inmigrantes o a personas de color y ser usada de forma abusiva por parte de los gobiernos. Actualmente, el software es usado en Oregon y en Florida. 

Según Amazon, durante la prueba el sistema tuvo problemas con la configuración de su herramienta de identificación facial. Sin embargo, los hallazgos aumentan la preocupación frente a si la policía utiliza esa tecnología para atrapar criminales y si existen probabilidades de que sea usada con sesgos discriminatorios.

Desde mayo, la ACLU y otros grupos de derechos civiles han presionado a Amazon para que deje de venderle a los gobiernos el acceso a Rekognition, un poderoso software de identificación de imágenes presentado en 2016 por la división de computación en la nube de la compañía.

Este mes, el presidente de Microsoft, rival de Amazon que también usa tecnología de reconocimiento facial, realizó un llamado a las empresas a aumentar su responsabilidad frente a esos desarrollos e instó al Congreso a principios de este mes para estudiar posibles regulaciones sobre esas tecnologías.

Por su parte, la ACLU dijo que quiere que el Congreso promulgue una moratoria sobre el uso de la tecnología por parte de las autoridades. Con lo que los legisladores pedirían la suspensión temporal de este tipo de servicios para poder analizarlos con un grupo de expertos y valorar posibilidades de reglamentación. 

Para realizar la prueba, la ACLU dijo que pagó 12.33 dólares para que Amazon Rekognition comparara las fotos oficiales de cada miembro de la Cámara y el Senado de Estados Unidos con una base de datos de 25.000 fotos de arrestos públicos.

En el proceso, la tecnología identificó "coincidencias" con 28 miembros del Congreso con al menos un 80 por ciento de precisión, según la configuración predeterminada del sistema.

Según la ACLU, los miembros fueron desproporcionadamente correspondientes a personas de color. Alrededor del 39 por ciento eran legisladores afroamericanos y latinos. La organización hizo énfasis en que Rekognition podría exacerbar el daño y la discriminación en un contexto en el que las personas afrodescendientes ya están siendo atacadas por la policía a una tasa superior a la media.

"La vigilancia facial es defectuosa, y es parcial, y es peligrosa", dijo Jacob Snow, un abogado de la ACLU del norte de California.

Una portavoz de Amazon dijo en un comunicado que el ajuste de confianza del 80 por ciento, el automático del sistema, es apropiado para identificar objetos y no para individuos. Según la compañía, los clientes deben establecer un umbral de 95 por ciento o más para las actividades de "aplicación de la ley", dijo.

El servicio de Rekognition es usado también en posibilidades que van desde la detección de contenido ofensivo en línea hasta la identificación de celebridades.

"Seguimos entusiasmados con la forma en que el análisis de imágenes y video puede ser un impulso para bien en el mundo", mencionó la vocera citando su ayuda para encontrar niños perdidos y prevenir crímenes. Resaltó también que Rekognition normalmente se utilizaba para restringir el campo para la revisión humana, no para tomar decisiones finales.

En mayo, AWS respondió a la petición de una carta firmada por más de 40 grupos civiles en defensa de la libertad, señalando que el servicio requiere que los clientes respeten la ley y sean responsables. 

El texto del comunicado rezaba:"Nuestra calidad de vida sería mucho peor hoy si prohibiéramos las nuevas tecnologías porque algunas personas podrían optar por abusar de la tecnología. Imagine si los clientes no pueden comprar una computadora porque es posible usar esa misma para fines ilegales".

REDACCIÓN TECNÓSFERA*
*Con Reuters

Ya leíste los 800 artículos disponibles de este mes

Rompe los límites.

Aprovecha nuestro contenido digital
de forma ilimitada obteniendo el

70% de descuento.

¿Ya tienes una suscripción al impreso?

actívala

Sabemos que te gusta estar siempre informado.

Crea una cuenta y podrás disfrutar de:

  • Acceso a boletines con las mejores noticias de actualidad.
  • Comentar las noticias que te interesan.
  • Guardar tus artículos favoritos.

Crea una cuenta y podrás disfrutar nuestro contenido desde cualquier dispositivo.

CREA UNA CUENTA


¿Ya tienes cuenta? INGRESA