El sistema de reconocimiento facial de Amazon falla: confunde a 28 congresistas con delincuentes

Mucho se está hablando de cómo el reconocimiento facial es una de las grandes revoluciones de los sistemas de seguridad ciudadana. En China llevan años implementando la idea, pero lo cierto es que dichos sistemas están aún lejos de ser perfectos.

Es lo que ha comprobado la American Civil Liberties Union (ACLU) en Estados Unidos. Este organismo ha querido evaluar el sistema de reconocimiento facial de Amazon, llamado Rekognition, y para ello ha analizado cómo reconocía a los 535 miembros del congreso de EE.UU. Al comparar sus caras con las de 25.000 fotos de delincuentes, el sistema generó 28 falsos positivos.

Un sistema lejos de ser perfecto

Para la ACLU ese resultado deja claro el problema de estos sistemas: "una identificación —tanto si es precisa como si no lo es— podría costarle a la gente su libertad o incluso la vida. El congreso debe tomar muy en serio esta amenaza, pisar el freno, y promulgar una moratoria sobre el uso del reconocimiento facial por parte de las fuerzas de seguridad".

En The Verge se han puesto en contacto con Amazon, cuyos representantes indican que esos falsos positivos son resultado de una "calibración pobre":la ACLU ejecutó las pruebas con un umbral de confianza del 80 por ciento, pero Amazon recomienda un 95% para escenarios en los que este sistema se use por parte de las fuerzas de seguridad.

El sistema Rekognition fue anunciado por Amazon en mayo de 2018, y desde entonces se han realizado pruebas piloto en algunos departamentos de policía que lo usaban en pruebas y con un coste muy reducido de apenas 12 dólares al mes (para un solo departamento de policía) como parte de la oferta de servicios en la nube de Amazon Web Services.

Los representantes de la ACLU también señalaron la subjetividad racial: 11 de los 28 falsos positivos confundieron a gente de color. Dado que hay muchos menos congresistas negros, la proporción de falsos positivos fue mayor para la raza negra, algo que ha afectado en el pasado a otros sistemas de reconocimiento facial.

Estos resultados han vuelto a activar el debate sobre el estado de unos sistemas que actualmente parecen plantear una amenaza a las libertades civiles dada su precisión. Tras las pruebas tres congresistas firmaron una carta abierta dirigida a Jeff Bezos, CEO de Amazon, pidiendo una lista con las agencias de seguridad que usan esta tecnología y destacando su uso por ejemplo en niños menores de 13 años.

Vía | The Verge
Más información | ACLU
En Xataka | Las claves de los sistemas de reconocimiento facial: ¿cuál es su verdadero nivel de seguridad?