Erros descobertos em um sistema de reconhecimento facial da empresa de comércio eletrônico Amazon provocaram nesta semana grande reação de políticos nos Estados Unidos.
Entidades de defesa de liberdade civis e senadores cobraram explicações da companhia e de órgãos públicos quanto ao uso da tecnologia.
A fim de avaliar falhas nos procedimentos, a Associação para as Liberdades Civis dos EUA (ACLU, na sigla em inglês) realizou teste com um programa de reconhecimento facial utilizado pela Amazon chamado “Rekognition”.
Entre deputados e senadores, o sistema “identificou” 28 como criminosos. A ferramenta relacionou as imagens dos políticos a fotos em bancos de dados de pessoas pressas.
Além do erro no reconhecimento, a associação denuncia funcionamento discriminatório no caso de pessoas negras. Cerca de 40% dos políticos falsamente identificados como criminosos pertenciam a esse segmento, embora ele represente apenas 20% dos membros do Congresso, cujas fotos foram submetidas ao teste.
Uma das preocupações da associação é o fato do sistema ser comercializado pela Amazon a preços baixos, podendo ser utilizado pelas mais diversas instituições públicas, como polícias e outras forças de segurança. Se a ferramenta não funciona adequadamente, agentes podem cometer abusos em investigações ou até mesmo em prisões baseados em reconhecimentos que não correspondem à realidade.
A Amazon tem feito um marketing agressivo para comercializar a ferramenta para forças de segurança. O argumento é que ela pode identificar até 100 rostos em uma foto. Ainda de acordo com a entidade, já há registro de departamentos estaduais de polícia adotando a tecnologia.
Por esses problemas, a ACLU questiona a participação da Amazon em negócios e serviços que envolvam vigilância e cobra da empresa que ela saia dessas atividades. “Negros já são prejudicados de maneira desproporcional por práticas de policiais. É fácil ver como o sistema Rekognition pode exacerbar isso”, afirmou a ACLU em comunicado oficial.
Um exemplo citado na nota foi o fato de uma senhora negra parada pela polícia na cidade de San Francisco. Ela foi colocada de joelhos, sob a mira de uma arma, porque o sistema dos oficiais havia identificado erroneamente a placa do carro dela como a licença de um veículo roubado.
Cobrando explicações
Em maio, a coalizão de congressistas negros dos EUA (Congressional Black Caucus) havia encaminhado carta ao presidente da Amazon, Jeff Bezos, expressando preocupação com a adoção do Rekognition.
“Estamos preocupados com as consequências não pretendidas que essa forma de inteligência artificial pode ter para americanos negros, imigrantes não registrados e protestantes”, afirmaram os parlamentares.
Após a divulgação do teste da ACLU, três senadores do Partido Democrata – Ron Wyden, Cory Booker e Ed Markey – cobraram explicações de 39 órgãos públicos do país das mais variadas áreas, de defesa a comércio, incluindo as agências de segurança.
No documento, os parlamentares pedem que as instituições relatem o eventual uso de algum sistema de reconhecimento facial, a partir de quais parâmetros, os objetivos, como está se dando essa adoção e como a precisão é garantida ou fiscalizada.
No documento, os senadores admitem que os programas de reconhecimento facial têm ficado mais acessíveis, mas alertam para os riscos de uso inadequado delas. “Essas tecnologias vêm com riscos inerentes, incluindo o comprometimento do direito de americanos à privacidade, assim como vieses raciais e de gênero”, comentaram.
Em seu site, a Amazon publicou nota, assinada por Matt Wood, rebatendo o estudo da ACLU. No texto, a empresa questionou a metodologia e a base de imagens usadas. Wood afirmou ainda que o sistema Rekognition não deve ser usado na área de segurança pública como critério único e autônomo para tomada de decisões, mas como uma forma de apoio aos agentes.
Estes últimos, acrescentou Wood, devem supervisionar e tomar as decisões. Entretanto, o representante da Amazon defende que as tecnologias de reconhecimento facial já são mais eficientes do que o olhar humano para identificar imagens. “Não devemos jogar fora o forno porque foi regulado de forma errada e queimou a pizza”, concluiu.
