Especialistas da ONU advertem sobre viés racista em algoritmos

Os países devem fazer mais para combater o racismo, principalmente nos algoritmos de inteligência artificial utilizados para reconhecimento facial e controles policiais. Essas ferramentas podem reforçar discriminações, alertam especialistas da ONU.

Segundo a especialista jamaicana Verene Shepherd, “existe um grande risco de que (a inteligência artificial) reforce o preconceito e, assim, agrave ou possibilite práticas discriminatórias”. Shepherd é membro do Comitê da ONU para a eliminação da discriminação racial, composto por 18 especialistas. Nesta quinta-feira (26), o grupo publicou um relatório com recomendações às autoridades para combater esse problema.

O comitê está preocupado particularmente com os algoritmos usados entre as ferramentas policiais de “prevenção” ou “avaliação de riscos”, assim como pelo motor de busca ou as redes sociais preferidas das pessoas, que podem ser bombardeadas com publicidade preconceituosa.

Esses sistemas de vigilância que supostamente apoiam a prevenção de crimes, e foram implementados pela primeira vez nos Estados Unidos em meados da década de 2000, são também criticados porque reforçam os preconceitos sobre algumas comunidades.

Ciclo vicioso

“Os dados históricos sobre prisões em um bairro determinado (que alimentam a inteligência artificial) podem refletir muito bem as práticas policiais preconceituosas” e, consequentemente, reproduzi-las, destaca Shepherd. “Esses dados aumentam o risco de um excesso de presença policial que poderia levar a realizar mais prisões e, desse modo, criar um ciclo vicioso”, alerta. “Dados incorretos provocam maus resultados”, resume.

Entre suas recomendações, o comitê também expressa preocupação pelo uso cada vez mais generalizado do reconhecimento facial ou outras tecnologias de supervisão utilizadas em missões de segurança. Novamente, em relação a isso, o discernimento da inteligência artificial está intimamente vinculado aos dados usados para “educar” esses sistemas, explica a especialista jamaicana. Estudos realizados demonstraram que esses dados têm dificuldades para reconhecer os rostos de pele escura ou de mulheres.

Um preconceito bem ilustrado, por exemplo, foi a prisão este ano em Detroit de um homem negro americano, Robert Williams, com base em “conclusões” de um algoritmo mal desenvolvido, que o identificou como o suspeito de um roubo.

“Recebemos reclamações sobre esta forma de identificação errônea fruto dessas tecnologias, de quem as desenvolve ou dos exemplos utilizados por esses sistemas”, indica Shepherd e acrescenta: “é uma preocupação real”.

O comitê pede aos países que regulamentem as empresas que trabalham neste setor para garantir que tais sistemas respeitem as leis internacionais sobre direitos humanos.

O relatório insiste na necessidade de transparência na concepção e aplicação desses direitos para o público em geral.

As recomendações do comitê não se limitam a essas novas tecnologias. “O desenvolvimento de perfis raciais não começou com elas”, lembra Shepherd. Ela espera que “a intensificação e internacionalização do movimento Black Lives Matter (…) e outras campanhas que denunciam a discriminação contra grupos vulneráveis ajudarão (a destacar) a importância dessas recomendações”.

// RFI

COMPARTILHAR

DEIXE UM COMENTÁRIO:

Merkel é premiada por compromisso com a União Europeia

"Somente uma Europa unida é uma Europa forte", diz a líder alemã ao receber o prêmio Carlos 5º. Rei espanhol destaca pragmatismo e confiabilidade da chanceler federal, descrevendo-a como uma "mulher extraordinária". Prestes a deixar o …

França: crianças pobres são ainda mais vulneráveis à poluição do ar, aponta relatório

O Unicef (Fundo das Nações Unidas para a Infância) e a rede mundial Climate Action Network International, que reúne associações que lutam contra o aquecimento global, divulgaram, nesta quinta-feira (14), o relatório "Injustiça social …

'Love is in the Bin': a obra semidestruída de Banksy vendida a R$ 121 milhões em leilão

Uma obra de arte de Banksy que se autodestruiu parcialmente em um leilão anterior foi arrematada agora a um preço recorde de 16 milhões de libras (cerca de R$ 121 milhões). Love is in the Bin …

EUA tentam virar a página da era Trump e voltam ao Conselho de Direitos Humanos da ONU

Os Estados Unidos voltaram, nesta quinta-feira, ao Conselho de Direitos Humanos da ONU, órgão que o país havia deixado durante o mandato de Donald Trump. O retorno mostra a vontade de Washington de fazer …

Explosões deixam vários mortos em mesquita no Afeganistão

Ao menos 33 pessoas morrem após explosões em mesquita xiita durante a oração de sexta-feira. Testemunha diz ter visto homens-bomba. Incidente ocorre dias depois de ataque do "Estado Islâmico" contra xiitas no país. Fortes explosões atingiram …

Vênus tinha oceanos? Cientistas refutam hipótese popular usando modelagem

Cientistas da Suíça e França refutaram a hipótese de que anteriormente Vênus era coberta por oceanos. Um novo estudo revela que mesmo no início, quando o Sol era mais fraco do que agora, a superfície …

Suspeito de ataque na Noruega era fichado na polícia por radicalização

Convertido ao islã e conhecido da polícia, dinamarquês de 37 anos teria usado outras armas além de arco e flecha em ataque que matou cinco pessoas em Kongsberg. Ele está preso e reconheceu envolvimento no …

Oposição manobra para destituir Piñera no Chile por citação nos Pandora Papers

Deputados de todos os partidos da oposição chilena apresentaram uma acusação no Congresso nesta quarta-feira (13) para destituir o presidente Sebastián Piñera pela controversa venda de uma mineradora em um paraíso fiscal, revelada no escândalo …

Fatores externos influenciam, mas não justificam inflação a dois dígitos no Brasil

A recuperação do impacto brutal da pandemia de coronavírus leva a inflação a subir na maioria dos países do mundo, mas a conjuntura internacional não explica o nível chegar a dois dígitos no Brasil. …

UE anuncia 1 bilhão de euros em ajuda ao Afeganistão

União Europeia justifica que é preciso evitar "colapso" no país e fornecer ajuda humanitária aos afegãos. Paralelamente, representantes do bloco europeu e dos EUA se reúnem com membros do Talibã em Doha, no Catar. O Talibã …