Especialistas da ONU advertem sobre viés racista em algoritmos

Os países devem fazer mais para combater o racismo, principalmente nos algoritmos de inteligência artificial utilizados para reconhecimento facial e controles policiais. Essas ferramentas podem reforçar discriminações, alertam especialistas da ONU.

Segundo a especialista jamaicana Verene Shepherd, “existe um grande risco de que (a inteligência artificial) reforce o preconceito e, assim, agrave ou possibilite práticas discriminatórias”. Shepherd é membro do Comitê da ONU para a eliminação da discriminação racial, composto por 18 especialistas. Nesta quinta-feira (26), o grupo publicou um relatório com recomendações às autoridades para combater esse problema.

O comitê está preocupado particularmente com os algoritmos usados entre as ferramentas policiais de “prevenção” ou “avaliação de riscos”, assim como pelo motor de busca ou as redes sociais preferidas das pessoas, que podem ser bombardeadas com publicidade preconceituosa.

Esses sistemas de vigilância que supostamente apoiam a prevenção de crimes, e foram implementados pela primeira vez nos Estados Unidos em meados da década de 2000, são também criticados porque reforçam os preconceitos sobre algumas comunidades.

Ciclo vicioso

“Os dados históricos sobre prisões em um bairro determinado (que alimentam a inteligência artificial) podem refletir muito bem as práticas policiais preconceituosas” e, consequentemente, reproduzi-las, destaca Shepherd. “Esses dados aumentam o risco de um excesso de presença policial que poderia levar a realizar mais prisões e, desse modo, criar um ciclo vicioso”, alerta. “Dados incorretos provocam maus resultados”, resume.

Entre suas recomendações, o comitê também expressa preocupação pelo uso cada vez mais generalizado do reconhecimento facial ou outras tecnologias de supervisão utilizadas em missões de segurança. Novamente, em relação a isso, o discernimento da inteligência artificial está intimamente vinculado aos dados usados para “educar” esses sistemas, explica a especialista jamaicana. Estudos realizados demonstraram que esses dados têm dificuldades para reconhecer os rostos de pele escura ou de mulheres.

Um preconceito bem ilustrado, por exemplo, foi a prisão este ano em Detroit de um homem negro americano, Robert Williams, com base em “conclusões” de um algoritmo mal desenvolvido, que o identificou como o suspeito de um roubo.

“Recebemos reclamações sobre esta forma de identificação errônea fruto dessas tecnologias, de quem as desenvolve ou dos exemplos utilizados por esses sistemas”, indica Shepherd e acrescenta: “é uma preocupação real”.

O comitê pede aos países que regulamentem as empresas que trabalham neste setor para garantir que tais sistemas respeitem as leis internacionais sobre direitos humanos.

O relatório insiste na necessidade de transparência na concepção e aplicação desses direitos para o público em geral.

As recomendações do comitê não se limitam a essas novas tecnologias. “O desenvolvimento de perfis raciais não começou com elas”, lembra Shepherd. Ela espera que “a intensificação e internacionalização do movimento Black Lives Matter (…) e outras campanhas que denunciam a discriminação contra grupos vulneráveis ajudarão (a destacar) a importância dessas recomendações”.

// RFI

COMPARTILHAR

DEIXE UM COMENTÁRIO:

EUA: Estudo traz primeiros resultados 'promissores' de vacina de RNA mensageiro contra Aids

Uma vacina usando a tecnologia de RNA mensageiro, a mesma que algumas vacinas contra a Covid-19, pode ser usada desta vez contra a Aids. É o que mostram os primeiros resultados promissores de testes …

Viagem de Lula à Argentina visa fortalecer governo de Fernández e teoria de lawfare contra Kirchner

O ex-presidente Lula será o primeiro estrangeiro a discursar diante de uma multidão na Praça de Maio, em Buenos Aires, em um ato destinado a renovar o vínculo do governo argentino com o seu …

Após EUA, vários países se mobilizam em boicote aos Jogos Olímpicos de Inverno de Pequim

Reino Unido, Austrália, Canadá, Nova Zelândia seguiram os passos dos Estados Unidos e anunciaram que também vão participar do “boicote diplomático” aos Jogos Olímpicos de Inverno de Pequim, previstos para fevereiro. Os países acusam …

Musk anuncia que Neuralink testará microchips neuronais em humanos em 2022

O bilionário e empreendedor norte-americano referiu que já testou com sucesso um implante cerebral em um macaco, e quer agora que essa tecnologia seja aplicada em humanos. Os humanos poderão ter implantes cerebrais da empresa Neuralink …

Cientistas americanos encontram substância contra coronavírus em algas para sushi

Biólogos americanos esperam que sua descoberta ajude na criação de tratamentos antivírus com base em plantas. Os cientistas determinaram que o sulfato de rhamnan – polissacarídeo componente das algas verdes Monostroma nitidum, utilizadas para embrulhar o …

Mulheres comandam metade dos ministérios no governo Scholz

Futuro chanceler confirma nomes finais do seu governo, que deverá começar os trabalhos ainda esta semana. Percentual de mulheres no comando de ministérios federais é o maior da história da Alemanha. O próximo chanceler federal da …

Biden e Putin fazem videoconferência para tentar resolver impasse na Ucrânia

Joe Biden e Vladimir Putin se preparam para uma vídeoconferência nesta terça-feira (7) em um momento em que as tensões entre Washington e Moscou se intensificam com rumores de uma iminente invasão da Ucrânia …

Aung San Suu Kyi é condenada a 4 anos de prisão

Líder deposta por golpe militar em Mianmar enfrenta série de acusações que a Anistia Internacional chama de falsas. Novo veredicto deve sair nos próximos dias. A líder deposta de Mianmar, Aung San Suu Kyi, foi condenada …

Em último vídeo do mandato, Merkel pede que população se vacine

A chanceler alemã Angela Merkel, que deixará o poder na próxima quarta-feira (8), voltou a defender neste sábado (4) a vacinação contra a Covid-19, no último de uma série de mais de 600 vídeos …

Descobrem na China ferramenta de marfim de 99 mil anos, possivelmente a mais antiga do país

Pesquisadores desenterraram uma pá de marfim datada de há cerca de 99.000 anos em um sítio arqueológico do Paleolítico na província chinesa de Shandong. Acredita-se que o objeto seja uma das primeiras ferramentas de osso utilizadas …