Especialistas da ONU advertem sobre viés racista em algoritmos

Os países devem fazer mais para combater o racismo, principalmente nos algoritmos de inteligência artificial utilizados para reconhecimento facial e controles policiais. Essas ferramentas podem reforçar discriminações, alertam especialistas da ONU.

Segundo a especialista jamaicana Verene Shepherd, “existe um grande risco de que (a inteligência artificial) reforce o preconceito e, assim, agrave ou possibilite práticas discriminatórias”. Shepherd é membro do Comitê da ONU para a eliminação da discriminação racial, composto por 18 especialistas. Nesta quinta-feira (26), o grupo publicou um relatório com recomendações às autoridades para combater esse problema.

O comitê está preocupado particularmente com os algoritmos usados entre as ferramentas policiais de “prevenção” ou “avaliação de riscos”, assim como pelo motor de busca ou as redes sociais preferidas das pessoas, que podem ser bombardeadas com publicidade preconceituosa.

Esses sistemas de vigilância que supostamente apoiam a prevenção de crimes, e foram implementados pela primeira vez nos Estados Unidos em meados da década de 2000, são também criticados porque reforçam os preconceitos sobre algumas comunidades.

Ciclo vicioso

“Os dados históricos sobre prisões em um bairro determinado (que alimentam a inteligência artificial) podem refletir muito bem as práticas policiais preconceituosas” e, consequentemente, reproduzi-las, destaca Shepherd. “Esses dados aumentam o risco de um excesso de presença policial que poderia levar a realizar mais prisões e, desse modo, criar um ciclo vicioso”, alerta. “Dados incorretos provocam maus resultados”, resume.

Entre suas recomendações, o comitê também expressa preocupação pelo uso cada vez mais generalizado do reconhecimento facial ou outras tecnologias de supervisão utilizadas em missões de segurança. Novamente, em relação a isso, o discernimento da inteligência artificial está intimamente vinculado aos dados usados para “educar” esses sistemas, explica a especialista jamaicana. Estudos realizados demonstraram que esses dados têm dificuldades para reconhecer os rostos de pele escura ou de mulheres.

Um preconceito bem ilustrado, por exemplo, foi a prisão este ano em Detroit de um homem negro americano, Robert Williams, com base em “conclusões” de um algoritmo mal desenvolvido, que o identificou como o suspeito de um roubo.

“Recebemos reclamações sobre esta forma de identificação errônea fruto dessas tecnologias, de quem as desenvolve ou dos exemplos utilizados por esses sistemas”, indica Shepherd e acrescenta: “é uma preocupação real”.

O comitê pede aos países que regulamentem as empresas que trabalham neste setor para garantir que tais sistemas respeitem as leis internacionais sobre direitos humanos.

O relatório insiste na necessidade de transparência na concepção e aplicação desses direitos para o público em geral.

As recomendações do comitê não se limitam a essas novas tecnologias. “O desenvolvimento de perfis raciais não começou com elas”, lembra Shepherd. Ela espera que “a intensificação e internacionalização do movimento Black Lives Matter (…) e outras campanhas que denunciam a discriminação contra grupos vulneráveis ajudarão (a destacar) a importância dessas recomendações”.

// RFI

COMPARTILHAR

DEIXE UM COMENTÁRIO:

Xi deixa alerta para Biden: protecionismo norte-americano pode gerar 'nova Guerra Fria'

O líder chinês deixou um aviso para o presidente norte-americano, Joe Biden: os EUA arriscam entrar em uma nova Guerra Fria se continuarem com as políticas protecionistas do ex-presidente Donald Trump. Em um discurso virtual na …

Polícia prende ladrões que abriam túmulos e roubavam crânios para rituais nos EUA

A polícia do condado de Lake, no estado da Flórida, nos EUA, prendeu dois homens acusado de violarem sepulturas e roubarem crânios e ossos no cemitério Edgewood, na região. A investigação utilizou DNA encontrado em charuto, …

Instituto Pasteur abandona projeto de vacina contra Covid-19

O Instituto Pasteur da França anunciou nesta segunda-feira o abandono do seu principal projeto de vacina contra a Covid-19, após os resultados decepcionantes dos primeiros testes clínicos. "As respostas imunológicas induzidas foram inferiores às observadas …

Biden reimpõe restrições para passageiros procedentes do Brasil

O presidente dos Estados Unidos, Joe Biden, restabeleceu nesta segunda-feira (25/01) a proibição da entrada no país de pessoas procedentes da União Europeia, Reino Unido e Brasil para conter a pandemia de covid-19. A nova …

Quem é 'el Chapo asiático' que foi preso acusado de controlar mercado de drogas de R$ 380 bilhões

A polícia holandesa prendeu o suposto chefe de uma das maiores quadrilhas de tráfico de drogas do mundo: Tse Chi Lop, apelidado de "El Chapo" da Ásia. O cidadão canadense nascido na China é apontado como …

Homem recebe primeiro transplante duplo de braço e ombro

A ciência cada vez mais evoluída. Um homem da Islândia foi o primeiro do mundo a receber um transplante duplo de braço e ombro. A cirurgia foi um sucesso e o paciente, o islandês Felix Gretarsson, …

Bolsonaro pode enfrentar um tribunal internacional por crimes contra a humanidade

Jair Bolsonaro pode enfrentar acusações no Tribunal Penal Internacional (TPI) depois de ser acusado de crimes contra a humanidade. Líderes indígenas no Brasil e grupos de direitos humanos estão pedindo ao tribunal que investigue o presidente …

Presidente mexicano López Obrador é diagnosticado com Covid-19

O presidente do México, Andrés Manuel López Obrador, 67 anos, entrou para a lista dos líderes mundiais que foram infectados pela Covid-19. Ele informou nesse domingo (24) que testou positivo para o novo coronavírus, …

Desenterram em Jerusalém granada de mão britânica da 1ª Guerra Mundial

Em pleno centro da cidade de Jerusalém, foi desenterrada uma granada de mão britânica da Primeira Guerra Mundial. O artefato perigoso foi descoberto em uma antiga cisterna por Oscar Becherno, responsável pela escavação arqueológica em nome …

Portugueses reelegem presidente Rebelo de Sousa

Urnas em Portugal confirmam previsão de vitória do chefe de Estado de centro-direita, que ganha novo mandato de cinco anos. Combate à pandemia é prioridade. Como esperado, os portugueses reelegeram neste domingo (24/01) o presidente Marcelo Rebelo …