Especialistas da ONU advertem sobre viés racista em algoritmos

Os países devem fazer mais para combater o racismo, principalmente nos algoritmos de inteligência artificial utilizados para reconhecimento facial e controles policiais. Essas ferramentas podem reforçar discriminações, alertam especialistas da ONU.

Segundo a especialista jamaicana Verene Shepherd, “existe um grande risco de que (a inteligência artificial) reforce o preconceito e, assim, agrave ou possibilite práticas discriminatórias”. Shepherd é membro do Comitê da ONU para a eliminação da discriminação racial, composto por 18 especialistas. Nesta quinta-feira (26), o grupo publicou um relatório com recomendações às autoridades para combater esse problema.

O comitê está preocupado particularmente com os algoritmos usados entre as ferramentas policiais de “prevenção” ou “avaliação de riscos”, assim como pelo motor de busca ou as redes sociais preferidas das pessoas, que podem ser bombardeadas com publicidade preconceituosa.

Esses sistemas de vigilância que supostamente apoiam a prevenção de crimes, e foram implementados pela primeira vez nos Estados Unidos em meados da década de 2000, são também criticados porque reforçam os preconceitos sobre algumas comunidades.

Ciclo vicioso

“Os dados históricos sobre prisões em um bairro determinado (que alimentam a inteligência artificial) podem refletir muito bem as práticas policiais preconceituosas” e, consequentemente, reproduzi-las, destaca Shepherd. “Esses dados aumentam o risco de um excesso de presença policial que poderia levar a realizar mais prisões e, desse modo, criar um ciclo vicioso”, alerta. “Dados incorretos provocam maus resultados”, resume.

Entre suas recomendações, o comitê também expressa preocupação pelo uso cada vez mais generalizado do reconhecimento facial ou outras tecnologias de supervisão utilizadas em missões de segurança. Novamente, em relação a isso, o discernimento da inteligência artificial está intimamente vinculado aos dados usados para “educar” esses sistemas, explica a especialista jamaicana. Estudos realizados demonstraram que esses dados têm dificuldades para reconhecer os rostos de pele escura ou de mulheres.

Um preconceito bem ilustrado, por exemplo, foi a prisão este ano em Detroit de um homem negro americano, Robert Williams, com base em “conclusões” de um algoritmo mal desenvolvido, que o identificou como o suspeito de um roubo.

“Recebemos reclamações sobre esta forma de identificação errônea fruto dessas tecnologias, de quem as desenvolve ou dos exemplos utilizados por esses sistemas”, indica Shepherd e acrescenta: “é uma preocupação real”.

O comitê pede aos países que regulamentem as empresas que trabalham neste setor para garantir que tais sistemas respeitem as leis internacionais sobre direitos humanos.

O relatório insiste na necessidade de transparência na concepção e aplicação desses direitos para o público em geral.

As recomendações do comitê não se limitam a essas novas tecnologias. “O desenvolvimento de perfis raciais não começou com elas”, lembra Shepherd. Ela espera que “a intensificação e internacionalização do movimento Black Lives Matter (…) e outras campanhas que denunciam a discriminação contra grupos vulneráveis ajudarão (a destacar) a importância dessas recomendações”.

// RFI

COMPARTILHAR

DEIXE UM COMENTÁRIO:

Como brasileiros driblam a alta dos preços dos alimentos

Inflação mudou os itens nos carrinhos de supermercado e chegou a afetar a popularidade de Lula. Famílias de diferentes bairros de São Paulo contam sobre sua forma de lidar com a situação. "Driblar os preços." É …

Como Alzheimer deixou ator Gene Hackman sozinho em seus últimos dias: 'Era como se vivesse em um filme que se repetia'

O ator Gene Hackman estava sozinho em sua casa, na cidade de Santa Fé, Novo México, nos EUA, quando faleceu. A estrela de Hollywood, com duas estatuetas do Oscar, não fez uma única ligação e não …

Fenômeno misterioso no centro de galáxia pode revelar nova matéria escura

Pesquisadores do King's College London apontaram, em um novo estudo, que um fenômeno misterioso no centro da nossa galáxia pode ser o resultado de um tipo diferente de matéria escura. A matéria escura é um dos …

ONU caminha para 80 anos focando em reformas e modernização

O líder das Nações Unidas, António Guterres, anunciou o lançamento da iniciativa ONU 80 que quer atualizar a organização para o século 21. Na manhã desta quarta-feira, ele falou a jornalistas na sede da ONU que …

Premiê português cai após denúncia de conflito de interesses

Luís Montenegro perdeu voto de confiança no Parlamento, abrindo caminho para novas eleições. Denúncia envolve pagamentos de uma operadora de cassinos a empresa de consultoria fundada por político. O primeiro-ministro de Portugal, Luís Montenegro, e sua …

Como a poluição do ar em casa afeta a saúde e piora doenças respiratórias

Um levantamento feito em 2024 pela associação Santé Respiratoire France, a pedido da empresa francesa Murprotec, uma das maiores do setor, mostrou que a poluição em ambientes fechados é até nove vezes maior do …

1ª mulher presidente no STM: “Se chegarem denúncias sobre o 8 de janeiro, vamos julgá-las”

Em entrevista à Agência Pública, Maria Elizabeth Rocha, fala de golpe, Justiça Militar e extremismo nas Forças Armadas. O caminho da ministra do Superior Tribunal Militar (STM) Maria Elizabeth Rocha até a presidência da Corte, no …

Fim do Skype: veja 7 apps para fazer chamadas de vídeo

A Microsoft anunciou que o Skype será desativado em 5 de maio de 2025, depois de mais de 20 anos de serviço. Depois do encerramento da plataforma, os usuários poderão migrar para o Microsoft Teams …

O que aconteceu nos países que não fizeram lockdown na pandemia de covid

Em março de 2020, bilhões de pessoas olhavam pelas janelas para um mundo que não reconheciam mais. De repente, confinadas em suas casas, suas vidas haviam se reduzido abruptamente a quatro paredes e telas de …

Iniciativa oferece 3,1 mil bolsas para mulheres em programação e dados

Confederações de bancários e Febraban anunciaram vagas em três cursos. A Federação Brasileira de Bancos (Febraban) e as confederações de bancários – como a Contraf e o Contec – anunciaram nesta terça-feira (11) a oferta …