Carlos Severo / Fotos Públicas
Um grupo de cientistas de algumas das mais prestigiadas universidades norte-americanas está se opondo a uma proposta do governo Trump de criar um sistema de inteligência artificial (IA) que automatize o trabalho de verificação de antecedentes para imigração. A ideia seria facilitar a localização de eventuais riscos para as agências responsáveis pelo controle de estrangeiros no país.
Os envolvidos publicaram uma carta aberta na qual afirmam que o desenvolvimento de uma solução desse tipo, que trabalhe de maneira objetiva, seria impossível. Pelo contrário, os cientistas temem que esse tipo de tecnologia possa ser usado de forma racista e xenofóbica, levando a uma identificação automática de certos grupos políticos e religiosos que possam estar em desacordo com as propostas da administração Trump.
A carta aberta sobre o assunto é assinada por pesquisadores de universidades como Sanford, Columbia, Carnegie Mellon e MIT, além de funcionários dos braços de pesquisa da Google e da Microsoft.
Ela não para ao pedir que o governo abandone a ideia, mas também serve como uma demonstração de intenção – os envolvidos no manifesto recusam a participação em qualquer projeto do governo relacionado à identificação e catalogação de informações sobre imigrantes.
O desenvolvimento de uma inteligência artificial para, em teoria, facilitar o trabalho do departamento de imigração é uma das propostas iniciais do governo de Donald Trump.
Uma de suas grandes plataformas políticas durante as eleições de 2016 foi um controle maior para a entrada de estrangeiros no país, em prol da luta contra o terrorismo e da manutenção da oferta de empregos nos Estados Unidos. O trabalho resultante disso, entretanto, é hercúleo, o que nos leva à atual busca por automação.
Não ajuda, entretanto, o fato de que, na mira do presidente norte-americano, estão dois grupos bem definidos – os latinos e os muçulmanos.
É justamente esse tipo de viés que os pesquisadores desejam evitar que exista durante o processo de imigração, de forma que a entrada ou não de alguém nos EUA seja definida a partir de critérios práticos e evidências reais, e não por meio de suposições obtidas a partir, apenas, do país de origem, condição financeira, religião ou posição política dos imigrantes.
Segundo matéria publicada na Co.Design, um dos pontos apontados pelos pesquisadores é a ocorrência de falsos positivos.
Na tentativa de prever atos como atentados terroristas, que não acontecem com frequência em relação à quantidade de imigrantes presentes nos Estados Unidos, o sistema poderia acabar marcando pessoas inocentes como um risco em potencial, não apenas comprometendo sua entrada ou permanência no país, como também levando a problemas com a lei.
Sendo assim, para os pesquisadores que assinam o manifesto, o desenvolvimento de um sistema de imigração desse tipo não apenas constitui um problema moral, mas também uma violação das liberdades civis dos imigrantes.
Eles pedem que outros cientistas também não se aliem ao governo na empreitada, além de solicitarem à própria administração que reveja seus processos de forma a tratar a todos de forma igualitária e justa.
Não é coincidência que muitos dos que assinam a carta também fazem parte do AI Now Institute, uma organização sem fins lucrativos que luta, justamente, para encontrar parâmetros éticos no desenvolvimento de inteligências artificiais.
A ideia da instituição é que sistema de catalogação de informação e triagem funcione de maneira justa, sem violar direitos dos cidadãos nem se ater a estereótipos na hora de tomar decisões que impactam na vida das pessoas.
Ciberia // CanalTech
