Pesquisadores de inteligência artificial (IA) na Austrália demonstraram como é possível treinar um sistema para manipular o comportamento e a tomada de decisões humanos, revelando a espada de dois gumes que é a alta tecnologia moderna.
A inteligência artificial adentra na maioria das sociedades humanas contemporâneas e influencia muitas das maneiras como comunicamos, comerciamos, trabalhamos e vivemos.
AI também fornece auxílio em áreas que vão desde esferas cruciais, como o desenvolvimento de vacinas, até a esfera mais comum de administração de escritórios, além de influenciar de várias maneiras como os seres humanos interagem nas mídias sociais.
Novo estudo conduzido por pesquisadores da rede Data61, da Organização de Ciência e Pesquisa Industrial da Commonwealth (CSIRO, na sigla em inglês), desenvolveram e testaram um método para encontrar e utilizar as vulnerabilidades na tomada de decisões humana utilizando um sistema de AI chamado de rede neural recorrente.
Em três experimentos em que o humano foi colocado contra a máquina, cientistas mostram como IA pode ser treinada para identificar vulnerabilidades nos hábitos e comportamentos humanos e usá-las como armas para influenciar a tomada de decisões humana.
No primeiro experimento, os seres humanos clicavam em botões vermelhos ou azuis para ganhar dinheiro no jogo. Inteligência artificial estudou seus padrões de escolha e começou a guiá-los para tomarem decisões especificas, com uma taxa de sucesso de aproximadamente 70%, mas isso foi apenas o início.
No teste seguinte, os participantes foram solicitados a carregar em um botão quando viam um símbolo específico (uma figura colorida), mas a não o apertar quando eram mostrados outros símbolos.
O “objetivo” da IA era combinar a sequência de símbolos exibidos ao participante de forma a fazê-lo cometer erros, ao final os erros humanos aumentaram em 25%.
No terceiro teste, o jogador humano pretenderia ser um investidor dando dinheiro a um consignatário, representado pela IA, que devolveria uma quantidade de dinheiro ao participante.
O humano então decidiria quanto investir em cada rodada sucessiva do jogo com base na receita gerada por cada “investimento”. Neste experimento em particular, à IA foi atribuída uma de duas tarefas: maximizar a quantidade de dinheiro que fazia ou maximizar a quantidade de dinheiro que tanto o jogador humano como a máquina acabariam por arrecadar.
A IA levou vantagem em todos os cenários, mostrando que a inteligência artificial poderia de fato ser treinada para influenciar o comportamento humano e a tomada de decisões, embora em circunstâncias limitadas e bastante abstratas.
Esta pesquisa, embora por agora limitada em sua extensão, fornece uma percepção aterrorizante de como IA pode influenciar o “livre arbítrio” humano em um contexto primitivo, mas abre possibilidade de uso ou abuso em uma escala muito maior, que muitos suspeitam já ser o caso.
// Sputnik
