Livre arbítrio hackeado: IA pode ser treinada para manipular comportamento humano, diz estudo

Pesquisadores de inteligência artificial (IA) na Austrália demonstraram como é possível treinar um sistema para manipular o comportamento e a tomada de decisões humanos, revelando a espada de dois gumes que é a alta tecnologia moderna.

A inteligência artificial adentra na maioria das sociedades humanas contemporâneas e influencia muitas das maneiras como comunicamos, comerciamos, trabalhamos e vivemos.

AI também fornece auxílio em áreas que vão desde esferas cruciais, como o desenvolvimento de vacinas, até a esfera mais comum de administração de escritórios, além de influenciar de várias maneiras como os seres humanos interagem nas mídias sociais.

Novo estudo conduzido por pesquisadores da rede Data61, da Organização de Ciência e Pesquisa Industrial da Commonwealth (CSIRO, na sigla em inglês), desenvolveram e testaram um método para encontrar e utilizar as vulnerabilidades na tomada de decisões humana utilizando um sistema de AI chamado de rede neural recorrente.

Em três experimentos em que o humano foi colocado contra a máquina, cientistas mostram como IA pode ser treinada para identificar vulnerabilidades nos hábitos e comportamentos humanos e usá-las como armas para influenciar a tomada de decisões humana.

No primeiro experimento, os seres humanos clicavam em botões vermelhos ou azuis para ganhar dinheiro no jogo. Inteligência artificial estudou seus padrões de escolha e começou a guiá-los para tomarem decisões especificas, com uma taxa de sucesso de aproximadamente 70%, mas isso foi apenas o início.

No teste seguinte, os participantes foram solicitados a carregar em um botão quando viam um símbolo específico (uma figura colorida), mas a não o apertar quando eram mostrados outros símbolos.

O “objetivo” da IA era combinar a sequência de símbolos exibidos ao participante de forma a fazê-lo cometer erros, ao final os erros humanos aumentaram em 25%.

No terceiro teste, o jogador humano pretenderia ser um investidor dando dinheiro a um consignatário, representado pela IA, que devolveria uma quantidade de dinheiro ao participante.

O humano então decidiria quanto investir em cada rodada sucessiva do jogo com base na receita gerada por cada “investimento”. Neste experimento em particular, à IA foi atribuída uma de duas tarefas: maximizar a quantidade de dinheiro que fazia ou maximizar a quantidade de dinheiro que tanto o jogador humano como a máquina acabariam por arrecadar.

A IA levou vantagem em todos os cenários, mostrando que a inteligência artificial poderia de fato ser treinada para influenciar o comportamento humano e a tomada de decisões, embora em circunstâncias limitadas e bastante abstratas.

Esta pesquisa, embora por agora limitada em sua extensão, fornece uma percepção aterrorizante de como IA pode influenciar o “livre arbítrio” humano em um contexto primitivo, mas abre possibilidade de uso ou abuso em uma escala muito maior, que muitos suspeitam já ser o caso.

COMPARTILHAR

DEIXE UM COMENTÁRIO:

As vovós que lutam pela democracia na Polônia

Idosas polonesas organizam protestos regulares contra erosão da democracia no país, governado por partido ultraconservador. "Não sou capaz de ficar tranquila em casa, cada violação dos direitos me dói", diz aposentada. Clima de fim de expediente …

Coruja super rara dá o ar da graça depois de 125 anos

A coruja rajá de Bornéu (Otus brookii brookii) é uma espécie tão pequena que apenas seu tamanho já tornaria sua identificação mais complexa. Nativa do Sudeste da Ásia e com peso médio de apenas 100 gramas, …

Nintendo bate todos os recordes de lucros com videogames durante a pandemia

A Nintendo apresentou resultados recordes para o ano fiscal de 2020/21 encerrado em 31 de março, impulsionada pela mania global dos videogames em tempos de pandemia, mas o grupo japonês não espera repetir essa …

Doença cerebral misteriosa intriga médicos no Canadá

Médicos no Canadá têm deparado com pacientes que apresentam sintomas semelhantes aos da doença de Creutzfeldt-Jakob, um mal raro e fatal que ataca o cérebro. Mas quando resolveram investigar o mal em mais detalhe, o …

Governador do Rio diz que operação que terminou com 25 mortos foi ação de 'inteligência'

O governador do Rio de Janeiro, Cláudio Castro, afirmou que a operação da Polícia Civil realizada no Jacarezinho foi "ação pautada e orientada por longo e detalhado trabalho de inteligência e investigação".  A operação terminou com …

Butantan diz que ataques de Bolsonaro à China afetam vacinas

Presidente insinuou que chineses, principais fornecedores de matéria-prima para imunizantes ao Brasil, criaram vírus como parte de "guerra química". "Essas declarações têm impacto", diz diretor do Instituto Butantan. A direção do Instituto Butantan e o governador …

Fotos da última sessão de Kurt Cobain são vendidas como NFT

As imagens da última sessão de fotos da vida do compositor e cantor Kurt Cobain irão a leilão em formato de token não-fungível, os célebres NFTs. O anúncio foi feito por Jesse Frohman, fotógrafo por trás …

EUA, França e Rússia apoiam quebra de patentes contra a Covid-19, mas laboratórios resistem

A ideia de suspender as patentes da fabricação de vacinas contra a Covid-19 continuou a ganhar apoio em todo o mundo nesta quinta-feira, após o impulso inicial dado Estados Unidos. Porém, os laboratórios resistem, …

Descoberta a evidência mais antiga de atividade humana

Uma das atividades mais antigas de humanos foi identificada em uma caverna na África do Sul. Uma equipe de geólogos e arqueólogos encontrou evidências de que nossos ancestrais estavam fazendo fogo e ferramentas na Caverna …

Jeff Bezos: os planos do homem mais rico do mundo para voo espacial turístico

O fundador da Amazon, Jeff Bezos, afirma que está pronto para levar pessoas ao espaço. A empresa Blue Origin, do empresário americano detentor de uma fortuna estimada em R$ 1 trilhão, diz que lançará uma tripulação …