Livre arbítrio hackeado: IA pode ser treinada para manipular comportamento humano, diz estudo

Pesquisadores de inteligência artificial (IA) na Austrália demonstraram como é possível treinar um sistema para manipular o comportamento e a tomada de decisões humanos, revelando a espada de dois gumes que é a alta tecnologia moderna.

A inteligência artificial adentra na maioria das sociedades humanas contemporâneas e influencia muitas das maneiras como comunicamos, comerciamos, trabalhamos e vivemos.

AI também fornece auxílio em áreas que vão desde esferas cruciais, como o desenvolvimento de vacinas, até a esfera mais comum de administração de escritórios, além de influenciar de várias maneiras como os seres humanos interagem nas mídias sociais.

Novo estudo conduzido por pesquisadores da rede Data61, da Organização de Ciência e Pesquisa Industrial da Commonwealth (CSIRO, na sigla em inglês), desenvolveram e testaram um método para encontrar e utilizar as vulnerabilidades na tomada de decisões humana utilizando um sistema de AI chamado de rede neural recorrente.

Em três experimentos em que o humano foi colocado contra a máquina, cientistas mostram como IA pode ser treinada para identificar vulnerabilidades nos hábitos e comportamentos humanos e usá-las como armas para influenciar a tomada de decisões humana.

No primeiro experimento, os seres humanos clicavam em botões vermelhos ou azuis para ganhar dinheiro no jogo. Inteligência artificial estudou seus padrões de escolha e começou a guiá-los para tomarem decisões especificas, com uma taxa de sucesso de aproximadamente 70%, mas isso foi apenas o início.

No teste seguinte, os participantes foram solicitados a carregar em um botão quando viam um símbolo específico (uma figura colorida), mas a não o apertar quando eram mostrados outros símbolos.

O “objetivo” da IA era combinar a sequência de símbolos exibidos ao participante de forma a fazê-lo cometer erros, ao final os erros humanos aumentaram em 25%.

No terceiro teste, o jogador humano pretenderia ser um investidor dando dinheiro a um consignatário, representado pela IA, que devolveria uma quantidade de dinheiro ao participante.

O humano então decidiria quanto investir em cada rodada sucessiva do jogo com base na receita gerada por cada “investimento”. Neste experimento em particular, à IA foi atribuída uma de duas tarefas: maximizar a quantidade de dinheiro que fazia ou maximizar a quantidade de dinheiro que tanto o jogador humano como a máquina acabariam por arrecadar.

A IA levou vantagem em todos os cenários, mostrando que a inteligência artificial poderia de fato ser treinada para influenciar o comportamento humano e a tomada de decisões, embora em circunstâncias limitadas e bastante abstratas.

Esta pesquisa, embora por agora limitada em sua extensão, fornece uma percepção aterrorizante de como IA pode influenciar o “livre arbítrio” humano em um contexto primitivo, mas abre possibilidade de uso ou abuso em uma escala muito maior, que muitos suspeitam já ser o caso.

COMPARTILHAR

DEIXE UM COMENTÁRIO:

União Europeia começa exame contínuo da vacina russa Sputnik V

A Agência Europeia de Medicamentos (EMA, na sigla em inglês) deu início ao exame contínuo do dossiê de registo da vacina Sputnik V para verificar sua conformidade com as normas europeias de eficácia, segurança e …

Afrouxar uso de máscaras é "pensamento neandertal", diz Biden

O presidente dos Estados Unidos, Joe Biden, criticou nesta quarta-feira (03/03) a decisão dos estados do Texas e do Mississippi de suspender a obrigatoriedade do uso máscaras para conter a propagação do coronavírus. O democrata …

Argentina só vai habilitar motoristas que fizerem curso sobre igualdade de gênero

A partir de março e 2021 quem quiser tirar carteira de habilitação na Argentina terá de estudar mais do que somente as leis de trânsito, o funcionamento do automóvel e a própria condução de um …

ONGs denunciam grupo Casino na Justiça francesa por desmatamento na Amazônia

Organizações de defesa do meio ambiente e dos povos indígenas denunciaram nessa quarta-feira (3) o grupo Casino na Justiça francesa. A empresa é acusada de responsabilidade no desmatamento da Amazônia através da venda de …

Físico cria algoritmo de IA que pode provar que a realidade é uma simulação

Um cientista criou um algoritmo de computador que pode levar a descobertas transformadoras em energia e cuja própria existência levanta a probabilidade de que nossa realidade possa realmente ser uma simulação. O algoritmo foi criado pelo …

The Crown "é baseada na verdade", diz Harry que dá ideia de convívio com família real

Principe Harry defendeu a série “The Crown” da Netflix, dizendo que – embora não fosse “estritamente preciso” – retratava as pressões da vida dentro da família real. Em uma entrevista com James Corden, do programa americano …

Microsoft acusa hackers chineses de ciberataques a entidades dos EUA com uso de falhas desconhecidas

A Microsoft relatou a detecção de exploits desconhecidos utilizados por hackers chineses "patrocinados pelo Estado" destinados a atacar versões locais da Microsoft Exchange Server a fim de receber informações de entidades dos EUA. Exploit é uma …

Compra de mansão lança novas suspeitas sobre Flávio Bolsonaro

Filho mais velho do presidente comprou imóvel de luxo de R$ 6 milhões. Valor está bem acima do patrimônio declarado pelo senador, e condições de empréstimo para quitar mais da metade do valor levantam questionamentos. O …

Condenado a três anos de prisão, ex-presidente francês Sarkozy enfrenta outros processos na Justiça

Ele se tornou o primeiro ex-chefe de Estado francês a receber em primeira instância uma pena de prisão em regime fechado. Nicolas Sarkozy foi julgado culpado na segunda-feira (1°) por corrupção e tráfico de …

Colômbia é o 1º país latino-americano a receber vacinas da iniciativa COVAX

Nesta segunda-feira (1º), um lote de 117 mil doses da vacina da Pfizer/BioNTech chegou à Colômbia por meio da iniciativa COVAX. O país é o primeiro na região a receber os imunizantes do consórcio da …