Ainda como parte de seu movimento para lidar com a proliferação do terrorismo e extremismo em sua rede, o Facebook revelou que usará inteligência artificial para auxiliar na moderação de postagens.
A empresa diz que está aplicando sistemas de aprendizado e análise juntamente à moderação de conteúdo por mãos humanas, de forma a impedir até mesmo que conteúdos violentos ou que façam propaganda desses ideais sejam publicados.
Por meio de análises de comportamento, palavras-chave e diversos outros atributos, o sistema seria capaz de marcar e até mesmo deletar conteúdos categorizados como terroristas. Além disso, usuários associados a movimentos extremistas ou que possam ter relações com eles também serão indicados aos moderadores humanos e podem ser impedidos de publicar na rede social.
Fotos e vídeos de decapitações, combates e inimigos mortos, por exemplo, estão entre o tipo de conteúdo que será retirado do ar. Publicações desse caráter não devem mais ser permitidas no Facebook, com os usuários, muitas vezes, sendo alertados sobre isso antes mesmo de a publicação ir ao ar.
O objetivo do Facebook é criar um sistema que se alimente sozinho, aprendendo cada vez mais a lidar com o extremismo na medida em que localiza usuários relacionados a isso ou bloqueia publicações.
A inteligência artificial, claro, trabalha lado a lado com a moderação humana, algo essencial para que a empresa possa garantir um ambiente mais seguro para os usuários.
150 profissionais falantes de 30 idiomas estão trabalhando no sistema, com a rede social tendo a ambição de vê-lo, um dia, caminhando com as próprias pernas e lidando com todas as questões desse tipo.
O Facebook possui times dedicados exclusivamente a trabalhar no combate ao terrorismo, tendo, inclusive, políticas específicas para esse fim, além de estar passando por uma onda de contratações voltada para melhorar a moderação e a proteção de seus utilizadores contra abuso, assédio, bullying e outras formas de violência online.
As atitudes são uma resposta às críticas de que o site não fazia o bastante para garantir isso, permitindo a livre proliferação de ideais extremistas simplesmente por não tomar uma atitude.
A onda de atentados terroristas na Europa levou a um agravamento da situação, principalmente depois que a primeira ministra britânica Theresa May disse que as companhias de internet têm responsabilidade nesse combate, mas não estariam agindo de acordo.
A internet tem sido cada vez mais o principal meio empregado por terroristas para realizar recrutamento, com novas contas e publicações surgindo em um ritmo maior que a capacidade dos serviços de se adaptarem a essa nova realidade.
Já está mais do que na hora de isso acontecer, e, com seu sistema de inteligência artificial, o Facebook parece disposto a recuperar o tempo perdido.
// CanalTech
