Pesquisadores desenvolveram IA que distingue conspirações reais das teorias da conspiração

0
238
(Créditos: Tarik Haiga/Unsplash)

Traduzido por Julio Batista
Original de Timothy R. Tangherlini para o  The Conversation

Um caso estranhou aconteceu poucos anos atrás. Um áudio na filmagem da câmera policial, de forma trêmula, era claro. Enquanto os policiais revistam um homem algemado que momentos antes havia disparado dentro de uma pizzaria, um policial pergunta o motivo dele estar ali.

O homem diz para investigarem uma quadrilha de pedófilos. Incrédulo, o oficial pergunta novamente. Outro policial interrompe: “Pizzagate. Ele está falando sobre Pizzagate”.

Nessa interação breve e assustadora em 2016, fica claro que as teorias da conspiração, há muito relegadas às sombras da sociedade, entraram no mundo real de uma forma muito perigosa.

Teorias de conspiração, que têm o potencial de causar danos significativos, encontraram um lar acolhedor nas redes sociais, onde fóruns sem moderação permitem que indivíduos com ideias semelhantes conversem. Lá eles podem desenvolver suas teorias e propor ações para neutralizar as ameaças que eles “descobrem”.

Mas como você pode saber se uma narrativa emergente na mídia social é uma teoria da conspiração infundada? Acontece que é possível distinguir entre teorias da conspiração e conspirações reais usando ferramentas de aprendizado de máquina para representar graficamente os elementos e as conexões de uma narrativa. Essas ferramentas podem formar a base de um sistema de prevenção precoce para alertar as autoridades sobre narrativas online que representam uma ameaça no mundo real.

O grupo de análise de cultura da Universidade da Califórnia (EUA), liderado por mim e Vwani Roychowdhury, desenvolveu uma abordagem automatizada para determinar quando as conversas nas redes sociais refletem os sinais reveladores da teorização da conspiração.

Aplicamos esses métodos com sucesso ao estudo do Pizzagate, a pandemia de COVID-19 e movimentos antivacinação. Atualmente, estamos usando esses métodos para estudar o QAnon.

Construídas de forma colaborativa, elas se formam rapidamente

Conspirações reais são deliberadamente ocultas, ações da vida real de pessoas trabalhando juntas para seus próprios propósitos malignos. Em contraste, as teorias da conspiração são construídas de forma colaborativa e se desenvolvem abertamente.

As teorias da conspiração são deliberadamente complexas e refletem uma visão de mundo abrangente. Em vez de tentar explicar uma coisa, uma teoria da conspiração tenta explicar tudo, descobrindo conexões entre domínios da interação humana que de alguma maneira estão ocultos – principalmente porque não existem.

Embora a imagem popular do teórico da conspiração seja a de um lobo solitário montando conexões intrigantes com fotografias e barbante vermelho na parede, essa imagem não se aplica mais na era das mídias sociais. A teorização da conspiração tornou-se online e agora é o produto final de uma narrativa coletiva. Os participantes elaboram os parâmetros de uma estrutura narrativa: as pessoas, lugares e características de uma história e seus relacionamentos.

A natureza online da teorização da conspiração fornece uma oportunidade para os pesquisadores rastrearem o desenvolvimento dessas teorias desde suas origens, como uma série de rumores frequentemente desconexos e peças de uma história, para uma narrativa abrangente. Para o nosso trabalho, a Pizzagate apresentou o tema perfeito.

O Pizzagate começou a se desenvolver no final de outubro de 2016, durante a corrida para as eleições presidenciais. Dentro de um mês, estava totalmente formado, com um elenco completo de personagens retirados de uma série de domínios não vinculados: política dos Democratas, a vida privada dos irmãos Podesta, jantares familiares casuais e tráfico pedófilo satânico.

O fio condutor da narrativa da conexão entre esses domínios díspares foi a interpretação fantasiosa dos e-mails vazados do Comitê Nacional Democrata divulgados pelo WikiLeaks na semana final de outubro de 2016.

Análise da narrativa pelo IA

Desenvolvemos um modelo – um conjunto de ferramentas de aprendizado de máquina – que pode identificar narrativas com base em conjuntos de pessoas, lugares, características e seus relacionamentos. Os algoritmos de aprendizado de máquina processam grandes quantidades de dados para determinar as categorias das coisas nos dados e, em seguida, identificar a quais categorias as coisas particulares pertencem.

Analisamos 17.498 postagens de abril de 2016 a fevereiro de 2018 nos fóruns do Reddit e 4chan onde o Pizzagate foi discutido. O modelo trata cada postagem como um fragmento de uma história oculta e começa a desvendar a narrativa. O software identifica as pessoas, lugares e as características nas postagens e determina quais são os elementos principais, quais são os elementos secundários e como estão todos conectados.

O modelo determina as camadas principais da narrativa – no caso de Pizzagate, a política dos Democratas, os irmãos Podesta, jantares casuais, satanismo e WikiLeaks – e como as camadas se unem para formar a narrativa como um todo.

Para garantir que nossos métodos produzissem resultados precisos, comparamos o gráfico da estrutura da narrativa produzido por nosso modelo com ilustrações publicadas no The New York Times. Nosso gráfico se alinhava com essas ilustrações e também oferecia níveis mais precisos de detalhes sobre pessoas, lugares, características e seus relacionamentos.

Verdade sólida x ficção frágil

Para ver se poderíamos distinguir entre uma teoria da conspiração e uma conspiração real, examinamos o Bridgegate, um escândalo de retribuição política que começou com uma operação lançada por membros da equipe do governo republicano Chris Christie contra o prefeito democrata de Fort Lee, em Nova Jersey.

Quando comparamos os resultados de nosso sistema de aprendizado de máquina usando as duas coleções separadas, duas características distintas de uma estrutura narrativa da teoria da conspiração se destacaram.

Em primeiro lugar, enquanto o gráfico narrativo do Bridgegate levou de 2013 a 2020 para se desenvolver, o gráfico de Pizzagate estava totalmente formado e estável em um mês. Em segundo lugar, o gráfico de Bridgegate sobreviveu com a remoção de elementos, o que implica que a política de Nova Jersey continuaria como uma rede única e conectada, mesmo que as principais figuras e relacionamentos do escândalo fossem excluídos.

O gráfico do Pizzagate, em contraste, foi facilmente dividido em subgráficos menores. Quando removemos as pessoas, lugares, características e relacionamentos que vieram diretamente das interpretações dos e-mails do WikiLeaks, o gráfico se desfez no que na realidade eram os domínios desconexos da política, jantares casuais, a vida privada dos Podestas e o mundo estranho do satanismo.

Na ilustração abaixo, os planos verdes são as camadas principais da narrativa, os pontos são os elementos principais da narrativa, as linhas azuis são conexões entre os elementos dentro de uma camada e as linhas vermelhas são conexões entre elementos através das camadas.

O plano roxo mostra todas as camadas combinadas, mostrando como os pontos estão todos conectados. A remoção do plano do WikiLeaks produz um plano roxo com pontos conectados apenas em pequenos grupos.

As camadas da teoria da conspiração do Pizzagate se combinam para formar uma narrativa, no canto superior direito. Remova uma camada, a das interpretações fantasiosas de e-mails divulgados pelo WikiLeaks, e toda a história se desfaz, no canto inferior direito. (Créditos: Tangherlini et al., CC BY 4.0)

Sistema de prevenção precoce?

Existem desafios éticos claros que nosso trabalho levanta. Nossos métodos, por exemplo, podem ser usados ​​para gerar postagens adicionais para uma discussão de teoria da conspiração que se encaixem na estrutura narrativa na raiz da discussão. Da mesma forma, dado qualquer conjunto de domínios, alguém poderia usar a ferramenta para desenvolver uma teoria da conspiração inteiramente nova.

No entanto, essa formação de armas para a narração de histórias já está ocorrendo sem métodos automáticos, como nosso estudo de fóruns de mídia social deixa claro. A comunidade de pesquisa tem o papel de ajudar os outros a entender como ocorre esse “armamento” e desenvolver ferramentas para pessoas e organizações que protegem a segurança pública e as instituições democráticas.

O desenvolvimento de um sistema de prevenção precoce que rastreia o surgimento e o alinhamento das narrativas da teoria da conspiração pode alertar os pesquisadores – e as autoridades – para ações do mundo real que as pessoas podem realizar com base nessas narrativas.

Talvez com esse sistema em vigor, o policial que prendeu o sujeito no caso Pizzagate não teria ficado perplexo com a resposta do atirador quando questionado do porquê ele apareceu em uma pizzaria armado com um rifle AR-15.