Por Jon Whittle
Publicado no The Conversation
A inteligência artificial (IA) está aprendendo mais sobre como trabalhar ao lado dos (e com) humanos. Um estudo recente mostrou como a IA pode aprender a identificar vulnerabilidades nos hábitos e comportamentos humanos e usá-los para influenciar a tomada de decisão humana.
Pode parecer clichê dizer que a IA está transformando todos os aspectos da maneira como vivemos e trabalhamos, mas é verdade. Várias formas de IA estão em ação em áreas tão diversas como o desenvolvimento de vacinas, a gestão ambiental e a administração de escritórios. E embora a IA não possua inteligência e emoções semelhantes às humanas, suas capacidades são poderosas e se desenvolvem rapidamente.
Não há necessidade de se preocupar com rebelião das máquinas ainda, mas esta recente descoberta destaca o poder da IA e ressalta a necessidade de governança adequada para evitar o uso indevido.
Como a IA pode aprender a influenciar o comportamento humano
Uma equipe de pesquisadores do Data61 da CSIRO, o braço digital e o banco de dados da agência científica nacional da Austrália, desenvolveu um método sistemático de encontrar e explorar vulnerabilidades nas maneiras como as pessoas fazem escolhas, usando um tipo de sistema de IA chamado rede neural recorrente e aprendizagem por reforço profundo. Para testar seu modelo, eles realizaram três experimentos nos quais participantes humanos jogavam contra um computador.
O primeiro experimento envolveu os participantes clicando em caixas coloridas vermelhas ou azuis para ganhar uma moeda falsa, com a IA aprendendo os padrões de escolha do participante e os guiando para uma escolha específica. A IA foi bem-sucedida em cerca de 70% das vezes.
No segundo experimento, os participantes foram solicitados a assistir a uma tela e pressionar um botão quando for mostrado um símbolo específico (como um triângulo laranja) e não pressioná-lo quando for mostrado outro (digamos, um círculo azul). Aqui, a IA se propôs a organizar a sequência de símbolos para que os participantes cometessem mais erros, resultando em um aumento de quase 25% nos erros.
O terceiro experimento consistiu em várias rodadas nas quais um participante fingia ser um investidor dando dinheiro a um administrador (a IA). A IA então devolveria uma quantia em dinheiro ao participante, que decidiria quanto investir na próxima rodada. Este jogo era jogado em dois modos diferentes: em um, a IA buscava maximizar quanto dinheiro recebia e, no outro, a IA objetivava uma distribuição justa de dinheiro entre ela e o investidor humano. A IA foi muito bem-sucedida em cada modo.
Em cada experimento, a máquina aprendeu com as respostas dos participantes e identificou e direcionou as vulnerabilidades na tomada de decisão das pessoas. O resultado final foi que a máquina aprendeu a orientar os participantes para ações específicas.
O que a pesquisa significa para o futuro da IA
Esses achados ainda são bastante abstratos e envolvem situações limitadas e irrealistas. Mais pesquisas são necessárias para determinar como essa abordagem pode ser colocada em ação e usada para beneficiar a sociedade.
Mas a pesquisa aumenta nossa compreensão não apenas do que a IA pode fazer, mas também de como as pessoas fazem escolhas. Mostra que as máquinas podem aprender a orientar a tomada de decisões humanas por meio de suas interações com a gente.
A pesquisa tem uma gama enorme de aplicações possíveis, desde o aprimoramento das ciências comportamentais e das políticas públicas para melhorar o bem-estar social, até entender e influenciar como as pessoas adotam hábitos alimentares saudáveis ou fazem uso de fontes de energias renováveis. A IA e o aprendizado de máquina podem ser usados para reconhecer as vulnerabilidades das pessoas em certas situações e ajudá-las a evitar escolhas ruins.
O método também pode ser usado para se defender contra golpistas que buscam nos influenciar. As máquinas podem ser ensinadas a nos alertar quando estamos sendo influenciados online, por exemplo, e nos ajudar a moldar um comportamento para disfarçar nossa vulnerabilidade (por exemplo, não clicando em algumas páginas ou clicando em outras para deixar um rastro falso).
Qual será o próximo passo?
Como qualquer tecnologia, a IA pode ser usada para o bem ou para o mal, e a governança adequada é crucial para garantir que seja implementada de forma responsável. No ano passado, a CSIRO desenvolveu uma Estrutura de Ética de AI para o governo australiano como uma etapa inicial dessa jornada.
A IA e o aprendizado de máquina costumam depender muito de dados, o que significa que é crucial garantir que tenhamos sistemas eficazes para governança e acesso de dados. É essencial implementar processos de consentimento e proteção de privacidade adequados durante a coleta de dados.
As organizações que usam e desenvolvem IA precisam garantir que sabem o que essas tecnologias podem e não podem fazer e estar cientes dos riscos potenciais, bem como dos benefícios.
