Apesar das falhas da inteligência artificial, como incentivar comportamentos perigosos, ela também pode ser usada para fins positivos. A O2, maior operadora de telefonia móvel do Reino Unido, implementou um chatbot de IA baseado em voz para distrair golpistas e mantê-los em conversas improdutivas. Chamado de Daisy, ou “dAIsy”, o chatbot imita a voz de uma pessoa idosa, que é o principal alvo dos golpistas por telefone.
O objetivo do Daisy é automatizar o processo de “scambaiting”, que consiste em enganar os golpistas, fazendo-os perder tempo para que não possam atacar vítimas reais. Os golpistas geralmente utilizam engenharia social para explorar a ingenuidade das pessoas idosas, convencendo-as, por exemplo, de que devem impostos atrasados e que serão presas se não enviarem dinheiro imediatamente.
Quando um golpista entra em contato com Daisy, ele se depara com uma conversa longa e sem resultados. Caso o golpista solicite informações pessoais, como dados bancários, Daisy inventa dados falsos. A O2 afirma que consegue atingir os golpistas ao incluir o número de telefone do Daisy em listas de “alvos fáceis” usadas pelos golpistas para identificar possíveis vítimas.
Em um vídeo demonstrativo do Daisy, trechos de conversas reais mostram golpistas ficando cada vez mais frustrados, enquanto permanecem ao telefone por mais de 40 minutos, esperando obter informações como números de cartões de crédito ou dados bancários. O modelo de IA criado pela O2 é bastante convincente, realizando todo o processamento em tempo real, o que é facilitado pela tendência das pessoas idosas falarem lentamente.
Entretanto, a preocupação com o uso de um chatbot como o Daisy é que a mesma tecnologia pode ser utilizada para fins opostos. Já vimos casos em que vozes de pessoas reais, como CEOs de grandes empresas, foram falsificadas para enganar outros e fazer com que enviassem dinheiro a golpistas. As pessoas idosas são vulneráveis o suficiente, e se elas receberem uma ligação de alguém com a voz de um neto, é quase certo que acreditarão que é uma chamada real.
No final, a melhor solução seria bloquear as ligações fraudulentas e desmantelar as organizações que orquestram esses golpes. As operadoras têm melhorado na identificação e bloqueio de números de golpistas, mas a batalha continua, pois os golpistas utilizam ferramentas de discagem automática que permitem ligar para muitos números rapidamente e só são avisados quando alguém atende. Um bot de IA que frustra os golpistas, respondendo e fazendo-os perder tempo, é um avanço, mesmo que não seja a solução definitiva.
