Os chatbots de IA estão ganhando vida em todo o mundo e, à medida que as conversas com uma grande variedade de robôs se tornam possíveis, várias empresas estão oferecendo aos usuários a oportunidade de conversar com uma “simulação” de seus entes queridos falecidos por preços tão baixos quanto US$ 10.
Leia também: Os chatbots mais recentes são capazes de ‘ressuscitar’ os mortos
Os especialistas em ética Tomasz Hollanek e Katarzyna Nowaczyk-Basińska, da Universidade de Cambridge, são os últimos a expressar as suas preocupações sobre os riscos da “indústria digital da vida após a morte”.
Eles argumentam que os chatbots que imitam pessoas falecidas – às vezes chamados de deadbots, griefbots ou ghostbots – colocam várias questões sociais e éticas importantes que ainda temos que enfrentar.
Alguns que já aderiram à tecnologia se confortam com as simulações de texto, voz ou vídeo. Eles dizem que parece que seus entes queridos realmente estão falando com eles do além-túmulo. Outros consideram a imortalização do falecido pela IA desconcertante e manipuladora.
Tipo, quem é o dono dos dados de uma pessoa depois que ela morre? Qual é o efeito psicológico nos sobreviventes? Para que pode ser usado um deadbot? E quem pode desligar o bot para sempre?
Essas questões já inspiraram um episódio misterioso da série de ficção científica Black Mirror. Agora, esse futuro imaginado parece cada vez mais possível.
Tal consideração por um chatbot de IA pode parecer absurda à primeira vista, mas em 2018, alguns especialistas em ética argumentaram que os restos digitais de uma pessoa são preciosos e deveriam ser tratados como mais do que apenas uma forma de lucro, mas como “uma entidade que detém valor inerente”.
Pense nos riscos do seguinte cenário potencial, que Hollanek e Nowaczyk-Basińska apresentaram no seu recente artigo de investigação. A avó de uma mulher de 28 anos morre e ela decide enviar suas trocas de texto e notas de voz para um aplicativo. Este aplicativo permite que a mulher chame uma simulação de IA de sua falecida avó sempre que quiser. Após um teste gratuito, sua avó digital começa a vender suas coisas enquanto conversa com ela.
“Métodos e até rituais para aposentar os deadbots de forma digna devem ser considerados. Isso pode significar uma forma de funeral digital…”
Esta lógica está alinhada com o Código de Ética Profissional do Conselho Internacional de Museus, que determina que os restos mortais sejam tratados com o devido respeito e com a dignidade humana “inviolável”.
Hollanek e Nowaczyk-Basińska não consideram viável uma proibição total dos deadbots, mas argumentam que as empresas devem tratar os dados dos doadores “com reverência”.
Em 2022, a especialista em ética Nora Freya Lindemann argumentou que os deadbots deveriam ser classificados como dispositivos médicos para garantir que a saúde mental fosse uma prioridade fundamental da tecnologia. As crianças pequenas, por exemplo, podem ficar confusas com a perda física de um ente querido se ainda estiverem “vivas” digitalmente e fizerem parte da sua vida quotidiana.
Mas Hollanek e Nowaczyk-Basińska argumentam que esta ideia é “muito estreita e muito restritiva, uma vez que se refere especificamente a deadbots projetados para ajudar os interagentes do serviço a processar o luto”.
Eles também concordam com opiniões anteriores de que os deadbots nunca deveriam aparecer em espaços digitais públicos como as redes sociais. A única exceção deveria ser para figuras históricas.
Em vez disso, afirmam eles, esses sistemas deveriam ser “significativamente transparentes” para que os usuários saibam o melhor que puderem em que estão se inscrevendo e os possíveis riscos envolvidos nesses chatbots.
Há também a questão de quem pode desativar o bot. Se uma pessoa presentear seus filhos com seu ‘ghostbot’, as crianças poderão optar por não participar? Ou o deadbot estará sempre presente se a pessoa falecida assim o desejar? Os desejos dos grupos envolvidos nem sempre podem coincidir. Então, quem vence?
“São necessárias barreiras de proteção adicionais para direcionar o desenvolvimento dos serviços recreativos”, concluem Hollanek e Nowaczyk-Basińska.
A dupla de Cambridge espera que seus argumentos “ajudem a centralizar o pensamento crítico sobre a ‘imortalidade’ dos usuários no design de interação de IA humana e na pesquisa de ética em IA”.
