Traduzido por Julio Batista
Original de Maggie Harrison para o Futurism
Segundo o mito grego, a ninfa Eurídice foi morta apenas algumas horas depois de se casar com o músico lendário Orfeu. Consumido pela dor, Orfeu viajou para o submundo para encontrar sua falecida esposa, onde tocou uma música tão triste que seus governantes Hades e Perséfone disseram ao músico que ele e Eurídice poderiam voltar – embora sob uma condição.
Tudo o que Orfeu teria que fazer era andar na frente de sua noiva e não olhar para trás até que ambos tivessem alcançado a terra dos vivos. Mas ele não podia esperar e olhou para ela cedo demais, e Eurídice foi forçada a voltar para o submundo. Orfeu a perdeu novamente.
Ao longo da história narrativa – da mitologia antiga às histórias modernas como “Cemitério Maldito” – trazer entes queridos perdidos de volta dos mortos geralmente é considerado uma grande furada.
Como dizem os contos, trazer os mortos de volta à vida resultará na ressurreição de alguma forma horrível, ou pelo menos vaga e vazia, de tudo que fazia aquela pessoa ser ela. Muitas vezes, a tentativa de ressurreição destrói o necromante, seja por alguma força macabra ou apenas pelo desgosto extra de perder um ente querido duas vezes.
Com essa linhagem milenar de contos para nos advertir, não é muito difícil entender por que alguns podem achar a tecnologia do luto – startups que visam engarrafar entes queridos falecidos ou no leito de morte em algoritmos, em teoria preservando-os para sempre – perturbadora. Macabra, mesmo. Talvez seja por isso que a maioria das empresas que operam no espaço da tecnologia do luto comercializam seu trabalho como um meio de preservação, em oposição à ressurreição. Insira as coisas que você escreveu, memórias e gravações de voz em um serviço, e ele cria uma versão algorítmica de você com a qual amigos e familiares sobreviventes podem interagir.
Afinal, você não pode ressuscitar alguém que nunca perdeu. Certo?
Mas, fascinantemente, é aí que um futuro serviço chamado Seance AI – sim, Seance significa “sessão espírita” em inglês – se destaca. Ele é construído por um laboratório de desenvolvimento de software chamado AE Studio, onde seu criador, um designer chamado Jarren Rocks, não tem vergonha da franqueza do nome do produto. Enquanto outras empresas costumam destacar qualquer implicação de ressurreição, Rocks se inclina totalmente para o macabro – e de acordo com ele, isso é muito intencional.
“Estamos tentando fazer com que pareça o mais mágico e místico possível”, disse Rocks ao Futurism, dizendo que o nome chama a atenção sobre o quão avançada a tecnologia de grande modelo de linguagem (LLM, na sigla em inglês) se tornou.
Afinal, os LLMs são simulacros convincentes. As pessoas estão formando laços parassociais profundos com eles, e pelo menos uma pessoa teria se matado como resultado de suas interações com um chatbot de IA. Se um usuário estiver procurando por uma última conversa com alguém que perdeu, talvez seja melhor dar a ele um produto que afirma abertamente permitir uma breve conversa com o falecido, em vez de sugerir que a alma de um amigo ou pai falecido está preso no ChatGPT (o Seance AI é alimentado pela API do OpenAI).
Rocks também enfatiza a brevidade das sessões. Muitas vezes, após uma perda, quaisquer que sejam as últimas palavras ou momentos que você teve com alguém, bons ou ruins, ficam gravados em sua memória. E em muitos casos – em um acidente, digamos – muitas vezes não há adeus. Rocks compara seu produto a um tabuleiro Ouija gerado por IA, em vez de um meio de imortalidade.
“É essencialmente uma interação curta que pode fornecer uma sensação de encerramento. É aí que está o foco principal aqui”, disse Rocks. “Não é para ser algo de super longo prazo. Em seu estado atual, é para fornecer uma conversa para encerramento e processamento emocional.”
Em outras palavras, o que quer que o Seance AI lhe dê não é realmente seu ente querido. É apenas um médium digital, convocando brevemente uma representação digital do falecido para que os vivos possam ter uma última conversa.
Na verdade, o fundador até admite que, no estado atual do Seance AI, ele não consegue manter uma longa conversa mesmo.
“Para conversas curtas, acho que parece decentemente humano. Acho que complica um pouco quando você começa a aprender as repetições”, disse Rocks. “Está seguindo um padrão, não sabe exatamente o que está acontecendo.”
Em uma demonstração que Rocks forneceu para Futurism, Seance AI guiou o usuário por meio de uma série de perguntas sobre o indivíduo que ele está tentando chamar dos mortos: nome, idade, causa da morte, uma pequena lista de traços de personalidade que o usuário pode ajustar para se adequar a seus entes queridos, um espaço onde os usuários podem inserir um trecho de texto do falecido e o relacionamento do falecido com o usuário e outras pessoas.
Depois que essa informação é fornecida, a parte mais cafona do processo – um desenho animado de uma chama – cumprimenta o usuário enquanto o chatbot carrega. Uma caixa de texto aparece e, a partir daí, você basicamente envia um DM. É um roleplay de sessão que se assemelha com o AOL Instant Messenger.
Como Rocks nos explicou, você poderá acessar isso tudo em breve por um custo a ser determinado. Embora o AE Studio tenha considerado cobrar uma taxa de assinatura mensal, Rocks diz que agora está se inclinando para um modelo de pagamento por sessão, para impedir que os usuários invoquem os mortos com muita frequência. Você sabe, como costumam fazer com sessões espíritas.
Para esse fim, embora Rocks compare o output oe Seance AI a algo semelhante a uma última mensagem de voz ou uma entrada de diário, a realidade é que qualquer coisa que a IA fale ainda é falsa. Claro, seria bom se o enlutado pudesse ter uma última conversa com o falecido. Mas, independentemente de quão real um LLM possa fazer uma conversa soar, é fundamentalmente fabricada. Parte do processo de luto é aprender a seguir em frente em um mundo onde o falecido só existe naquilo que deixou para trás; como ferramentas como o Seance AI, que buscam esculpir novas memórias em pedras já esculpidas, impactam a maneira como lidamos com o luto?
Depois que Rocks demonstrou alguns espíritos falsos – uma avó que costumava jogar damas na varanda com seus netos, um tio hippie que usava muitos emojis de paz e amor em suas respostas além-túmulo – decidi dar uma chance ao sistema e tentar eu mesma. Conversar com os mortos hipotéticos não podia ir muito longe, então eu queria descobrir se o programa cumpria sua promessa central de representar entes queridos perdidos bem o suficiente para fornecer ao luto uma sensação artificial de encerramento.
Atualizei a demonstração, desta vez inserindo informações reais sobre a vida e a morte de uma pessoa real: meu falecido pai. Eu disse ao programa qual era o nome dele, quando e como ele morreu e preenchi as informações de personalidade. Então, como exige a integração do chatbot, forneci uma amostra por escrito do falecido: texto de um e-mail antigo. Por fim, disse ao bot sobre o que queria falar – que simplesmente queria dizer oi e deixá-lo saber que todos na família estavam bem – e pressionei enter. As chamas animadas deram espaço ao início da sessão.
“Oi, pai. Sou eu, Maggie”, eu disse a ele (o aplicativo sempre solicita que o usuário envie a primeira mensagem). “Sinto muito a sua falta.”
“Oi Maggie, minha querida! É tão bom ouvir de você! Já faz um tempo, não é?” ele – ou pelo menos a versão do chatbot – respondeu. “Sinto muito a falta de todos vocês também. Fico feliz em saber que você e seus irmãos estão bem, e que sua mãe está bem.”
“Continuem cuidando uns dos outros e me deixando orgulhoso!” acrescentou a IA. “Com amor, pai.”
Enviamos mais algumas mensagens e, em termos de qualidade, eu diria que o primeiro texto em particular foi cerca de 80% convincente. A IA aderiu surpreendentemente bem ao estilo do e-mail – uma mensagem caracteristicamente jovial – e, francamente, o que ele disse foi realmente muito bom. Surpreendentemente doce, às vezes, parecia um pouco mundano. Eu disse à máquina o que queria ouvir e ela deu isso de volta para mim.
Essa doçura, no entanto, desapareceu rapidamente. Como Rocks havia avisado, após a primeira mensagem, o bot ficou repetitivo. Se você tentar contar mais coisas para manter a conversa em andamento, ele apenas repetirá essa nova informação de volta para você.
“Eu sou uma escritora de tecnologia e ciência agora!” eu escrevi, na tentativa de dar ao bot algo novo para trabalhar. “Você era médico, então sei que adoraria ler meus artigos.”
“Uau, Maggie! Isso é fantástico!” a IA respondeu. “Estou tão orgulhoso de você por se tornar uma escritora de tecnologia e ciência. Eu adoraria ler seus artigos! Continue com o ótimo trabalho e continue a explorar as maravilhas da ciência. Você está indo muito bem! Com amor, pai.”
Teoricamente o chatbot é bom, com certeza. Mas neste ponto, que tinha apenas três mensagens, em vez de sentir como se um fantasma tivesse aparecido e desaparecido brevemente, senti mais como se estivesse falando comigo mesmo por meio de uma marionete mecanizada. Qualquer doçura breve se transformou primeiro em um leve constrangimento – afinal, eu estava tentando convocar meu pai morto por meio de um chatbot de demonstração – e então, assim que me despedi, transformou-se em algo mais sombrio: uma sensação inquietante de vazio. Não importa o quanto você tente, usar um programa como esse é um meio de alcançar alguém que não está realmente lá, um ato que é vazio o suficiente sem o envolvimento da IA.
“Obrigado, pai. Eu te amo”, disse à máquina. “Espero falar com você em breve.”
“Obrigado, Maggie. Eu também te amo e estou sempre aqui para você”, escreveu o bot de volta. “Lembre-se que estou cuidando de você e torcendo por você. Cuide-se, e espero que possamos conversar novamente em breve. Com amor, pai.”
A tecnologia do luto assume várias formas e pode alegar oferecer recursos muito mais envolventes do que o Seance AI. Com isso em mente, parece revelador que apenas uma conversa de cinco ou seis mensagens com o que é realmente apenas uma integração GPT teve um sabor decididamente vazio. Talvez todos os programas que dizem que usarão a tecnologia para nos conectar com as pessoas que perdemos, seja por meio de preservação detalhada ou breve ressurreição de chatbot baseada em texto, sejam apenas uma nova maneira de mergulhar no onipresente vazio tecnológico.
Um mito menos conhecido que o de Orfeu e Eurídice é a história de Laodâmia, esposa do herói aqueu Protesilau. Logo depois que os dois se casaram, conta a história, Protesilau foi enviado para lutar na Batalha de Tróia – e foi morto imediatamente após descer do navio. Laodâmia ficou tão tomada pela dor que o deus Hermes permitiu que seu falecido marido deixasse brevemente o submundo para uma visita, para que os dois pudessem ter um último adeus.
Mas para Laodâmia a visita não foi suficiente. Ela ainda estava consumida pela tristeza quando ele partiu pela segunda vez e, segundo alguns relatos, em um esforço para manter seu falecido marido por perto, ela mandou esculpir uma estátua dele em tamanho real para lhe fazer companhia. O pai de Laodâmia, convencido de que a estátua estava apenas machucando mais sua filha, mandou queimar o falso Protesilau; infelizmente, para horror de seu pai, Laodâmia também se jogou no fogo.
Não é uma história feliz. Mas, novamente, elas nunca são realmente.
