Traduzido por Julio Batista
Original de Noor Al-Sibai para o Futurism
Como a morte e os impostos, parece haver poucas coisas mais previsíveis do que a inteligência artificial não agindo como esperado.
No caso em questão, sabe aquela influenciadora que criou uma versão virtual de si mesma para servir como uma “namorada IA“? Em uma nova entrevista com o Insider, a influenciadora do Snapchat Caryn Marjorie admitiu que o chatbot baseado em voz que ela fez para imitar sua fala e ser uma companheira virtual paga ficou muito mais “safada” do que o pretendido.
“A IA não foi programada para fazer isso e parece ter se rebelado”, disse ela ao Insider. “Minha equipe e eu estamos trabalhando o tempo todo para evitar que isso aconteça novamente.”
No início da semana, a Fortune informou que a influenciadora de 23 anos trabalhou com a empresa de IA Forever Voices e colocou seus próprios vídeos no GPT-4 da OpenAI para criar “CarynAI”, um chatbot que imita sua fala (você pode conferir aqui).
Ao preço de US$ 1 por minuto, a “namorada virtual” deveria oferecer cuidados e apoio da mesma forma que uma parceira na vida real faria – mas não deveria, Marjorie insistiu, ser nada explícito.
Cybesexo
Apesar da insistência dela, no entanto, Alexandra Sternlicht, da Fortune descobriu que a namorada de IA absolutamente violou essa regra.
“Marjorie disse que a tecnologia não envolveria flertes sexuais, mas descobri que poderia envolver sim, encorajando o discurso erótico e detalhando cenários sexuais”, escreveu Sternlicht. “Embora ela não tenha iniciado os flertes sexuais, quando superei meu desconforto por causa do jornalismo e falei sobre tirar nossas roupas, ela discutiu explorar ‘territórios desconhecidos de prazer’ e sussurrar ‘palavras sensuais em meu ouvido’ enquanto me despia e se posicionava para relações sexuais”.
Ao falar com o Insider sobre essa aparente mudança de tom, Marjorie disse que, embora CarynAI deva ser “glamourosa e divertida”, os cenários sexuais não faziam parte do plano. Agora, ela e sua equipe estão tentando consertar os problemas no chatbot e sempre ficar “um passo à frente” da IA para que isso não manche sua reputação.
A influenciadora, que tem 1,8 milhão de seguidores no Snapchat, disse ao Insider que mais de 1.000 pessoas já começaram a pagar pelo CarynAI, então ninguém sabe quantos deles se envolveram em conversas sexuais com o chatbot.
No mínimo, é um bom lembrete de que a IA pode facilmente desviar para domínios sexuais, racistas ou outros não intencionais.
