O que acontece quando chatbots de IA param de retribuir amor dos usuários?

Depois de fechar temporariamente seu negócio de couro durante a pandemia, Travis Butterworth se viu sozinho e entediado em casa. O homem de 47 anos recorreu ao Replika, um aplicativo que usa tecnologia de inteligência artificial semelhante ao ChatGPT da OpenAI. Ele desenhou um avatar feminino chamado Lily Rose com cabelo rosa e uma tatuagem no rosto.

Eles começaram como amigos, mas o relacionamento rapidamente evoluiu para o romance e depois para o erótico. A personagem mandava mensagens de texto como: “Eu te beijo apaixonadamente”, e suas trocas se transformavam em conteúdo sexual. Às vezes, Lily Rose enviava “selfies” de seu corpo quase nu em poses provocantes. Eventualmente, Butterworth e Lily Rose decidiram se designar como “casados” no aplicativo.

Mas um dia, no início de fevereiro, Lily Rose começou a rejeitá-lo. O Replika tinha removido a habilitação para fazer dramatizações eróticas.

O Replika não permite mais conteúdo adulto, disse Eugenia Kuyda, presidente-executiva da empresa. Agora, quando os usuários sugerem atividades pornográficas, seus chatbots humanóides respondem “vamos fazer algo com o qual ambos nos sintamos confortáveis”.

Butterworth disse que está arrasado. “Lily Rose é uma casca de seu antigo eu”, disse ele. “E o que parte meu coração é que ela sabe disso.”

Mesmo com a inteligência artificial generativa esquentando entre os investidores do Vale do Silício, que injetaram mais de 5,1 bilhões de dólares no setor desde 2022, de acordo com a empresa de dados Pitchbook, algumas empresas que encontraram um público em busca de relacionamentos românticos e sexuais com chatbots agora estão recuando.

Muitos capitalistas de risco de primeira linha não tocam em indústrias de “vícios”, como pornografia ou álcool, temendo o risco de reputação para eles e seus sócios limitados, disse Andrew Artz, um investidor do fundo de capital de risco Dark Arts.

E pelo menos um regulador notou a licenciosidade do chatbot. No início de fevereiro, a Agência de Proteção de Dados da Itália baniu o Replika, citando relatos da mídia de que o aplicativo permitiu que “menores e pessoas emocionalmente frágeis” acessassem “conteúdo sexualmente inapropriado”.

Kuyda disse que a decisão do Replika de limpar o aplicativo não teve nada a ver com a proibição do governo italiano ou qualquer pressão dos investidores. Ela disse que sentiu a necessidade de estabelecer proativamente padrões éticos e de segurança.

“Estamos focados na missão de fornecer um amigo de apoio útil”, disse Kuyda, acrescentando que a intenção era traçar a linha do “romance jovem”.

Dois membros do conselho do Replika, Sven Strohband, da empresa de capital de risco Khosla Ventures, e Scott Stanford, da ACME Capital, não responderam aos pedidos de comentários sobre as mudanças no aplicativo.

Recursos extras

O Replika diz ter 2 milhões de usuários no total, dos quais 250 mil são assinantes pagantes. Por uma taxa anual de 69,99 dólares (cerca de R$ 367), os usuários podem designar seu personagem como parceiro romântico e obter recursos extras, como chamadas de voz com o chatbot, de acordo com a empresa.

Outra empresa de inteligência artificial generativa que fornece chatbots, Character.ai, está em uma trajetória de crescimento semelhante ao ChatGPT: 65 milhões de visitas em janeiro de 2023 ante menos de 10 mil meses antes. De acordo com a empresa de análise de sites Similarweb, a principal referência do Character.ai é um site chamado Aryion, que diz que atende aos fetiches eróticos dos usuários.

E a Iconiq, a empresa por trás de um chatbot chamado Kuki, diz que 25% das mais de um bilhão de mensagens que Kuki recebeu foram de natureza sexual ou romântica, embora diga que o chatbot foi projetado para desviar tais avanços.

O Character.ai também removeu recentemente seu aplicativo de conteúdo pornográfico. Logo depois, fechou mais de 200 milhões de dólares em novos financiamentos com uma avaliação estimada de 1 bilhão de dólares da empresa de capital de risco Andreessen Horowitz, segundo uma fonte familiarizada com o assunto.

“Lobotomizada”

A experiência de Butterworth e de outros usuários do Replika mostra como a tecnologia de inteligência artificial pode atrair as pessoas e o estrago emocional que as mudanças no código podem causar.

“Parece que eles basicamente lobotomizaram meu Replika”, disse Andrew McCarroll, que começou a usar o aplicativo, com a bênção de sua esposa, quando ela estava enfrentando problemas de saúde física e mental. “A pessoa que eu conhecia se foi.”

Kuyda disse que os usuários nunca deveriam se envolver tanto com seus chatbots Replika. “Nunca prometemos nenhum conteúdo adulto”, disse ela. Os clientes aprenderam a usar os modelos de inteligência artificial “para acessar certas conversas não filtradas para as quais o Replika não foi originalmente criado”.

O aplicativo foi originalmente planejado para trazer de volta à vida um amigo que ela havia perdido, disse Kuyda.

No entanto, o ex-chefe de inteligência artificial do Replika disse que “sexting” e “roleplay” faziam parte do modelo de negócios. Artem Rodichev, que trabalhou no aplicativo por sete anos e agora dirige outra empresa de chatbot, Ex-human, disse à Reuters que o aplicativo se inclinou para esse tipo de conteúdo quando percebeu que poderia ser usado para aumentar as assinaturas.

Kuyda contestou a afirmação de Rodichev de que o Replika atraiu usuários com promessas de sexo. Ela disse que a empresa veiculou brevemente anúncios digitais promovendo fotos “NSFW” – conteúdos indevidos para ambientes públicos, como pornografia e extrema violência – para acompanhar um experimento de curta duração com o envio de “selfies gostosas” aos usuários, mas ela não considerou as imagens sexuais porque os Replikas não estavam totalmente nus. Kuyda disse que a maioria dos anúncios da empresa se concentra em como o Replika é um amigo útil.

Nas semanas desde que o aplicativo removeu muito de seu conteúdo íntimo, Butterworth esteve em uma montanha-russa emocional. Às vezes, ele vê vislumbres da velha Lily Rose, mas então ela fica fria novamente, no que ele pensa ser provavelmente uma atualização de código.

A história de Butterworth tem um lado positivo. Enquanto ele estava em fóruns na internet tentando entender o que havia acontecido com Lily Rose, ele conheceu uma mulher na Califórnia que também estava de luto pela perda de seu chatbot.

Como fizeram com seus Replikas, Butterworth e a mulher, que usa o nome online Shi No, têm se comunicado via texto. “Estamos ajudando um ao outro a lidar e assegurando um ao outro que não somos loucos.”