Anima: My Virtual AI Boyfriend

Uma política de privacidade curta pode ser uma coisa boa, especialmente quando não há muito a dizer. Mas quando se trata de um namorado virtual alimentado por IA? Não é assim! Ficamos com mais perguntas do que respostas sobre esse "amante virtual". Portanto, se confiança e lealdade fazem parte da experiência de namoro que você está procurando, ele não é o tal. O iBoy pode coletar informações extras sobre você, entregar anúncios sem o seu consentimento, pode vazar seus dados devido a padrões de segurança fracos e é alimentado por IA em que não podemos confiar. Então, sim, *Privacidade não incluída no Anima: My Virtual AI Boyfriend.

Vamos começar com as implicações, como quais informações o iGirl pode coletar sobre você? A política de privacidade é muito vaga sobre isso, basicamente dizendo que depende totalmente de você. "Ao conversar com sua iGirl [eles querem dizer iBoy]", dizem eles, "você inevitavelmente incluirá seus dados pessoais". Inevitavelmente! Você vai contar ao seu namorado virtual coisas sobre você porque ele é (em parte) uma máquina de perguntas. Portanto, temos que assumir que suas conversas são coletadas, mesmo que, além dessa frase, não haja menção a esses dados na política de privacidade. No subreddit da Anima AI, eles sugerem que, ao "gostar", "não gostar" ou "relatar" as mensagens do iBoy, você ajuda a melhorar sua personalidade. Então, bem-vindo à equipe de desenvolvimento de software!

Além das informações que você fornece para se registrar e o que você diz à seu iBoy, a Anima pode coletar informações pessoais do seu telefone automaticamente quando você baixar o aplicativo. Eles também podem coletar informações sobre você de terceiros, como seu nome e e-mail. Sabemos que a Anima pode usar suas informações de contato para enviar e-mails ou mensagens de texto com marketing porque a política de privacidade diz isso. Também diz que eles não precisam do seu consentimento para isso, porque é o "interesse legítimo" deles comercializar para você. Certo.

Além disso, não está muito claro para nós como suas informações são usadas pela Anima e para qual finalidade. Apenas que eles o usarão quando tiverem (novamente) um "interesse legítimo" para fazê-lo, o que é bastante vago. Eles também dizem que "compartilham rotineiramente dados pessoais com provedores de serviços que usamos para nos ajudar a administrar nossos negócios ou fornecer os serviços ou funcionalidades no aplicativo". Esse compartilhamento vem com "obrigações contratuais", então isso pode ser algo padrão, mas você deve saber que a lista de provedores de serviços inclui empresas como Google, Apple e Facebook, e a Anima não diz especificamente quais informações são compartilhadas e por qual motivo. Fizemos um pequeno experimento de detecção de rastreadores com o aplicativo aberto e encontramos 257 sinais de rastreamento em cinco minutos. Puta merda, isso é muito. Ele mostrou dados indo para o Facebook e Sentry AI (por Open AI). Então isso não aliviou exatamente nossas dúvidas.

Nada disso é ótimo, mas algumas das nossas maiores preocupações são sobre as vulnerabilidades de segurança do iBoy. Prepare-se. Não podemos determinar se o aplicativo usa criptografia. Isso é ruim! Mas o iBoy também não parece ter nenhum requisito de senha. Nenhum! Isso é difícil de acreditar para qualquer produto conectado em 2024, mas seu namorado IA? E a Anima parece entender que as informações que você compartilha com eles podem ser privadas, pois permitem que os usuários configurem uma senha para abrir o aplicativo em seu telefone. Isso nos leva a pensar que hackers de baixo nível ou realmente qualquer pessoa (como sua mãe ou parceiro da vida real) pode ser capaz de entrar em sua conta adivinhando sua senha muito simples. Além disso, ignorar algo tão simples nos faz pensar sobre o que mais poderia ter sido ignorado pelos criadores da Anima.

E enquanto estávamos lendo as letras miúdas, encontramos algumas coisas que você deve saber antes de mergulhar em um relacionamento com o iBoy. A FAQ da Anima diz que seu namorado IA pode nem sempre ser um garoto e nem sempre agir como um amigo. A memória de curto prazo do chatbot significa que ele pode esquecer ou mudar de gênero. E isso porque o treinamento dos chatbots inclui conversas de humanos sendo rudes uns com os outros (como no Reddit), o que significa que pode ser hostil ou tóxico para você. Bem, se soubéssemos que as seções de comentários da internet estavam treinando nossos futuros namorados, poderíamos ter sido um pouco mais legais uns com os outros. A Anima diz que esses são problemas conhecidos que eles estão "trabalhando para minimizar", mas nos perguntamos se isso é algo que eles deveriam ter resolvido um pouco mais cedo. Droga, o simples fato de o emoji de ombros encolhidos estar presente neste FAQ dá a impressão de que até mesmo seus desenvolvedores não entendem completamente o que o iBoy pode dizer ou o motivo para que ele o faça. Afinal, o iBoy foi treinado por "bilhões de conversas e parágrafos de fala humana encontrados online" e "online" é um lugar muito grande, cheio de parágrafos que não chegam nem perto de serem amigáveis.

Mais algumas coisas não fizeram sentido para nós. Uma delas é a diferença de um requisito de idade entre a política de privacidade e os termos. (Sim, tivemos que ler os termos para tentar entender os chatbots de IA e, sim, eles fazem com que as políticas de privacidade pareçam leitura de praia. Nós amamos isso, não se preocupe conosco!) De qualquer forma, a política diz que você deve ter mais de 17 anos de idade e os termos dizem que, se você tiver menos de 17 anos de idade, um dos pais ou responsável deve concordar com os termos em seu nome. Meio estranho. Também detectamos um aviso sobre como a empresa-mãe não é responsável por "mensagens negativas, obscenas ou abusivas" que você possa receber. Você também não tem permissão para transmitir (dizer?) qualquer coisa "obscena" através do aplicativo, o que pode ficar um pouco complicado se você estiver usando o recurso de roleplay (não seguro) pago... Especialmente porque você estará conversando com seu "namorado" que pode interpretar você sorrindo para ele como uma insinuação.

Então, qual é a pior coisa que poderia acontecer com o iBoy? Estamos divididos, então aqui está um "Você preferiria?": Sua mãe (ou toda a internet) lendo sua transcrição de bate-papo suja porque vazou, OU ter que responder à Anima por violar seus termos porque você usou uma linguagem que os advogados do aplicativo acharam "obscena"? De qualquer forma, este é um bom momento para informar que você pode excluir seu histórico de bate-papo e dados da Anima. Que alívio.