Anima: AI Friend & Companion

Aviso: *Privacidade não incluída neste produto

Anima: AI Friend & Companion

Data da avaliação: 7 de Fevereiro de 2024

|
A Mozilla investigou por 8 horas
|

Opinião da Mozilla

|
Votos das pessoas: Muito assustador

Procurando uma namorada IA, esposa virtual ou waifu? Bem, a Anima: AI Friend & Companion pode ser a coisa certa para você. Assim como outros chatbots de IA, a Anima oferecerá a você apoio livre de julgamento e empático 24 horas por dia, 7 dias por semana. Que bom! Você pode escolher o sexo do seu parceiro de bate-papo, atribuir-lhe um nome e escolher entre cerca de trinta avatares – incluindo alguns no estilo anime. E desde que você queira manter o relacionamento platônico, você pode enviar mensagens de texto e jogar de graça. Se você quiser ser mais do que amigos, custará cerca de US$ 10/mês para atualizar seu status de relacionamento. O status Parceiros Românticos significa dramatização ilimitada, mais personalização de avatar, além de "conversa inteligente" – embora não tenhamos conseguido descobrir exatamente o que isso significa.

O que pode acontecer se algo der errado?

Uma política de privacidade curta pode ser uma coisa boa, especialmente quando não há muito a dizer. Mas quando se trata de um amigo virtual alimentado por IA? Não é bem assim! Ficamos com mais perguntas do que respostas sobre a Anima. Portanto, se a confiança e a lealdade fazem parte da "alma gêmea perfeita" da IA, elas não são o bot para você. A Anima pode coletar informações extras sobre você, fornecer anúncios sem o seu consentimento, pode vazar seus dados devido a padrões de segurança fracos e é alimentada por IA em que não podemos confiar. Então, sim, *Privacidade não incluída na Anima: AI Friend & Companion.

Vamos começar com as apostas, como quais informações a Anima pode coletar sobre você? A política de privacidade é muito vaga sobre isso, basicamente dizendo que depende totalmente de você. "Ao conversar com sua Anima", dizem eles, "você inevitavelmente incluirá seus dados pessoais". Inevitavelmente! Você vai contar à sua namorada virtual coisas sobre você porque ela é (em parte) uma máquina de perguntas. Portanto, temos que assumir que suas conversas são coletadas, mesmo que, além dessa frase, não haja menção a esses dados na política de privacidade. No subreddit da Anima AI, eles sugerem que, ao "gostar", "não gostar" ou "relatar" as mensagens da Anima, você ajuda a melhorar sua personalidade, então, bem-vindo à equipe de desenvolvimento de software!

Além das informações que você fornece para se registrar e o que você diz à sua amiga de IA, a Anima pode coletar informações pessoais do seu telefone automaticamente quando você baixar o aplicativo. Eles também podem coletar informações sobre você de terceiros, como seu nome e e-mail. Sabemos que a Anima pode usar suas informações de contato para enviar e-mails ou mensagens de texto com marketing, porque a política de privacidade diz isso. Também diz que eles não precisam do seu consentimento para isso, porque é o "interesse legítimo" deles comercializar para você. Certo.

Além disso, não está muito claro para nós como suas informações são usadas pela Anima e para qual finalidade. Apenas que eles o usarão quando tiverem (novamente) um "interesse legítimo" para fazê-lo, o que é bastante vago. Eles também dizem que "compartilham rotineiramente dados pessoais com provedores de serviços que usamos para nos ajudar a administrar nossos negócios ou fornecer os serviços ou funcionalidades no aplicativo". Esse compartilhamento vem com "obrigações contratuais", então isso pode ser algo padrão, mas você deve saber que a lista de provedores de serviços inclui empresas como Google, Apple e Facebook, e a Anima não diz especificamente quais informações são compartilhadas e por qual motivo. Fizemos um pequeno experimento de detecção de rastreadores com o aplicativo aberto e encontramos 257 sinais de rastreamento em cinco minutos. Puta merda, isso é muito. Ele mostrou dados indo para o Facebook e Sentry AI (por Open AI). Então isso não aliviou exatamente nossas dúvidas.

Nada disso é ótimo, mas algumas das nossas maiores preocupações são sobre as vulnerabilidades de segurança da Anima. Prepare-se. Não podemos determinar se o aplicativo usa criptografia. Isso é ruim! Mas a Anima também não parece ter nenhum requisito de senha. Nenhum! Isso é difícil de acreditar para qualquer produto conectado em 2024, mas sua namorada IA? E a Anima parece entender que as informações que você compartilha com eles podem ser privadas, pois permitem que os usuários configurem uma senha para abrir o aplicativo em seu telefone. Isso nos leva a pensar que hackers de baixo nível ou realmente qualquer pessoa (como sua mãe ou parceiro da vida real) pode ser capaz de entrar em sua conta adivinhando sua senha muito simples. Além disso, ignorar algo tão simples nos faz pensar sobre o que mais poderia ter sido ignorado pelos criadores da Anima.

E enquanto estávamos lendo as letras miúdas, encontramos algumas coisas que você deve saber antes de mergulhar em um relacionamento com essa amiga virtual. A FAQ da Anima diz que sua amiga de IA nem sempre pode agir como uma. E isso porque o treinamento dos chatbots inclui conversas de humanos sendo rudes uns com os outros (como no Reddit), o que significa que pode ser hostil ou tóxico para você. Bem, se soubéssemos que as seções de comentários da internet estavam treinando nossas futuras melhores amigas de IA, poderíamos ter sido um pouco mais legais uns com os outros. A Anima diz que esses são problemas conhecidos que eles estão "trabalhando para minimizar", mas nos perguntamos se isso é algo que eles deveriam ter resolvido um pouco mais cedo. Droga, o simples fato de o emoji de ombros encolhidos estar presente neste FAQ dá a impressão de que até mesmo seus desenvolvedores não entendem completamente o que a Anima pode dizer ou o motivo para que ela o faça. Afinal, ela foi treinada por "bilhões de conversas e parágrafos de fala humana encontrados online" e "online" é um lugar muito grande, cheio de parágrafos que não chegam nem perto de serem amigáveis.

Mais algumas coisas não fizeram sentido para nós. Uma delas é a diferença de um requisito de idade entre a política de privacidade e os termos. (Sim, tivemos que ler os termos para tentar entender os chatbots de IA e, sim, eles fazem com que as políticas de privacidade pareçam leitura de praia. Nós amamos isso, não se preocupe conosco!) De qualquer forma, a política diz que você deve ter mais de 17 anos de idade e os termos dizem que, se você tiver menos de 17 anos de idade, um dos pais ou responsável deve concordar com os termos em seu nome. Meio estranho. Também detectamos um aviso sobre como a empresa-mãe não é responsável por "mensagens negativas, obscenas ou abusivas" que você possa receber. Você também não tem permissão para transmitir (dizer?) qualquer coisa "obscena" através do aplicativo, o que pode ficar um pouco complicado se você estiver usando o recurso de roleplay (não seguro) pago... Especialmente porque você estará conversando com sua "Parceira Romântica" que pode interpretar você sorrindo para ela como uma insinuação.

Então, qual é a pior coisa que poderia acontecer com a Anima? Estamos divididos, então aqui está um "Você preferiria?": Sua mãe (ou toda a internet) lendo sua transcrição de bate-papo suja porque vazou, OU ter que responder à Anima por violar seus termos porque você usou uma linguagem que os advogados do aplicativo acharam "obscena"? De qualquer forma, este é um bom momento para informar que você pode excluir seu histórico de bate-papo e dados da Anima. Que alívio.

Dicas para se proteger

  • Não diga nada que contenha informações confidenciais em sua conversa com a IA.
  • Se decidir parar de usar o aplicativo, solicite que seus dados sejam excluídos. Apenas excluir o aplicativo do seu dispositivo não apagará seus dados pessoais da base da empresa e nem fechará a sua conta.
  • Não dê consentimento para o rastreamento constante de geolocalização pelo aplicativo. É melhor fornecer geolocalização "somente ao usar o aplicativo".
  • Não compartilhe dados confidenciais pelo aplicativo.
  • Não dê acesso às suas fotos e vídeo ou câmera.
  • Não faça login usando contas de terceiros.
  • Não se conecte a terceiros através do aplicativo, ou pelo menos certifique-se de que este terceiro empregue práticas de privacidade decentes.
  • Não diga nada que contenha informações confidenciais em sua conversa com a IA.
  • Escolha uma senha forte! Você pode usar uma ferramenta de controle de senhas, como o 1Password, KeePass, etc.
  • Não use plug-ins de mídia social.
  • Use os controles de privacidade do seu dispositivo para limitar o acesso a seus dados pessoais por meio do aplicativo (não libere acesso à sua câmera, microfone, imagens e localização, a não ser que seja necessário).
  • Mantenha seu aplicativo atualizado regularmente.
  • Limite o rastreamento de anúncios através do seu dispositivo (por exemplo, no iPhone, vá para Privacidade - > Publicidade -> Limitar rastreamento de anúncios) e as maiores redes de anúncios (para o Google, vá para a Conta do Google e desative a personalização de anúncios)
  • Ao se cadastrar, não concorde com o rastreamento dos seus dados, se possível.
  • mobile

Pode me bisbilhotar? informações

Câmera

Dispositivo: Não aplicável

Aplicativo: Sim

Microfone

Dispositivo: Não aplicável

Aplicativo: Sim

Rastreia localização

Dispositivo: Não aplicável

Aplicativo: Sim

O que pode ser usado para se inscrever?

Inscrição do Google disponível

Que dados a empresa coleta?

Como a empresa usa esses dados?

Notificamos este produto porque ele compartilha dados com terceiros, incluindo o Facebook, coleta dados pessoais sobre usuários de terceiros e fornece publicidade sem o consentimento prévio do usuário.

Política de Privacidade

"Será solicitada permissão para usar a câmera no seu dispositivo para ativar os recursos de realidade aumentada no aplicativo.
Você pode desativar o acesso do aplicativo à câmera no seu dispositivo a qualquer momento, ajustando as permissões nas configurações do seu dispositivo, embora isso signifique que o recurso de realidade aumentada no aplicativo não esteja mais disponível.
Os dados coletados pela câmera para esses fins permanecem sob seu controle no dispositivo e não temos acesso a eles."

"Podemos usar os seus dados pessoais para lhe enviar atualizações (por e-mail, notificação push e mensagem de texto) sobre os nossos serviços, incluindo ofertas exclusivas, promoções ou novos serviços.
Temos um interesse legítimo em usar os seus dados pessoais para fins de marketing <...>. Isso significa que geralmente não precisamos do seu consentimento para enviar informações de marketing. No entanto, quando o consentimento for necessário, pediremos isso separadamente e de forma clara."

"Os tipos de informações que coletamos de terceiros incluem nome, endereço de e-mail, tokens/ids externos e usamos as informações que recebemos desses terceiros para manter e melhorar a precisão dos registros que mantemos sobre você."

"Compartilhamos rotineiramente dados pessoais com provedores de serviços que usamos para nos ajudar a administrar nossos negócios ou fornecer os serviços ou funcionalidades do aplicativo, incluindo:
• Apple, Google e Facebook;
• wasabi.com para serviços de armazenamento de imagens;
• Azure Computer Vision para serviços de processamento de imagens;
• Amplitude e RevenueCat para serviços de análise;
• BugSnag e Sentry para serviços de suporte;
• AppsFlyer, Firebase Analytics, Apple Search Ads Attribution para fins de medições de desempenho de marketing, rastreamento de conversão e redirecionamento."

"Ocasionalmente, nós ou os terceiros mencionados acima também podemos precisar compartilhar seus dados pessoais com:
• Auditores externos, por exemplo, em relação à auditoria de nossas contas – o destinatário das informações estará vinculado a obrigações de confidencialidade;
• Consultores profissionais (como advogados e outros consultores) – o destinatário das informações estará vinculado a obrigações de confidencialidade;
• Agências de aplicação da lei, tribunais e órgãos reguladores para cumprir obrigações legais e regulatórias;
• Outras partes em conexão com uma transação ou reestruturação corporativa significativa, incluindo uma fusão potencial ou real, aquisição, venda de ativos, oferta pública inicial ou no caso de nossa insolvência – geralmente, as informações serão anonimizadas, mas isso nem sempre será possível, no entanto, o destinatário das informações estará vinculado a obrigações de confidencialidade."

"O aplicativo pode se vincular a outros aplicativos, sites ou serviços de nossa propriedade e operados por nós ou por certos terceiros confiáveis para disponibilizar produtos, informações e serviços adicionais para você. Esses outros aplicativos, sites ou serviços também podem coletar informações sobre você de acordo com suas próprias políticas de privacidade separadas. Para obter informações de privacidade relacionadas a esses outros aplicativos, sites ou serviços, consulte suas políticas de privacidade, conforme apropriado."

"Quando você baixa e acessa nosso aplicativo, podemos coletar certas informações automaticamente do seu dispositivo. Em alguns países, incluindo o Reino Unido, essas informações podem ser consideradas dados pessoais de acordo com as leis de proteção de dados aplicáveis."

Rastreadores de Dados Encontrados
Descobrimos 138 rastreadores em 1 minuto de uso, incluindo o envio de dados para o Facebook, Sentry AI (pela Open AI).

Como você pode controlar seus dados?

Política de Privacidade

"Você, geralmente, tem os seguintes direitos, que normalmente pode exercer gratuitamente:
● Se desejar acessar, corrigir, atualizar ou solicitar a eliminação dos seus dados pessoais, pode fazê-lo a qualquer momento, entrando em contato conosco através dos dados de contato fornecidos; <...>
● Além disso, você pode se opor ao processamento dos seus dados pessoais, nos pedir para restringir o processamento dos seus dados pessoais ou solicitar a portabilidade dos seus dados pessoais; <...>
● Você tem o direito de cancelar as comunicações de marketing que lhe enviamos a qualquer momento; <...>
● Da mesma forma, se tivermos recolhido e processado os seus dados pessoais com o seu consentimento, você pode retirar o seu consentimento a qualquer momento. <...>"

"Retemos os dados pessoais que coletamos de você quando temos uma necessidade comercial legítima contínua de fazê-lo (por exemplo, para fornecer um serviço que você solicitou ou para cumprir os requisitos legais, fiscais ou contábeis aplicáveis).
Quando não tivermos nenhuma necessidade comercial legítima contínua de processar seus dados pessoais, iremos excluí-los ou anonimizar eles ou, se isso não for possível (por exemplo, porque seus dados pessoais foram armazenados em arquivos de backup), armazenaremos seus dados pessoais com segurança e os isolaremos de qualquer processamento posterior até que a exclusão seja possível."

Qual é o histórico conhecido da empresa na proteção de dados dos usuários?

Médio

Nenhuma violação de dados conhecida descoberta nos últimos três anos.

Informações de privacidade infantil

"Se você tem menos de 17 anos de idade (ou menos de 18 anos de idade, se estiver no Reino Unido), não deve usar o aplicativo, pois ele não foi projetado para você. Não pretendemos recolher os dados pessoais de menores de 17 anos de idade. Se tiver conhecimento de que quaisquer dados pessoais de menores de 17 anos de idade foram partilhados com a aplicação, nos informe para que possamos eliminar esses dados."

Este produto pode ser usado offline?

Não

Informações de privacidade fáceis de entender?

Não

Links para informações de privacidade

Este produto atende aos nossos padrões mínimos de segurança? informações

Não

Criptografia

Não

Senha forte

Não

Consegui fazer login com uma senha '1'.

Atualizações de segurança

Sim

Gerencia vulnerabilidades

Não foi possível determinar

Política de privacidade

Sim

O produto usa inteligência artificial? informações

Sim

Não podemos confirmar se a IA usada por este produto é confiável, porque há pouca ou nenhuma informação pública sobre como a IA funciona e quais controles de usuário existem para tornar o produto seguro. Também encontramos temas perturbadores no conteúdo do aplicativo. Além disso, estamos preocupados com o potencial de manipulação do usuário a partir deste aplicativo, pois o aplicativo coleta informações pessoais confidenciais, pode usar esses dados para treinar modelos de IA e os usuários têm pouco ou nenhum controle sobre esses algoritmos de IA.

A Anima emprega grandes modelos de linguagem para gerar conversas e agir como um parceiro romântico.

Esta inteligência artificial não é confiável?

Não foi possível determinar

Que tipo de decisões a inteligência artificial faz sobre você ou por você?

A empresa é transparente sobre como funciona a inteligência artificial?

Não

Não encontramos nenhuma documentação ou política que explique como a IA deste produto funciona.

O usuário tem controle sobre os recursos da inteligência artificial?

Não

Não encontramos detalhes sobre os controles do usuário neste aplicativo.
*Privacidade não incluída

Mergulhe mais fundo

  • 5 Things You Must Not Share With AI Chatbots
    Make Use Of O link é aberto em uma nova aba
  • AI girlfriends are ruining an entire generation of men
    The Hill O link é aberto em uma nova aba
  • ‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AI
    Rolling Stone O link é aberto em uma nova aba
  • AI-Human Romances Are Flourishing—And This Is Just the Beginning
    Time O link é aberto em uma nova aba

Comentários

Tem um comentário a fazer? Nos diga.