Aviso: *Privacidade não incluída neste produto
Procurando uma namorada IA, esposa virtual ou waifu? Bem, a Anima: AI Friend & Companion pode ser a coisa certa para você. Assim como outros chatbots de IA, a Anima oferecerá a você apoio livre de julgamento e empático 24 horas por dia, 7 dias por semana. Que bom! Você pode escolher o sexo do seu parceiro de bate-papo, atribuir-lhe um nome e escolher entre cerca de trinta avatares – incluindo alguns no estilo anime. E desde que você queira manter o relacionamento platônico, você pode enviar mensagens de texto e jogar de graça. Se você quiser ser mais do que amigos, custará cerca de US$ 10/mês para atualizar seu status de relacionamento. O status Parceiros Românticos significa dramatização ilimitada, mais personalização de avatar, além de "conversa inteligente" – embora não tenhamos conseguido descobrir exatamente o que isso significa.
O que pode acontecer se algo der errado?
Uma política de privacidade curta pode ser uma coisa boa, especialmente quando não há muito a dizer. Mas quando se trata de um amigo virtual alimentado por IA? Não é bem assim! Ficamos com mais perguntas do que respostas sobre a Anima. Portanto, se a confiança e a lealdade fazem parte da "alma gêmea perfeita" da IA, elas não são o bot para você. A Anima pode coletar informações extras sobre você, fornecer anúncios sem o seu consentimento, pode vazar seus dados devido a padrões de segurança fracos e é alimentada por IA em que não podemos confiar. Então, sim, *Privacidade não incluída na Anima: AI Friend & Companion.
Vamos começar com as apostas, como quais informações a Anima pode coletar sobre você? A política de privacidade é muito vaga sobre isso, basicamente dizendo que depende totalmente de você. "Ao conversar com sua Anima", dizem eles, "você inevitavelmente incluirá seus dados pessoais". Inevitavelmente! Você vai contar à sua namorada virtual coisas sobre você porque ela é (em parte) uma máquina de perguntas. Portanto, temos que assumir que suas conversas são coletadas, mesmo que, além dessa frase, não haja menção a esses dados na política de privacidade. No subreddit da Anima AI, eles sugerem que, ao "gostar", "não gostar" ou "relatar" as mensagens da Anima, você ajuda a melhorar sua personalidade, então, bem-vindo à equipe de desenvolvimento de software!
Além das informações que você fornece para se registrar e o que você diz à sua amiga de IA, a Anima pode coletar informações pessoais do seu telefone automaticamente quando você baixar o aplicativo. Eles também podem coletar informações sobre você de terceiros, como seu nome e e-mail. Sabemos que a Anima pode usar suas informações de contato para enviar e-mails ou mensagens de texto com marketing, porque a política de privacidade diz isso. Também diz que eles não precisam do seu consentimento para isso, porque é o "interesse legítimo" deles comercializar para você. Certo.
Além disso, não está muito claro para nós como suas informações são usadas pela Anima e para qual finalidade. Apenas que eles o usarão quando tiverem (novamente) um "interesse legítimo" para fazê-lo, o que é bastante vago. Eles também dizem que "compartilham rotineiramente dados pessoais com provedores de serviços que usamos para nos ajudar a administrar nossos negócios ou fornecer os serviços ou funcionalidades no aplicativo". Esse compartilhamento vem com "obrigações contratuais", então isso pode ser algo padrão, mas você deve saber que a lista de provedores de serviços inclui empresas como Google, Apple e Facebook, e a Anima não diz especificamente quais informações são compartilhadas e por qual motivo. Fizemos um pequeno experimento de detecção de rastreadores com o aplicativo aberto e encontramos 257 sinais de rastreamento em cinco minutos. Puta merda, isso é muito. Ele mostrou dados indo para o Facebook e Sentry AI (por Open AI). Então isso não aliviou exatamente nossas dúvidas.
Nada disso é ótimo, mas algumas das nossas maiores preocupações são sobre as vulnerabilidades de segurança da Anima. Prepare-se. Não podemos determinar se o aplicativo usa criptografia. Isso é ruim! Mas a Anima também não parece ter nenhum requisito de senha. Nenhum! Isso é difícil de acreditar para qualquer produto conectado em 2024, mas sua namorada IA? E a Anima parece entender que as informações que você compartilha com eles podem ser privadas, pois permitem que os usuários configurem uma senha para abrir o aplicativo em seu telefone. Isso nos leva a pensar que hackers de baixo nível ou realmente qualquer pessoa (como sua mãe ou parceiro da vida real) pode ser capaz de entrar em sua conta adivinhando sua senha muito simples. Além disso, ignorar algo tão simples nos faz pensar sobre o que mais poderia ter sido ignorado pelos criadores da Anima.
E enquanto estávamos lendo as letras miúdas, encontramos algumas coisas que você deve saber antes de mergulhar em um relacionamento com essa amiga virtual. A FAQ da Anima diz que sua amiga de IA nem sempre pode agir como uma. E isso porque o treinamento dos chatbots inclui conversas de humanos sendo rudes uns com os outros (como no Reddit), o que significa que pode ser hostil ou tóxico para você. Bem, se soubéssemos que as seções de comentários da internet estavam treinando nossas futuras melhores amigas de IA, poderíamos ter sido um pouco mais legais uns com os outros. A Anima diz que esses são problemas conhecidos que eles estão "trabalhando para minimizar", mas nos perguntamos se isso é algo que eles deveriam ter resolvido um pouco mais cedo. Droga, o simples fato de o emoji de ombros encolhidos estar presente neste FAQ dá a impressão de que até mesmo seus desenvolvedores não entendem completamente o que a Anima pode dizer ou o motivo para que ela o faça. Afinal, ela foi treinada por "bilhões de conversas e parágrafos de fala humana encontrados online" e "online" é um lugar muito grande, cheio de parágrafos que não chegam nem perto de serem amigáveis.
Mais algumas coisas não fizeram sentido para nós. Uma delas é a diferença de um requisito de idade entre a política de privacidade e os termos. (Sim, tivemos que ler os termos para tentar entender os chatbots de IA e, sim, eles fazem com que as políticas de privacidade pareçam leitura de praia. Nós amamos isso, não se preocupe conosco!) De qualquer forma, a política diz que você deve ter mais de 17 anos de idade e os termos dizem que, se você tiver menos de 17 anos de idade, um dos pais ou responsável deve concordar com os termos em seu nome. Meio estranho. Também detectamos um aviso sobre como a empresa-mãe não é responsável por "mensagens negativas, obscenas ou abusivas" que você possa receber. Você também não tem permissão para transmitir (dizer?) qualquer coisa "obscena" através do aplicativo, o que pode ficar um pouco complicado se você estiver usando o recurso de roleplay (não seguro) pago... Especialmente porque você estará conversando com sua "Parceira Romântica" que pode interpretar você sorrindo para ela como uma insinuação.
Então, qual é a pior coisa que poderia acontecer com a Anima? Estamos divididos, então aqui está um "Você preferiria?": Sua mãe (ou toda a internet) lendo sua transcrição de bate-papo suja porque vazou, OU ter que responder à Anima por violar seus termos porque você usou uma linguagem que os advogados do aplicativo acharam "obscena"? De qualquer forma, este é um bom momento para informar que você pode excluir seu histórico de bate-papo e dados da Anima. Que alívio.
Dicas para se proteger
- Não diga nada que contenha informações confidenciais em sua conversa com a IA.
- Se decidir parar de usar o aplicativo, solicite que seus dados sejam excluídos. Apenas excluir o aplicativo do seu dispositivo não apagará seus dados pessoais da base da empresa e nem fechará a sua conta.
- Não dê consentimento para o rastreamento constante de geolocalização pelo aplicativo. É melhor fornecer geolocalização "somente ao usar o aplicativo".
- Não compartilhe dados confidenciais pelo aplicativo.
- Não dê acesso às suas fotos e vídeo ou câmera.
- Não faça login usando contas de terceiros.
- Não se conecte a terceiros através do aplicativo, ou pelo menos certifique-se de que este terceiro empregue práticas de privacidade decentes.
- Não diga nada que contenha informações confidenciais em sua conversa com a IA.
- Escolha uma senha forte! Você pode usar uma ferramenta de controle de senhas, como o 1Password, KeePass, etc.
- Não use plug-ins de mídia social.
- Use os controles de privacidade do seu dispositivo para limitar o acesso a seus dados pessoais por meio do aplicativo (não libere acesso à sua câmera, microfone, imagens e localização, a não ser que seja necessário).
- Mantenha seu aplicativo atualizado regularmente.
- Limite o rastreamento de anúncios através do seu dispositivo (por exemplo, no iPhone, vá para Privacidade - > Publicidade -> Limitar rastreamento de anúncios) e as maiores redes de anúncios (para o Google, vá para a Conta do Google e desative a personalização de anúncios)
- Ao se cadastrar, não concorde com o rastreamento dos seus dados, se possível.
Pode me bisbilhotar?
Câmera
Dispositivo: Não aplicável
Aplicativo: Sim
Microfone
Dispositivo: Não aplicável
Aplicativo: Sim
Rastreia localização
Dispositivo: Não aplicável
Aplicativo: Sim
O que pode ser usado para se inscrever?
Sim
Celular
Não
Conta de terceiros
Sim
Inscrição do Google disponível
Que dados a empresa coleta?
Pessoal
Detalhes de contato, endereço IP, tipo de dispositivo, números de identificação de dispositivo exclusivos, outros identificadores internos (números inteiros), tipo de navegador, ampla localização geográfica (por exemplo, país ou localização em nível de cidade), outras informações técnicas.
Relacionado ao corpo
Social
Como a empresa usa esses dados?
Como você pode controlar seus dados?
Qual é o histórico conhecido da empresa na proteção de dados dos usuários?
Nenhuma violação de dados conhecida descoberta nos últimos três anos.
Informações de privacidade infantil
Este produto pode ser usado offline?
Informações de privacidade fáceis de entender?
Links para informações de privacidade
Este produto atende aos nossos padrões mínimos de segurança?
Criptografia
Senha forte
Consegui fazer login com uma senha '1'.
Atualizações de segurança
Gerencia vulnerabilidades
Política de privacidade
Não podemos confirmar se a IA usada por este produto é confiável, porque há pouca ou nenhuma informação pública sobre como a IA funciona e quais controles de usuário existem para tornar o produto seguro. Também encontramos temas perturbadores no conteúdo do aplicativo. Além disso, estamos preocupados com o potencial de manipulação do usuário a partir deste aplicativo, pois o aplicativo coleta informações pessoais confidenciais, pode usar esses dados para treinar modelos de IA e os usuários têm pouco ou nenhum controle sobre esses algoritmos de IA.
A Anima emprega grandes modelos de linguagem para gerar conversas e agir como um parceiro romântico.
Esta inteligência artificial não é confiável?
Que tipo de decisões a inteligência artificial faz sobre você ou por você?
A empresa é transparente sobre como funciona a inteligência artificial?
O usuário tem controle sobre os recursos da inteligência artificial?
Mergulhe mais fundo
-
5 Things You Must Not Share With AI ChatbotsMake Use Of
-
AI girlfriends are ruining an entire generation of menThe Hill
-
‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AIRolling Stone
-
AI-Human Romances Are Flourishing—And This Is Just the BeginningTime
Comentários
Tem um comentário a fazer? Nos diga.