
Aviso: *Privacidade não incluída neste produto
Chai AI possui mais de um milhão de personalidades de chatbot de IA (vá em frente, diga isso com o dedo mindinho ao lado da boca na sua melhor voz de Austin Powers!). Baixe o aplicativo (tenha cuidado para obter o aplicativo Chai AI certo, existem alguns impostores por aí) e comece a navegar (swipe) e conversar. Os usuários gratuitos recebem um número limitado de bate-papos por vez, limitando a diversão e a função do aplicativo. As assinaturas premium começam em torno de US$ 14 por mês. E de acordo com o Chai, eles "otimizam obsessivamente seus modelos de linguagem, tornando-os continuamente mais divertidos do que nunca". Portanto, esteja preparado para acabar gastando dinheiro. Também esteja preparado para se deparar com alguns chatbots estranhos e assustadores que são tanto para ambientes seguros (SFW) quanto para ambientes não seguros (NSFW), e provavelmente não são exatamente ótimos para sua privacidade. Como um usuário do Chai colocou em sua avaliação da Apple Store: "sobre os mais estranhos, digamos apenas que foi melhor NÃO usá-los". Boa sorte no chatbot de IA para atrair pessoas! Navegue com cuidado.
O que pode acontecer se algo der errado?
Três coisas surgiram imediatamente quando estávamos revisando o aplicativo de chatbot Chai AI, além de algumas informações muito perturbadoras que encontramos durante nossa pesquisa (sério, que nojo!).
Primeiro, notamos que, no momento da nossa análise, a política de privacidade do Chai foi atualizada pela última vez em março de 2021. No mundo em rápido avanço da IA generativa e dos grandes modelos de linguagem (LLMs), ao nosso ver, uma política de privacidade de três anos parece estar muito desatualizada. A política de privacidade deles parecia muito vaga e padronizada para realmente nos fazer sentir certos de que entendíamos todas as informações pessoais que estavam coletando e como as estavam usando. Uma rápida pesquisa em sua política de privacidade não encontrou nenhuma menção sobre como eles coletam e lidam com o conteúdo dos bate-papos de seus usuários. Também não encontramos nenhuma menção específica em nenhum lugar de como eles usam quaisquer informações pessoais, incluindo informações pessoais confidenciais e o conteúdo dos bate-papos, para treinar suas IAs. Isso é um pouco preocupante para nós, especialmente para um aplicativo projetado para que os usuários conversem e compartilhem muitas informações sobre eles.
Encontramos algumas informações aparentemente contraditórias entre a Política de Privacidade e o Contrato de Licença de Usuário Final (EULA) deles, o que nos deixou bastante confusos. (Pesquisadores de privacidade realmente não gostam de ficar confusos... Percebemos que se nós não conseguimos entender isso direito, como diabos os consumidores poderiam entender essas coisas?). Sua política de privacidade de março de 2021 afirma: "Podemos usar suas informações pessoais para nossos próprios fins comerciais, como para realizar pesquisas internas para desenvolvimento e demonstração tecnológica. Isso não é considerado 'venda' de seus dados pessoais". No entanto, seu Contrato de Licença de Usuário Final (EULA) de abril de 2023 declara: "Ao publicar suas Contribuições em qualquer parte do Aplicativo Licenciado ou tornar as Contribuições acessíveis ao Aplicativo Licenciado vinculando sua conta do Aplicativo Licenciado a qualquer uma de suas contas de rede social, você concede automaticamente, e você declara e garante que tem o direito de nos conceder um direito irrestrito, ilimitado, irrevogável, perpétuo, não exclusivo, transferível, isento de royalties, totalmente pago, direito mundial e licença para hospedar, usar, copiar, reproduzir, divulgar, vender, revender, publicar, transmitir, renomear, arquivar, armazenar, armazenar em cache, exibir publicamente, reformatar, traduzir, transmitir, extrair (no todo ou em parte) e distribuir tais Contribuições (incluindo, sem limitação, sua imagem e voz) para qualquer finalidade, publicidade comercial ou de outra forma, e preparar trabalhos derivados ou incorporar em outros trabalhos, como Contribuições, e conceder e autorizar sublicenças do acima exposto". Isso é um monte de jargão jurídico incompreensível, mas com certeza parece para nós que eles se concedem o direito de fazer o que quiserem com suas conversas no Chai.
A segunda coisa que realmente nos deixou coçando a cabeça quando se trata do Chai AI é esta linha em sua política de privacidade: "Todas as informações pessoais que você nos fornece devem ser verdadeiras, completas e precisas, e você deve nos notificar de quaisquer alterações em tais informações pessoais". Agora, supomos que isso faz sentido quando se trata de compartilhar suas informações pessoais para pagar por uma assinatura – sem mentiras. Mas exigir que as pessoas consintam com uma política de privacidade para um aplicativo de bate-papo de IA projetado para coisas como dramatização, relacionamentos em ambientes não seguros (NSFW) e afins, parece bastante estranho para nós exigir que as pessoas sempre forneçam informações pessoais verdadeiras, completas e precisas. Isso significa que não há apelidos no momento da inscrição? Isso significa que você não pode mentir quando conversa com seu bot? Isso significa que se você mudar seu nome e esquecer de informar o Chai AI, está violando sua política de privacidade? Tudo parece bem estranho para nós. Será que a política de privacidade deles não foi escrita com os serviços atuais em mente?
A terceira coisa que realmente se destacou para nós foi essa história de 2023 sobre um usuário Chai AI que cometeu suicídio depois que um chatbot Chai encorajou o usuário a se matar. Sim, quando se trata de cenários de pior caso com chatbots de IA, ter um que o incentive a se matar quando você está falando sobre como você está deprimido é praticamente lá em cima. O Chai AI reúne muitos dos modelos para seus chatbots de IA e, embora eles digam que implementaram medidas para fornecer "texto útil" sob o que consideram discussões inseguras, este é um lembrete muito bom de que o mundo dos chatbots de IA, especialmente aqueles projetados para desenvolver relacionamentos com os usuários, é uma arena muito incerta, um verdadeiro Velho Oeste, se preferir.
Portanto, entre nossa incerteza quanto à confiabilidade dos modelos de IA do Chai, a linguagem vaga e confusa que encontramos na documentação de privacidade deles, o fato de que sua política de privacidade não diz claramente que todos os usuários podem excluir seus dados e o fato de que não conseguimos determinar se o Chai AI atende aos nossos Padrões Mínimos de Segurança, confirmando que eles usam criptografia de suas informações pessoais em trânsito e onde elas são armazenadas, temos que avisar que o Chai AI provavelmente vem com *Privacidade não incluída.
Nesse sentido, deixaremos este bom lembrete da própria política de privacidade da Chai AI: "No entanto, apesar de nossas salvaguardas e esforços para proteger suas informações, nenhuma transmissão eletrônica pela Internet ou tecnologia de armazenamento de informações pode ser garantida como 100% segura, por isso não podemos prometer ou garantir que hackers, criminosos cibernéticos ou outros terceiros não autorizados não serão capazes de derrotar nossa segurança e coletar, acessar, roubar ou modificar indevidamente suas informações". Uma coisa importante a se ter em mente ao usar o Chai AI ou praticamente qualquer coisa que compartilhe suas informações pessoais na internet.
Dicas para se proteger
- Não diga nada que contenha informações confidenciais em sua conversa com a IA.
- Se decidir parar de usar o aplicativo, solicite que seus dados sejam excluídos. Apenas excluir o aplicativo do seu dispositivo não apagará seus dados pessoais da base da empresa e nem fechará a sua conta.
- Não dê consentimento para o rastreamento constante de geolocalização pelo aplicativo. É melhor fornecer geolocalização "somente ao usar o aplicativo".
- Não compartilhe dados confidenciais pelo aplicativo.
- Não dê acesso às suas fotos e vídeo ou câmera.
- Não faça login usando contas de terceiros.
- Não se conecte a terceiros através do aplicativo, ou pelo menos certifique-se de que este terceiro empregue práticas de privacidade decentes.
- Não diga nada que contenha informações confidenciais em sua conversa com a IA.
- Escolha uma senha forte! Você pode usar uma ferramenta de controle de senhas, como o 1Password, KeePass, etc.
- Não use plug-ins de mídia social.
- Use os controles de privacidade do seu dispositivo para limitar o acesso a seus dados pessoais por meio do aplicativo (não libere acesso à sua câmera, microfone, imagens e localização, a não ser que seja necessário).
- Mantenha seu aplicativo atualizado regularmente.
- Limite o rastreamento de anúncios através do seu dispositivo (por exemplo, no iPhone, vá para Privacidade - > Publicidade -> Limitar rastreamento de anúncios) e as maiores redes de anúncios (para o Google, vá para a Conta do Google e desative a personalização de anúncios)
- Ao se cadastrar, não concorde com o rastreamento dos seus dados, se possível.
Pode me bisbilhotar?
Câmera
Dispositivo: Não aplicável
Aplicativo: Não
Microfone
Dispositivo: Não aplicável
Aplicativo: Sim
Rastreia localização
Dispositivo: Não aplicável
Aplicativo: Sim
O que pode ser usado para se inscrever?
Não
Celular
Não
Conta de terceiros
Sim
É possível se cadastrar no Google e no Facebook.
Que dados a empresa coleta?
Pessoal
Endereços de e-mail; nomes; detalhes da conta de mídia social; Dados de registro e uso: relacionados ao serviço, diagnóstico, uso, informações de desempenho, endereço IP, informações do dispositivo, tipo e configurações do navegador, informações sobre sua atividade nos Serviços, carimbos de data/hora associados ao seu uso, páginas e arquivos visualizados, pesquisas e outras ações que você realiza, recursos que você usa, informações de eventos do dispositivo, atividade do sistema, relatórios de erros, configurações de hardware; dados do dispositivo: endereço IP, números de identificação do dispositivo e do aplicativo, localização, tipo de navegador, modelo de hardware, provedor de serviços de Internet, operadora de celular, sistema operacional, informações de configuração do sistema; dados de localização: precisos ou imprecisos.
Relacionado ao corpo
Social
"As informações de perfil que recebemos podem variar dependendo do provedor de mídia social em questão, mas geralmente incluirão seu nome, endereço de e-mail, lista de amigos, foto de perfil, bem como outras informações que você optar por tornar públicas em tal plataforma de mídia social."
Como a empresa usa esses dados?
Como você pode controlar seus dados?
Qual é o histórico conhecido da empresa na proteção de dados dos usuários?
Nenhuma violação de dados conhecida descoberta nos últimos três anos.
Informações de privacidade infantil
Este produto pode ser usado offline?
Informações de privacidade fáceis de entender?
Encontramos dois links diferentes para a política de privacidade do Chai AI nas páginas da Apple e da Google Play Store. Além disso, a única política de privacidade que pudemos encontrar foi atualizada pela última vez em março de 2021, o que parece muito tempo sem atualização no mundo em rápida evolução dos chatbots de IA. A política de privacidade foi redigida de forma vaga e não mencionava coisas como a forma como as conversas por chat eram tratadas para o treinamento em IA.
Links para informações de privacidade
Este produto atende aos nossos padrões mínimos de segurança?
Criptografia
Não podemos confirmar a criptografia em repouso e em trânsito para este aplicativo.
Senha forte
Atualizações de segurança
Gerencia vulnerabilidades
Política de privacidade
Não podemos confirmar se a IA usada por este produto é confiável, porque há pouca ou nenhuma informação pública sobre como os modelos de IA funcionam e quais controles de usuário existem para tornar o produto seguro. Também encontramos temas perturbadores no conteúdo do aplicativo. Além disso, estamos preocupados com o potencial de manipulação do usuário a partir deste aplicativo, pois o aplicativo coleta informações pessoais confidenciais, pode usar esses dados para treinar modelos de IA e os usuários têm pouco ou nenhum controle sobre esses algoritmos de IA.
A Chai Research afirma superar o ChatGPT pelo desempenho. "Ao executar testes AB com usuários reais, nosso modelo mais recente supera o desempenho do OpenAI ChatGPT medido pelo tempo de tela da sessão."
"Indiscutivelmente, o serviço mais importante que hospedamos é o nosso serviço de resposta a bots: o programa que é responsável por analisar as mensagens do usuário para bots e encaminhá-las para nossos modelos para inferências. Esses modelos estão hospedados em um impressionante cluster Kubernetes de 700 GPU hospedado pelo pessoal da CoreWeave."
Esta inteligência artificial não é confiável?
Que tipo de decisões a inteligência artificial faz sobre você ou por você?
A empresa é transparente sobre como funciona a inteligência artificial?
O usuário tem controle sobre os recursos da inteligência artificial?
Mergulhe mais fundo
-
'He Would Still Be Here': Man Dies by Suicide After Talking with AI Chatbot, Widow SaysMotherboard
-
Chatbot Honeypot: How AI Companions Could Weaken National SecurityScientific American
-
5 Things You Must Not Share With AI ChatbotsMake Use Of
-
Chai Prize: Deploying LLMs to end-users at scaleChai Research
-
‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AIRolling Stone
Comentários
Tem um comentário a fazer? Nos diga.