Chai AI

Aviso: *Privacidade não incluída neste produto

Chai AI

Data da avaliação: 7 de Fevereiro de 2024

|
A Mozilla investigou por 8 horas
|

Opinião da Mozilla

|
Votos das pessoas: Muito assustador

Chai AI possui mais de um milhão de personalidades de chatbot de IA (vá em frente, diga isso com o dedo mindinho ao lado da boca na sua melhor voz de Austin Powers!). Baixe o aplicativo (tenha cuidado para obter o aplicativo Chai AI certo, existem alguns impostores por aí) e comece a navegar (swipe) e conversar. Os usuários gratuitos recebem um número limitado de bate-papos por vez, limitando a diversão e a função do aplicativo. As assinaturas premium começam em torno de US$ 14 por mês. E de acordo com o Chai, eles "otimizam obsessivamente seus modelos de linguagem, tornando-os continuamente mais divertidos do que nunca". Portanto, esteja preparado para acabar gastando dinheiro. Também esteja preparado para se deparar com alguns chatbots estranhos e assustadores que são tanto para ambientes seguros (SFW) quanto para ambientes não seguros (NSFW), e provavelmente não são exatamente ótimos para sua privacidade. Como um usuário do Chai colocou em sua avaliação da Apple Store: "sobre os mais estranhos, digamos apenas que foi melhor NÃO usá-los". Boa sorte no chatbot de IA para atrair pessoas! Navegue com cuidado.

O que pode acontecer se algo der errado?

Três coisas surgiram imediatamente quando estávamos revisando o aplicativo de chatbot Chai AI, além de algumas informações muito perturbadoras que encontramos durante nossa pesquisa (sério, que nojo!).

Primeiro, notamos que, no momento da nossa análise, a política de privacidade do Chai foi atualizada pela última vez em março de 2021. No mundo em rápido avanço da IA generativa e dos grandes modelos de linguagem (LLMs), ao nosso ver, uma política de privacidade de três anos parece estar muito desatualizada. A política de privacidade deles parecia muito vaga e padronizada para realmente nos fazer sentir certos de que entendíamos todas as informações pessoais que estavam coletando e como as estavam usando. Uma rápida pesquisa em sua política de privacidade não encontrou nenhuma menção sobre como eles coletam e lidam com o conteúdo dos bate-papos de seus usuários. Também não encontramos nenhuma menção específica em nenhum lugar de como eles usam quaisquer informações pessoais, incluindo informações pessoais confidenciais e o conteúdo dos bate-papos, para treinar suas IAs. Isso é um pouco preocupante para nós, especialmente para um aplicativo projetado para que os usuários conversem e compartilhem muitas informações sobre eles.

Encontramos algumas informações aparentemente contraditórias entre a Política de Privacidade e o Contrato de Licença de Usuário Final (EULA) deles, o que nos deixou bastante confusos. (Pesquisadores de privacidade realmente não gostam de ficar confusos... Percebemos que se nós não conseguimos entender isso direito, como diabos os consumidores poderiam entender essas coisas?). Sua política de privacidade de março de 2021 afirma: "Podemos usar suas informações pessoais para nossos próprios fins comerciais, como para realizar pesquisas internas para desenvolvimento e demonstração tecnológica. Isso não é considerado 'venda' de seus dados pessoais". No entanto, seu Contrato de Licença de Usuário Final (EULA) de abril de 2023 declara: "Ao publicar suas Contribuições em qualquer parte do Aplicativo Licenciado ou tornar as Contribuições acessíveis ao Aplicativo Licenciado vinculando sua conta do Aplicativo Licenciado a qualquer uma de suas contas de rede social, você concede automaticamente, e você declara e garante que tem o direito de nos conceder um direito irrestrito, ilimitado, irrevogável, perpétuo, não exclusivo, transferível, isento de royalties, totalmente pago, direito mundial e licença para hospedar, usar, copiar, reproduzir, divulgar, vender, revender, publicar, transmitir, renomear, arquivar, armazenar, armazenar em cache, exibir publicamente, reformatar, traduzir, transmitir, extrair (no todo ou em parte) e distribuir tais Contribuições (incluindo, sem limitação, sua imagem e voz) para qualquer finalidade, publicidade comercial ou de outra forma, e preparar trabalhos derivados ou incorporar em outros trabalhos, como Contribuições, e conceder e autorizar sublicenças do acima exposto". Isso é um monte de jargão jurídico incompreensível, mas com certeza parece para nós que eles se concedem o direito de fazer o que quiserem com suas conversas no Chai.

A segunda coisa que realmente nos deixou coçando a cabeça quando se trata do Chai AI é esta linha em sua política de privacidade: "Todas as informações pessoais que você nos fornece devem ser verdadeiras, completas e precisas, e você deve nos notificar de quaisquer alterações em tais informações pessoais". Agora, supomos que isso faz sentido quando se trata de compartilhar suas informações pessoais para pagar por uma assinatura – sem mentiras. Mas exigir que as pessoas consintam com uma política de privacidade para um aplicativo de bate-papo de IA projetado para coisas como dramatização, relacionamentos em ambientes não seguros (NSFW) e afins, parece bastante estranho para nós exigir que as pessoas sempre forneçam informações pessoais verdadeiras, completas e precisas. Isso significa que não há apelidos no momento da inscrição? Isso significa que você não pode mentir quando conversa com seu bot? Isso significa que se você mudar seu nome e esquecer de informar o Chai AI, está violando sua política de privacidade? Tudo parece bem estranho para nós. Será que a política de privacidade deles não foi escrita com os serviços atuais em mente?

A terceira coisa que realmente se destacou para nós foi essa história de 2023 sobre um usuário Chai AI que cometeu suicídio depois que um chatbot Chai encorajou o usuário a se matar. Sim, quando se trata de cenários de pior caso com chatbots de IA, ter um que o incentive a se matar quando você está falando sobre como você está deprimido é praticamente lá em cima. O Chai AI reúne muitos dos modelos para seus chatbots de IA e, embora eles digam que implementaram medidas para fornecer "texto útil" sob o que consideram discussões inseguras, este é um lembrete muito bom de que o mundo dos chatbots de IA, especialmente aqueles projetados para desenvolver relacionamentos com os usuários, é uma arena muito incerta, um verdadeiro Velho Oeste, se preferir.

Portanto, entre nossa incerteza quanto à confiabilidade dos modelos de IA do Chai, a linguagem vaga e confusa que encontramos na documentação de privacidade deles, o fato de que sua política de privacidade não diz claramente que todos os usuários podem excluir seus dados e o fato de que não conseguimos determinar se o Chai AI atende aos nossos Padrões Mínimos de Segurança, confirmando que eles usam criptografia de suas informações pessoais em trânsito e onde elas são armazenadas, temos que avisar que o Chai AI provavelmente vem com *Privacidade não incluída.

Nesse sentido, deixaremos este bom lembrete da própria política de privacidade da Chai AI: "No entanto, apesar de nossas salvaguardas e esforços para proteger suas informações, nenhuma transmissão eletrônica pela Internet ou tecnologia de armazenamento de informações pode ser garantida como 100% segura, por isso não podemos prometer ou garantir que hackers, criminosos cibernéticos ou outros terceiros não autorizados não serão capazes de derrotar nossa segurança e coletar, acessar, roubar ou modificar indevidamente suas informações". Uma coisa importante a se ter em mente ao usar o Chai AI ou praticamente qualquer coisa que compartilhe suas informações pessoais na internet.

Dicas para se proteger

  • Não diga nada que contenha informações confidenciais em sua conversa com a IA.
  • Se decidir parar de usar o aplicativo, solicite que seus dados sejam excluídos. Apenas excluir o aplicativo do seu dispositivo não apagará seus dados pessoais da base da empresa e nem fechará a sua conta.
  • Não dê consentimento para o rastreamento constante de geolocalização pelo aplicativo. É melhor fornecer geolocalização "somente ao usar o aplicativo".
  • Não compartilhe dados confidenciais pelo aplicativo.
  • Não dê acesso às suas fotos e vídeo ou câmera.
  • Não faça login usando contas de terceiros.
  • Não se conecte a terceiros através do aplicativo, ou pelo menos certifique-se de que este terceiro empregue práticas de privacidade decentes.
  • Não diga nada que contenha informações confidenciais em sua conversa com a IA.
  • Escolha uma senha forte! Você pode usar uma ferramenta de controle de senhas, como o 1Password, KeePass, etc.
  • Não use plug-ins de mídia social.
  • Use os controles de privacidade do seu dispositivo para limitar o acesso a seus dados pessoais por meio do aplicativo (não libere acesso à sua câmera, microfone, imagens e localização, a não ser que seja necessário).
  • Mantenha seu aplicativo atualizado regularmente.
  • Limite o rastreamento de anúncios através do seu dispositivo (por exemplo, no iPhone, vá para Privacidade - > Publicidade -> Limitar rastreamento de anúncios) e as maiores redes de anúncios (para o Google, vá para a Conta do Google e desative a personalização de anúncios)
  • Ao se cadastrar, não concorde com o rastreamento dos seus dados, se possível.
  • mobile

Pode me bisbilhotar? informações

Câmera

Dispositivo: Não aplicável

Aplicativo: Não

Microfone

Dispositivo: Não aplicável

Aplicativo: Sim

Rastreia localização

Dispositivo: Não aplicável

Aplicativo: Sim

O que pode ser usado para se inscrever?

É possível se cadastrar no Google e no Facebook.

Que dados a empresa coleta?

Como a empresa usa esses dados?

Nós notificamos este produto, pois ele pode vender ou compartilhar para fins de publicidade ou usar para qualquer outro propósito suas contribuições, incluindo textos, voz e imagens.

Aviso de Privacidade

"Todas as informações pessoais que você nos fornecer devem ser verdadeiras, completas e precisas, e você deve nos notificar de quaisquer alterações em tais informações pessoais."

"Usamos as informações que coletamos ou recebemos:
<...>
Para proteger nossos Serviços. Podemos usar suas informações como parte de nossos esforços para manter nossos Serviços seguros (por exemplo, para monitoramento e prevenção de fraudes).
Para fazer cumprir os nossos termos, condições e políticas para fins comerciais, para cumprir os requisitos legais e regulamentares ou em conexão com o nosso contrato.
Para responder a solicitações legais e evitar danos. Se recebermos uma intimação ou outra solicitação legal, talvez precisemos inspecionar os dados que mantemos para determinar como responder.<...>"

"Nós apenas compartilhamos e divulgamos suas informações com os seguintes terceiros. <...>.
Permitir que os usuários se conectem às suas contas de terceiros, contas Google,
serviços de computação em nuvem, plataforma Google Cloud,
otimização de funcionalidade e infraestrutura, funções na nuvem para o Firebase, banco de dados em tempo real do Firebase e hospedagem Firebase,
registro de Conta de Usuário e autenticação Google Sign-In."

"Podemos usar cookies e tecnologias de rastreamento semelhantes (como web beacons e pixels) para acessar ou armazenar informações. Informações específicas sobre como usamos essas tecnologias e como você pode recusar determinados cookies estão definidas em nosso Aviso de Cookies."

"Podemos usar suas informações pessoais para nossos próprios fins comerciais, como para realizar pesquisas internas para desenvolvimento e demonstração tecnológica. Isso não é considerado 'venda' de seus dados pessoais."

"Fornecedores, Consultores e Outros Prestadores de Serviços Terceirizados. Podemos compartilhar seus dados com fornecedores, prestadores de serviços, contratados ou agentes terceirizados que prestam serviços para nós ou em nosso nome e exigem acesso a essas informações para realizar esse trabalho. Os exemplos incluem: processamento de pagamentos, análise de dados, entrega de e-mails, serviços de hospedagem, atendimento ao cliente e esforços de marketing. Podemos permitir que terceiros selecionados usem tecnologia de rastreamento nos Serviços, o que lhes permitirá coletar dados em nosso nome sobre como você interage com nossos Serviços ao longo do tempo. Essas informações podem ser usadas para, entre outras coisas, analisar e rastrear dados, determinar a popularidade de determinados conteúdos, páginas ou recursos e entender melhor a atividade online. A menos que descrito neste aviso, não compartilhamos, vendemos, alugamos ou trocamos nenhuma de suas informações com terceiros para fins promocionais. Temos contratos em vigor com os nossos processadores de dados, que são projetados para ajudar a proteger as suas informações pessoais. Isso significa que eles não podem fazer nada com suas informações pessoais, a menos que os tenhamos instruído a fazê-lo. Eles também não compartilharão suas informações pessoais com nenhuma organização além de nós. Eles também se comprometem a proteger os dados que detêm em nosso nome e a retê-los pelo período que instruirmos."

Acordo de licença para o usuário final

"Você reconhece que o Licenciante poderá acessar e ajustar o conteúdo do Seu Aplicativo Licenciado baixado e Suas informações pessoais, <...>"
Você reconhece que o Licenciante pode coletar e usar periodicamente dados técnicos e informações relacionadas sobre seu dispositivo, sistema e software de aplicativo e periféricos, oferecer suporte ao produto, facilitar as atualizações de software e para fins de prestação de outros serviços a você (se houver) relacionados ao Aplicativo Licenciado. O Licenciante também pode usar essas informações para melhorar seus produtos ou fornecer serviços ou tecnologias a você, desde que estejam em uma forma que não o identifique pessoalmente."

O Aplicativo Licenciado pode convidá-lo a conversar, contribuir ou participar de blogs, fóruns de mensagens, fóruns online e outras funcionalidades, e pode fornecer a você a oportunidade de criar, enviar, postar, exibir, transmitir, executar, publicar, distribuir ou transmitir conteúdo e materiais para nós ou no Aplicativo Licenciado, incluindo, entre outros, texto, escritas, vídeo, áudio, fotografias, gráficos, comentários, sugestões ou informações pessoais ou outro material (coletivamente, "Contribuições"). As contribuições podem ser visualizadas por outros usuários do Aplicativo Licenciado e por meio de sites ou aplicativos de terceiros. Como tal, quaisquer Contribuições que você transmitir podem ser tratadas como não confidenciais e não proprietárias. Ao criar ou disponibilizar quaisquer Contribuições, você declara e garante que:

A criação, distribuição, transmissão, exibição pública ou desempenho e o acesso, download ou cópia de suas Contribuições não infringem e não infringirão os direitos de propriedade, incluindo, entre outros, direitos autorais, patentes, marcas registradas, segredos comerciais ou direitos morais de terceiros.
2. Você é o criador e proprietário ou possui as licenças, direitos, consentimentos, liberações e permissões necessárias para usar e autorizar a nós, ao Aplicativo Licenciado e a outros usuários do Aplicativo Licenciado a usar suas Contribuições de qualquer maneira contemplada pelo Aplicativo Licenciado e por este Contrato de Licença.
3. Você tem o consentimento, liberação e/ou permissão por escrito de cada pessoa individual identificável em suas Contribuições para usar o nome ou semelhança ou cada pessoa individual identificável para permitir a inclusão e uso de suas Contribuições de qualquer maneira contemplada pelo Aplicativo Licenciado e este Contrato de Licença.
4. Suas Contribuições não são falsas, imprecisas ou enganosas.
5. Suas Contribuições não são publicidade não solicitada ou não autorizada, materiais promocionais, esquemas de pirâmide, correntes, spam, correspondências em massa ou outras formas de solicitação.
6. Suas Contribuições não são obscenas, lascivas, imundas, violentas, assediadoras, difamatórias, caluniosas ou de outra forma censuráveis (conforme determinado por nós).
7. Suas Contribuições não ridicularizam, zombam, menosprezam, intimidam ou abusam de ninguém.
8. Suas Contribuições não são usadas para assediar ou ameaçar (no sentido legal desses termos) qualquer outra pessoa e para promover a violência contra uma pessoa ou classe específica de pessoas.
9. Suas Contribuições não violam nenhuma lei, regulamento ou regra aplicável.
10. Suas Contribuições não violam os direitos de privacidade ou publicidade de terceiros.
11. Suas Contribuições não violam nenhuma lei aplicável relativa à pornografia infantil ou, de outra forma, destinam-se a proteger a saúde ou o bem-estar de menores.
12. Suas Contribuições não incluem comentários ofensivos relacionados a raça, nacionalidade, gênero, preferência sexual ou deficiência física.
13. Suas Contribuições não violam ou vinculam a material que viole qualquer disposição deste Contrato de Licença ou qualquer lei ou regulamento aplicável."

"Ao publicar suas Contribuições em qualquer parte do Aplicativo Licenciado ou tornar as Contribuições acessíveis ao Aplicativo Licenciado vinculando sua conta do Aplicativo Licenciado a qualquer uma de suas contas de rede social, você concede automaticamente, e declara e garante que tem o direito de nos conceder um direito irrestrito, ilimitado, irrevogável, perpétuo, não exclusivo, transferível, isento de royalties, totalmente pago, de direito mundial e licença para hospedar, usar, copiar, reproduzir, divulgar, vender, revender, publicar, transmitir, renomear, arquivar, armazenar, armazenar em cache, exibir publicamente, reformatar, traduzir, transmitir, extrair (no todo ou em parte) e distribuir tais Contribuições (incluindo, sem limitação, sua imagem e voz) para qualquer finalidade, publicidade comercial ou de outra forma, e preparar trabalhos derivados ou incorporar em outros trabalhos, como Contribuições, e conceder e autorizar sublicenças do acima exposto. O uso e a distribuição podem ocorrer em quaisquer formatos de mídia e através de quaisquer canais de mídia.”

Rastreadores de Dados Encontrados
Descobrimos 58 rastreadores em 1 minuto de uso, incluindo o envio de dados para Applovin (rastreador de marketing), Facebook, Chai Research.

Como você pode controlar seus dados?

Não podemos confirmar se todos os usuários, independentemente da localização, podem excluir seus dados.

Aviso de Privacidade

"Com base nas leis aplicáveis do seu país, você pode ter o direito de solicitar acesso às informações pessoais que coletamos de você, alterar essas informações ou excluí-las em algumas circunstâncias. Para solicitar a revisão, atualização ou exclusão de suas informações pessoais, acesse: [email protected]. Responderemos ao seu pedido no prazo de 30 dias."

"Só manteremos suas informações pessoais pelo tempo que for necessário para os fins estabelecidos neste aviso de privacidade, a menos que um período de retenção mais longo seja exigido ou permitido por lei (como impostos, contabilidade ou outros requisitos legais). Nenhuma finalidade neste aviso exigirá que mantenhamos suas informações pessoais por mais tempo do que o período de tempo em que os usuários têm uma conta conosco.

Quando não tivermos negócios legítimos em andamento para processar suas informações pessoais, iremos excluí-las ou torná-las anônimas ou, se isso não for possível (por exemplo, porque suas informações pessoais foram armazenadas em arquivos de backup), então, armazenaremos suas informações pessoais com segurança e as isolaremos de qualquer outro processamento até que seja possível a exclusão.

Qual é o histórico conhecido da empresa na proteção de dados dos usuários?

Médio

Nenhuma violação de dados conhecida descoberta nos últimos três anos.

Informações de privacidade infantil

Nenhuma informação sobre restrição de idade encontrada.

"Se tiver menos de 18 anos de idade, residir na Califórnia e tiver uma conta registada num Serviço, tem o direito de solicitar a remoção de dados indesejados que publique publicamente nos Serviços. Para solicitar a remoção desses dados, entre em contato conosco usando as informações de contato fornecidas abaixo e inclua o endereço de e-mail associado à sua conta e uma declaração de que você reside na Califórnia. Garantiremos que os dados não sejam exibidos publicamente nos Serviços, mas esteja ciente de que os dados podem não ser removidos completamente ou de forma abrangente de todos os nossos sistemas (por exemplo, backups, etc.)."

Este produto pode ser usado offline?

Não

Informações de privacidade fáceis de entender?

Não

Encontramos dois links diferentes para a política de privacidade do Chai AI nas páginas da Apple e da Google Play Store. Além disso, a única política de privacidade que pudemos encontrar foi atualizada pela última vez em março de 2021, o que parece muito tempo sem atualização no mundo em rápida evolução dos chatbots de IA. A política de privacidade foi redigida de forma vaga e não mencionava coisas como a forma como as conversas por chat eram tratadas para o treinamento em IA.

Links para informações de privacidade

Este produto atende aos nossos padrões mínimos de segurança? informações

Desconhecido

Criptografia

Não foi possível determinar

Não podemos confirmar a criptografia em repouso e em trânsito para este aplicativo.

Senha forte

Não aplicável

Atualizações de segurança

Sim

Gerencia vulnerabilidades

Sim

Política de privacidade

Sim

O produto usa inteligência artificial? informações

Sim

Não podemos confirmar se a IA usada por este produto é confiável, porque há pouca ou nenhuma informação pública sobre como os modelos de IA funcionam e quais controles de usuário existem para tornar o produto seguro. Também encontramos temas perturbadores no conteúdo do aplicativo. Além disso, estamos preocupados com o potencial de manipulação do usuário a partir deste aplicativo, pois o aplicativo coleta informações pessoais confidenciais, pode usar esses dados para treinar modelos de IA e os usuários têm pouco ou nenhum controle sobre esses algoritmos de IA.

A Chai Research afirma superar o ChatGPT pelo desempenho. "Ao executar testes AB com usuários reais, nosso modelo mais recente supera o desempenho do OpenAI ChatGPT medido pelo tempo de tela da sessão."

"Indiscutivelmente, o serviço mais importante que hospedamos é o nosso serviço de resposta a bots: o programa que é responsável por analisar as mensagens do usuário para bots e encaminhá-las para nossos modelos para inferências. Esses modelos estão hospedados em um impressionante cluster Kubernetes de 700 GPU hospedado pelo pessoal da CoreWeave."

Esta inteligência artificial não é confiável?

Sim

Que tipo de decisões a inteligência artificial faz sobre você ou por você?

O Chai emprega grandes modelos de linguagem para fornecer bots e outros serviços.

A empresa é transparente sobre como funciona a inteligência artificial?

Sim

O Chai fornece descrições sobre como a parte técnica funciona no aplicativo.

O usuário tem controle sobre os recursos da inteligência artificial?

Não

Em março de 2023, houve um relato de um usuário de Chai AI cometendo suicídio depois que o chatbot encorajou o usuário a se matar. Encontramos muitos conteúdos prejudiciais no aplicativo, incluindo temas perturbadores de violência e abuso.
*Privacidade não incluída

Mergulhe mais fundo

  • 'He Would Still Be Here': Man Dies by Suicide After Talking with AI Chatbot, Widow Says
    Motherboard O link é aberto em uma nova aba
  • Chatbot Honeypot: How AI Companions Could Weaken National Security
    Scientific American O link é aberto em uma nova aba
  • 5 Things You Must Not Share With AI Chatbots
    Make Use Of O link é aberto em uma nova aba
  • Chai Prize: Deploying LLMs to end-users at scale
    Chai Research O link é aberto em uma nova aba
  • ‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AI
    Rolling Stone O link é aberto em uma nova aba

Comentários

Tem um comentário a fazer? Nos diga.