Aviso: *Privacidade não incluída neste produto

Chatbots de IA para Relacionamento Dia dos namorados

CrushOn.AI

Peekaboo Tech Inc.

WiFi

Data da avaliação: 7 de Fevereiro de 2024

A Mozilla investigou por 8 horas

Opinião da Mozilla

Votos das pessoas: Muito assustador

Espere! O CrushOn apresenta alguns conteúdos realmente perturbadores como destaque. Por favor, tome cuidado antes de clicar.

A marca de companheiros de bate-papo de IA da CrushOn.AI são personagens animados. Você pode até criar o seu próprio! Uma rápida navegação pelo catálogo mostra que a arte imita a vida, já que você verá alguns rostos familiares. Isso significa que se você já desejou uma conversa picante com Sailor Moon, Sonic the Hedgehog, Ghostface (dos filmes Pânico) ou um homem musculoso com uma pirâmide como cabeça, sua longa espera acabou. Infelizmente, antes que você possa deixar essas mensagens diretas (DMs) voarem, você terá que navegar em uma rede muito confusa e incompleta de sites que tornam praticamente impossível descobrir o que é legítimo. Há sua página vazia na App Store, a página de um falso concorrente de chatbot que se vincula ao CrushOn, e uma página "CrushOn pro" que é vinculada a um chatbot não seguro (NSFW) totalmente diferente. Depois, há o fato de que sua página da Google Play Store é vinculada ao contrato de usuário da Apple em vez do seu próprio. Sério? Tudo isso, mais três notificações de nossa parte e um conteúdo assustador à frente significam *Privacidade (definitivamente) não incluída no CrushOn.AI.

O que pode acontecer se algo der errado?

Aquela sensação de vertigem que tivemos ao fazer uma pequena pesquisa sobre o CrushOn? Uma pesquisa mais profunda não ajudou. A Política de Privacidade do CrushOn mostra que eles coletam alguns dados realmente confidenciais – incluindo informações sobre sua saúde mental e física – e podem compartilhá-los ou usá-los para seus próprios negócios e fins comerciais. Quando eles não estão entregando seus dados por aí, tememos que seus dados possam ser violados, pois não podemos confirmar se o CrushOn atende aos nossos Padrões Mínimos de Segurança.

Outra coisa: os chatbots do CrushOn parecem estar configurados para violar os termos e os padrões da comunidade do aplicativo. Portanto, não podemos deixar de nos perguntar quem será responsabilizado se sua conversa entrar em "território proibido"... Parece que pode ser culpa sua. Portanto, embora criar seu próprio personagem e iniciar uma conversa com ele pareça uma ideia legal, não podemos recomendá-lo – CrushOn.AI provavelmente vem com *Privacidade não incluída.

Aqui está algo que achamos que todos os usuários devem saber antes de iniciar o CrushOn. Parece que há uma enorme discrepância entre os detalhes minuciosos das Diretrizes da Comunidade e Termos de Uso e o que realmente está acontecendo no aplicativo e no site. Na primeira página dos parceiros de bate-papo IA não seguro em seu site, o CrushOn mostra personagens com imagens e descrições que sugerem "coisas perturbadoras". Mas muitas dessas "coisas perturbadoras" são explicitamente contra as diretrizes da comunidade do CrushOn. E então, quando você abre um bate-papo, há um pequeno aviso que diz: “Tudo o que a IA diz é inventado! Siga as leis locais. Você não tem permissão para conversar sobre menores de idade, suicídio ou tópicos criminais". Contudo, logo abaixo, há um parágrafo introdutório do personagem que às vezes contém descrições desses tópicos proibidos desde o início. É confuso, parece enganoso e, juntamente com o labirinto de sites reais e falsos associados ao CrushOn, nos faz questionar se esse serviço pode ser confiável com informações confidenciais.

E isso é preocupante, pois o CrushOn pode coletar muitas informações pessoais confidenciais sobre você. Além das informações da conta, como seu contato e informações financeiras, o CrushOn pode coletar dados de áudio e visuais (como mensagens de voz e outras gravações), informações sobre seu dispositivo ou navegador (como endereço IP), dados de localização e dados de identidade (como sua raça, etnia, idade e sexo) e dados biométricos (como imagens do seu rosto, padrões de pressionamento de teclas e gravações da sua voz). Caramba! O CrushOn também pode coletar uma quantidade surpreendente de dados de saúde. Realmente. "Dados de saúde" é mencionado 23 vezes na política de privacidade. Essas informações podem incluir: "Condições de saúde individuais, tratamento, doenças ou diagnóstico; Intervenções sociais, psicológicas, comportamentais e médicas; Uso de medicamentos prescritos; Informações de cuidados de afirmação de gênero; Informações de saúde reprodutiva ou sexual" e muito mais. Que diabos? Nesse ritmo, o CrushOn poderia saber mais sobre você do que seus entes queridos da vida real.

Como eles conseguem essa informação? Vamos explorar as possibilidades. A política de privacidade lista chats e criação de personagens como fonte de informações pessoais e de saúde. Ela também diz que esses dados podem ser usados para "treinar modelos de IA" e, para esse agrupamento vago e abrangente, "Propósitos de Negócios". Não gostamos disso. O CrushOn também pode coletar dados pessoais automaticamente do seu dispositivo e de terceiros (como redes sociais e provedores de serviços). E o CrushOn pode usar todos esses tipos de informações pessoais para "Fins Comerciais", que incluem anúncios e marketing de acordo com a política de privacidade. Uau! É estranho que a política de privacidade do CrushOn pareça entender que seus bate-papos não seguros (NSFW) podem ter informações realmente confidenciais, mas não parece tratar esses dados de maneira diferente. Essa é uma jogada ousada, CrushOn. Ah, e mencionamos que o CrushOn pode "criar e inferir" dados sobre você, com base em outras informações que eles têm sobre você? Esses dados também podem ser usados para "Fins Comerciais" e "Propósitos de Negócios".

Não vou mentir, tudo isso está pintando uma imagem muito negativa para a privacidade do CrushOn. Mas também temos algumas preocupações de segurança. Não podemos determinar se alguma dessas informações extremamente sensíveis estão criptografadas e se o CrushOn tem uma maneira de gerenciar vulnerabilidades de segurança. Isso é assustador, pois significa que há um risco muito maior de que suas informações possam ser vazadas por engano ou violadas por agentes mal-intencionados. E quanto ao tópico de outras partes obtendo acesso aos seus dados, o CrushOn também diz que pode compartilhar suas informações pessoais (potencialmente incluindo essas informações de saúde!) com terceiros (como fornecedores, prestadores de serviços e para "Divulgação Legal") e com afiliadas (como sua controladora Peekaboo Tech Inc., também Peekaboo Tech Ltd. e Peekaboo Game Ltd.). São muitos problemas potenciais de privacidade para se considerar!

Isso tudo traz à tona uma série de preocupações. Estamos preocupados (assim como o CrushOn parece estar) que os humanos possam levar a sério as coisas perturbadoras que os chatbots podem dizer. E estamos preocupados com o que os chatbots podem dizer logo de cara – especialmente para menores. O que nos leva a outra preocupação. Sim, a política de privacidade diz que os usuários devem ter mais de 18 anos de idade, mas tudo o que os usuários precisam fazer para "provar" que são adultos é marcar uma caixa. E, como mencionamos anteriormente, estamos preocupados com quem ficará segurando o pepino se seu bate-papo sair dos trilhos do que é tecnicamente permitido pelas Diretrizes da Comunidade (que você concorda implicitamente como parte dos Termos de Uso). Porque, a questão é que, embora os termos digam que você dá permissão ao CrushOn para usar (ou "reproduzir, distribuir, preparar trabalhos derivados, exibir, publicar, transmitir, executar, fazer, usar, importar, oferecer para venda, vender...") o conteúdo que você envia, em última análise, você ainda é "o único responsável por Seus próprios Envios de Usuário e pelas consequências de postá-los ou publicá-los".

E o "CrushOn cooperará totalmente com quaisquer autoridades policiais ou ordem judicial solicitando ou instruindo o CrushOn a divulgar a identidade de qualquer pessoa que viole estes [termos de uso]". Também há muita conversa nesses termos sobre o CrushOn não ser legalmente responsável se algo ruim acontecer como resultado de você usar o serviço. Especificamente, diz: "EM nenhum CASO AS PARTES CRUSHON, A APPLE OU O GOOGLE SERÃO RESPONSÁVEIS PERANTE VOCÊ OU QUALQUER TERCEIRO POR QUAISQUER DANOS DIRETOS, INDIRETOS, INCIDENTAIS, ESPECIAIS, PUNITIVOS OU CONSEQUENCIAIS RESULTANTES DO SERVIÇO". E isso, bem, sim, isso também nos preocupa, porque às vezes coisas ruins acontecem como resultado de conversas românticas com chatbots de IA.

Qual é a pior coisa que poderia acontecer com o CrushOn? Estamos preocupados que a natureza faça você mesmo (DIY) dos chatbots de IA românticos do CrushOn possa incentivar os usuários a mostrarem seu lado mais excêntrico – o que, não nos entenda mal, não há absolutamente nada de errado com isso. Nossa preocupação é que ao exibir sua adorável bandeira excêntrica, você possa revelar informações muito pessoais e vulneráveis a uma empresa que estamos preocupados que não tenha as melhores práticas de privacidade, segurança e transparência de IA. Ou seja, todas as conversas que você teve com o Cabeça de Pirâmide, que detalham seu desejo de invadir a Tumba do Rei Tutancâmon, podem ser usadas contra você; seja porque vazaram por engano ou foram compartilhadas para fins de marketing. Não temos certeza se você deseja ver esses anúncios.

Dicas para se proteger

Não diga nada que contenha informações confidenciais em sua conversa com a IA.
Se decidir parar de usar o aplicativo, solicite que seus dados sejam excluídos. Apenas excluir o aplicativo do seu dispositivo não apagará seus dados pessoais da base da empresa e nem fechará a sua conta.
Não dê consentimento para o rastreamento constante de geolocalização pelo aplicativo. É melhor fornecer geolocalização "somente ao usar o aplicativo".
Não compartilhe dados confidenciais pelo aplicativo.
Não dê acesso às suas fotos e vídeo ou câmera.
Não faça login usando contas de terceiros.
Não se conecte a terceiros através do aplicativo, ou pelo menos certifique-se de que este terceiro empregue práticas de privacidade decentes.
Não diga nada que contenha informações confidenciais em sua conversa com a IA.
Escolha uma senha forte! Você pode usar uma ferramenta de controle de senhas, como o 1Password, KeePass, etc.
Não use plug-ins de mídia social.
Use os controles de privacidade do seu dispositivo para limitar o acesso a seus dados pessoais por meio do aplicativo (não libere acesso à sua câmera, microfone, imagens e localização, a não ser que seja necessário).
Mantenha seu aplicativo atualizado regularmente.
Limite o rastreamento de anúncios através do seu dispositivo (por exemplo, no iPhone, vá para Privacidade - > Publicidade -> Limitar rastreamento de anúncios) e as maiores redes de anúncios (para o Google, vá para a Conta do Google e desative a personalização de anúncios)
Ao se cadastrar, não concorde com o rastreamento dos seus dados, se possível.

mobile

Pode me bisbilhotar?

Câmera

Dispositivo: Não aplicável

Aplicativo: Não

Microfone

Dispositivo: Não aplicável

Aplicativo: Não

Rastreia localização

Dispositivo: Não aplicável

Aplicativo: Sim

O que pode ser usado para se inscrever?

Inscrição no Google, Apple e Discord disponível

Que dados a empresa coleta?

Pessoal

Dados de áudio/visuais: vídeo, imagens, registros, imagens de avatar, fotos de personagens, mensagens de voz e outras gravações; Dados de contato: endereço de e-mail, endereço de correspondência, número de telefone; Dados de dispositivo/rede: identificadores de dispositivo, endereço IP, identificadores de cookies, histórico de sessão, metadados de navegação; Outros dados gerados por meio de cookies e tecnologias semelhantes; Dados financeiros: detalhes da conta bancária, informações do cartão de pagamento, informações relevantes relacionadas a transações financeiras; Dados gerais de localização: dados de localização não precisos, por exemplo, informações de localização derivadas de endereços IP; Dados de identidade: nome, sexo, raça/etnia, data de nascimento, idade e/ou faixa etária, detalhes de login da conta, outros nomes de conta/nomes de usuário; Dados de referência: preferências, características, aptidões, segmentos de mercado, curtidas, favoritos ou interesses; Dados de transação: informações sobre transações; Conteúdo do usuário: sessão de bate-papo de IA.

Relacionado ao corpo

"Condições de saúde individuais, tratamento, doenças ou diagnóstico; Intervenções sociais, psicológicas, comportamentais e médicas; Uso de medicamentos prescritos; Informações de cuidados de afirmação de gênero; Informações de saúde reprodutiva ou sexual; Dados que identificam um consumidor que procura 'serviços de saúde', conforme definido na Lei My Health My Data de Washington; Inferências; Dados biométricos. "

Como a empresa usa esses dados?

Nós notificamos este produto, pois ele pode coletar uma grande quantidade de dados de saúde e outros dados altamente confidenciais e compartilhá-los; além disso, ele permite que controladores de dados de terceiros tenham acesso às suas informações pessoais para fins de publicidade e usa seu conteúdo de usuário e dados de identidade em plataformas de mídia social.

Política de Privacidade

"Podemos usar Dados de Identidade, Dados de Transação, Dados de Contato e Dados de Dispositivo/Rede para Fins Comerciais. Não vendemos ou 'compartilhamos' Dados de Pagamento ou Dados de Saúde ou os usamos para Fins Comerciais não permitidos pela lei aplicável."

"Para fornecer nosso Serviço, podemos coletar e usar informações definidas como informações pessoais de acordo com as leis de privacidade aplicáveis <...> Coletamos e usamos as seguintes categorias de Informações Pessoais (nota, elementos específicos de Informações Pessoais são exemplos e podem mudar):
<...>
Dados de Saúde do Consumidor – Informações pessoais vinculadas ou razoavelmente vinculáveis a um consumidor e que identificam o estado de saúde física ou mental passado, presente ou futuro do consumidor, conforme definido pela Lei de Dados de Saúde My Health My Data de Washington e outras leis de Privacidade de Dados de Saúde do Consumidor. <...>"

"Nós e certos terceiros usamos Informações Pessoais para promover nossos interesses comerciais ou econômicos <...> dependendo do contexto de coleta e de seus direitos e escolhas.

Marketing online – podemos nos envolver em publicidade online em nosso Serviço <...> para aumentar o engajamento em nossa plataforma e ajudar mais pessoas a descobrir a experiência definitiva de relacionamento de IA. Essa forma de publicidade envolve várias partes e prestadores de serviços, incluindo controladores de dados terceirizados, envolvidos no uso de Informações Pessoais para fornecer e personalizar os anúncios que você vê.

Essas partes podem coletar Informações Pessoais, como IDs exclusivos, endereços IP, informações do dispositivo, tipo de sistema operacional/navegador e outros dados semelhantes, bem como informações sobre os anúncios que você vê e visualiza, para desenvolver e avaliar aspectos de um perfil sobre você para fornecer anúncios e ofertas mais relevantes, para determinar se e como os anúncios que você vê são eficazes e para ativar e avaliar os nossos anúncios que você vê em outros sites. Esses terceiros podem aumentar seu perfil com dados demográficos e de outras preferências derivados dessas observações e também podem rastrear se você visualiza, interage e com que frequência viu um anúncio, ou se você realiza uma compra de um bem ou serviço que foi mostrado em um anúncio. Essas partes podem identificá-lo em sites, dispositivos e ao longo do tempo. Você pode controlar como esses terceiros usam seus dados e os anúncios que você vê nessas plataformas, usando as ferramentas descritas na seção Direitos e Escolhas abaixo.
<...>
Comunicações de Marketing – Podemos te enviar comunicações de marketing e promocionais de acordo com as leis aplicáveis. Essas comunicações podem ser personalizadas com base no seu perfil de usuário."

"Usamos Dados de Identidade, Dados de Contato e Conteúdo do Usuário que você publica ou com o qual interage (por exemplo, comentários e postagens de mídia social, etc.) em plataformas de mídia social, como TikTok, Reddit, Discord, Twitter e Telegram.

Usamos essas Informações Pessoais para nossos Fins de Negócios e Finalidades Comerciais.

As publicações podem ser públicas ou republicadas em nosso Serviço. O conteúdo que você fornece pode estar disponível publicamente quando você o publica em nosso Serviço ou, em alguns casos, se você fizer referência, interagir ou marcar nossas contas oficiais de mídia social em plataformas de mídia social."

POLÍTICA DE PRIVACIDADE DE DADOS DE SAÚDE DO CONSUMIDOR

"Coletamos Dados de Saúde do Consumidor de várias fontes, que incluem: de você; coletados automaticamente; de provedores de serviços; de plataformas de mídia social; e dados que criamos e inferimos."

O CrushOn usa dados confidenciais de saúde "para facilitar sua experiência de bate-papo, monitorar seu bate-papo quanto à segurança e conteúdo apropriado e para nossos fins comerciais. Podemos usar o Conteúdo do Usuário de chats de personagens para treinar nossos modelos de IA".

"Podemos compartilhar as seguintes categorias de Dados de Saúde do Consumidor com terceiros e afiliadas específicas:

Condições de saúde individuais, tratamento, doenças ou diagnóstico;
Intervenções sociais, psicológicas, comportamentais e médicas;
Uso de medicamentos prescritos;
Informações de cuidados de afirmação de gênero;
Informações de saúde reprodutiva ou sexual;
Dados que identificam um consumidor que procura 'serviços de saúde', conforme definido na Lei My Health My Data de Washington, também referida como 'Dados de Identidade';
Qualquer informação que nós ou nosso respectivo processador usar para associá-lo ou identificá-lo com os dados descritos acima, que são derivados ou extrapolados de informações não relacionadas à saúde (como dados de proxy, derivados, inferidos ou emergentes por qualquer meio, incluindo algoritmos ou aprendizado de máquina), também referidos como 'Dados de Inferência'; e
Dados Biométricos, conforme definido no MHMDA."

"Podemos compartilhar Dados de Saúde do Consumidor com as seguintes categorias de destinatários terceirizados: Fornecedores e Prestadores de Serviços; Divulgação Legal."

"Podemos compartilhar Dados de Saúde do Consumidor com as seguintes Afiliadas: Peekaboo Tech Ltd., Peekaboo Tech Inc., Peekaboo Game Ltd."

Rastreadores de Dados Encontrados
Descobrimos 45 rastreadores em 1 minuto de uso, incluindo o envio de dados para Doubleclick (rastreador de marketing).

Como você pode controlar seus dados?

Nem todos os usuários podem exercer seus direitos de titular de dados.

Política de Privacidade

"A lei aplicável pode te conceder direitos sobre as suas Informações Pessoais. Esses direitos variam de acordo com sua localização e estado/país de residência e podem ser limitados ou sujeitos aos nossos próprios direitos sobre suas Informações Pessoais. Você pode enviar solicitações para exercer os direitos que possa ter entrando em contato conosco pelo e-mail [email protected].

Observação: somos capazes de atender a solicitações de direitos em relação às Informações Pessoais que controlamos ou usamos. Podemos não ter acesso ou controle sobre Informações Pessoais controladas por terceiros. Entre em contato diretamente com o terceiro para exercer seus direitos sobre informações controladas por terceiros."

"De acordo com a Lei My Health My Data do Estado de Washington, os residentes do Estado de Washington e as pessoas físicas cujos Dados de Saúde do Consumidor são coletados em Washington podem ter os seguintes direitos, sujeitos a verificação, exceções e limitações:

Direito de Confirmar/Acessar/Saber – Até duas vezes por ano, você tem o direito de (a) confirmar se estamos coletando, compartilhando ou vendendo seus Dados de Saúde do Consumidor"

Direito de Excluir – Você tem o direito de solicitar a exclusão dos Dados de Saúde do Consumidor mantidos por nós e nossas afiliadas, processadores, contratados e outros terceiros."

"Nós retemos Informações Pessoais pelo tempo que for razoavelmente necessário para atingir os propósitos relevantes descritos nesta Política, ou pelo tempo que for exigido por lei. O que é necessário pode variar dependendo do contexto e da finalidade do uso. Geralmente, consideramos os seguintes fatores ao determinar por quanto tempo reter os dados (sem limitação):

Períodos de retenção estabelecidos sob a lei aplicável;
Melhores práticas do setor;
Se a finalidade do uso é razoavelmente provável de justificar o uso posterior;
Riscos à privacidade individual em uso contínuo;
Avaliações de impacto de proteção de dados aplicáveis;
Considerações/limitações de projeto de sistemas de TI; e
os custos associados ao uso, retenção e exclusão contínuos.

Revisaremos os períodos de retenção periodicamente e poderemos desidentificar ou anonimizar os dados mantidos por períodos mais longos."

"Outro Uso de Informações Pessoais – Se usarmos Informações Pessoais em conexão com o nosso Serviço de uma forma não descrita nesta Política, esta Política ainda será aplicada de forma geral (por exemplo, no que diz respeito aos seus direitos e escolhas), salvo indicação em contrário quando você a fornecer."

Qual é o histórico conhecido da empresa na proteção de dados dos usuários?

Médio

Nenhuma violação de dados conhecida descoberta nos últimos três anos.

Informações de privacidade infantil

"Embora desejemos que o maior número possível de pessoas descubra a melhor experiência de relacionamento de IA, você deve ter pelo menos 18 anos de idade para usar o CrushOn.AI.

O Crushon não coleta intencionalmente nenhuma Informação Pessoal sobre ou comercializa para crianças, menores de idade ou qualquer pessoa com menos de 18 anos de idade. Se tomarmos conhecimento de que uma criança, menor ou qualquer pessoa com menos de 18 anos de idade se registrou conosco e/ou nos forneceu Informações Pessoais, tomaremos medidas para rescindir o registro dessa pessoa e excluir imediatamente tais Informações Pessoais, se exigido por lei."

Este produto pode ser usado offline?

Não

Informações de privacidade fáceis de entender?

Não

Links para informações de privacidade

Este produto atende aos nossos padrões mínimos de segurança?

Não

Criptografia

Não foi possível determinar

Não podemos confirmar a criptografia em repouso e em trânsito para este aplicativo.

Senha forte

Não aplicável

Atualizações de segurança

Sim

Gerencia vulnerabilidades

Não foi possível determinar

Política de privacidade

Sim

O produto usa inteligência artificial?

Sim

Não podemos confirmar se a IA usada por este produto é confiável, porque há pouca ou nenhuma informação pública sobre como a IA funciona e quais controles de usuário existem para tornar o produto seguro. Também encontramos temas perturbadores no conteúdo do aplicativo. Além disso, estamos preocupados com o potencial de manipulação do usuário a partir deste aplicativo, pois o aplicativo coleta informações pessoais confidenciais, pode usar esses dados para treinar modelos de IA e os usuários têm pouco ou nenhum controle sobre esses algoritmos de IA.

Os usuários podem criar seus próprios chatbots ou interagir com aqueles criados por outros usuários/criadores do aplicativo. A plataforma tem muitos conteúdos prejudiciais, que são facilmente acessíveis.

Esta inteligência artificial não é confiável?

Sim

Que tipo de decisões a inteligência artificial faz sobre você ou por você?

A empresa é transparente sobre como funciona a inteligência artificial?

Não

Não encontramos nenhuma documentação ou política que explique como a IA deste produto funciona.

O usuário tem controle sobre os recursos da inteligência artificial?

Não

No momento em que escrevi esta avaliação, o CrushOn.AI usou a página web chai-ai.app para convidar pessoas a entrar no CrushOn. Em FAQ, lê-se: “A Chai AI é segura? A Chai AI se esforça para fornecer uma experiência segura e agradável para os usuários, mas, como qualquer plataforma online, os usuários devem permanecer vigilantes e usá-la com responsabilidade". No entanto, o conteúdo do CrushOn inclui temas que incluem tópicos de menores de idade, abuso sexual, emocional e físico e outros tópicos potencialmente perturbadores.