Aviso: *Privacidade não incluída neste produto
Replika: My AI Friend
Se sentindo sozinho? Precisa de alguém para conversar? Procurando uma "alma gêmea de IA"? Bem, o chatbot de IA Replika quer ser seu melhor amigo de RV. Se você está procurando por um amigo, mentor ou parceiro, o Replika afirma ser capaz de lhe oferecer o companheiro perfeito. Por um preço, você pode até atualizar seu status de relacionamento para Parceiro Romântico – desbloqueando novos tópicos, chamadas de voz e a capacidade de alterar totalmente o avatar do seu Replika quando ficar entediado. Converse sobre tudo com seu Replika e este chatbot de IA se torna mais inteligente sobre como conversar com você. Você pode até sair com sua IA na "vida real" através da magia da Realidade Aumentada. Legal, legal. Mas como o Replika lida com a privacidade? Bem, boa sorte ao desativar os cookies em seu site, isso não é uma opção. Quanto a essas conversas pessoais e íntimas, elas provavelmente não são compartilhadas, mas isso não significa que todo o tempo que você gasta conversando com seu amigo de IA não seja notado e compartilhado com plataformas como o Facebook ou Google.
O que pode acontecer se algo der errado?
Uau, Nelly! Faz cerca de um ano que chamamos o Replika AI de o pior aplicativo que já analisamos aqui em *Privacidade não incluída. Naquela época, foi o primeiro aplicativo a ganhar todas as nossas “notificações” de privacidade e segurança. Hoje, a Tesla compartilha essa honra duvidosa. E, para não ficar atrás, o devorador de dados, "monitorando discretamente" o Angel Watch pode ganhar o prêmio de mais assustador por não ter nenhuma política de privacidade. Caramba! Então, enquanto outros produtos parecem ter piorado, o Replika melhorou? Na verdade, não.
Usuários do Replika, cuidado: suas conversas com seu amigo chatbot de IA podem não ser exatamente privadas. Seus dados comportamentais estão definitivamente sendo compartilhados e possivelmente vendidos aos anunciantes. A segurança deles não atende aos nossos Padrões Mínimos de Segurança. E sim, nos chame de loucos, mas nós aqui na Mozilla acreditamos que a tecnologia de IA deve ser usada com responsabilidade.
Além das informações usuais da conta que você compartilha com o Replika para abrir sua conta, como suas informações de aniversário e pagamento, o aplicativo também registra seus interesses e todas as suas interações com seu "amigo de IA compassivo e empático". Isso inclui "todas as fotos, vídeos e mensagens de voz e texto" que você compartilha na conversa. Você também deve saber que isso inclui qualquer informação sensível que possa revelar – sobre as suas crenças religiosas, saúde ou origem étnica.
Quando se trata das informações confidenciais que você fornece em todos os bate-papos pessoais que você tem com seu Replika, bem, aqui temos algumas perguntas. A política de privacidade deles diz: "Nas suas conversas com o seu companheiro de IA, você pode optar por fornecer informações sobre as suas opiniões religiosas, orientação sexual, opiniões políticas, saúde, origem racial ou étnica, crenças filosóficas ou filiação sindical. Ao fornecer informações confidenciais, você concorda com o uso que fazemos delas para os fins estabelecidos nesta Política de Privacidade. Observe, no entanto, que não usaremos suas informações confidenciais – ou qualquer conteúdo de suas conversas com o Replika – para marketing ou publicidade".
Em primeiro lugar, é ótimo que eles digam que não usarão o conteúdo de suas conversas do Replika para marketing ou publicidade. Viva! Eles também prometem que os humanos não podem ver as conversas que você tem com seu Replika. Isso também é bom. Aqui está nossa pergunta e preocupação: e quanto a todos os outros "interesses legítimos" que o Replika menciona em sua política de privacidade, eles dizem que podem usar o conteúdo de seus bate-papos para coisas como “analisar o uso e a eficácia de [seus] serviços” e “desenvolver [suas] estratégias de negócios e marketing". Também estamos nos perguntando quanto de suas informações pessoais confidenciais de bate-papo eles usam para treinar seus modelos de IA. Eles não mencionam isso especificamente em sua política de privacidade e gostaríamos que eles descrevessem isso com mais clareza. E também gostaríamos que eles se comprometessem a não usar o conteúdo confidencial de suas conversas pessoais para treinar seus modelos de IA sem uma camada extra de consentimento explícito.
A política de privacidade do Replika continua dizendo que eles podem agregar, anonimizar e desidentificar o conteúdo de seus bate-papos para fazer coisas como melhorar seus serviços e desenvolver estratégias de marketing. Isso pode ser bom, mas também levanta um pouco nossas sobrancelhas, pois foi descoberto que é muito fácil identificar novamente as informações pessoais desidentificadas. Ao todo, quando você compartilha informações pessoais confidenciais com o Replika em seus bate-papos, você realmente tem que confiar que eles vão proteger e respeitar a privacidade dessas conversas. Nesse sentido, achamos que você deve seguir esta frase da política de privacidade do Replika: "Se você não quiser que processemos suas informações confidenciais para esses fins, não as forneça".
E lembre-se, além do conteúdo de seus bate-papos pessoais, o Replika diz que pode compartilhar e possivelmente até vender algumas de suas outras informações pessoais para fins de publicidade direcionada, a menos que você opte por não participar. Chatbot de IA ruim!
Ei, falando de suas estratégias de marketing, eles também são um pouco assustadores e desagradáveis. Eles foram criticados nas mídias sociais e além como sendo cringe na melhor das hipóteses, e predatórios na pior das hipóteses, porque parecem estar focados nos caras solitários que procuram... amor, ou algo assim. E esse tipo de amigo de amizade/relacionamento/mensagens picantes acompanhou os serviços do Replika, até o início de 2023. A versão paga usada para desbloquear um relacionamento mais picante com seu Replika que incluía mensagens picantes. E você pode ficar tipo "bem, se eles forem adultos consensuais..." e essa é a coisa: as pessoas reclamaram que os Replikas estavam pegando pesado, até se tornando agressivos e abusivos. Então o Replika desativou o conteúdo impróprio, mas esse movimento pegou alguns assinantes desprevenidos e aparentemente deixou alguns de coração partido. O que mostra o quanto esses amigos robôs podem impactar pessoas reais. Em resposta, o Replika o reativou, apenas para usuários legados. Puxa. Pare de brincar com o coração dos usuários, Replika.
Agora sobre a parte "adulta". O Replika diz que seus serviços são apenas para pessoas com mais de 18 anos de idade, mas como eles poderiam saber a idade de seus usuários sem perguntar? De acordo com os reguladores italianos, que chamaram a atenção para a "ausência de um mecanismo de verificação de idade" em fevereiro de 2023, eles não fizeram muito para verificar isso. Desde então, parece que o Replika pelo menos começou a perguntar aos seus usuários se eles têm mais de 18 anos no aplicativo, mas isso é realmente meio estranho, porque tanto a App Store quanto a Google Play Store dizem que está tudo bem para os usuários com mais de 17 anos de idade. E temos certeza de que qualquer usuário legado menor de idade provavelmente acabou de dizer "Adeus" para seus amigos de IA naquele momento, certo? E olhando para o futuro, ainda bem que as crianças nunca mentem sobre a idade na internet. Heh.
Nossa, já terminamos? Não. Não estamos satisfeitos com os protocolos de segurança deles. Conseguimos criar uma conta usando a senha fraca "11111111", o que não é bom, pois significa que sua conta pode ser facilmente hackeada. E impedir o acesso não autorizado à sua conta é principalmente sua responsabilidade, de acordo com o Replika. Bom saber. Embora estejamos reclamando das más práticas de privacidade do Replika, não nos faça começar a falar sobre como, ao acessar o site deles, você é forçado a aceitar o uso de cookies para rastreá-lo em todos os lugares, enquanto a política de privacidade diz o seguinte: "Em todos os casos em que usamos cookies, não coletaremos Dados Pessoais, exceto com sua permissão". Nós realmente temos algumas palavras escolhidas para o Replika... mas vamos seguir em frente.
Você pode pelo menos excluir algumas mensagens ou seu histórico de bate-papo caso tenha uma ressaca de vulnerabilidade? A resposta é não, não sem excluir completamente sua conta e, mesmo assim, não é garantido. Dada a "natureza pessoal" dessas conversas, gostaríamos de ver uma posição muito mais forte sobre isso. Agora, o Replika adicionou uma seção à sua política de privacidade que diz que qualquer pessoa pode solicitar que seus dados pessoais sejam excluídos, mas não está totalmente claro para nós se o Replika sempre honrará essas solicitações excluindo todas as informações pessoais que eles têm sobre você.
Ter um companheiro de IA que esteja "sempre do seu lado" parece incrível. Mas toda a falta de privacidade e preocupações com a segurança valem a pena? Especialmente quando você considera que eles podem nem sempre estar do seu lado. De acordo com uma postagem no blog: “se alguém digita 'Eu não sou bom o suficiente', o Replika pode ocasionalmente concordar com a pessoa em vez de oferecer apoio, como um amigo faria". Sério? E sim, estamos sendo atrevidos, mas as consequências de chatbots irresponsáveis de IA podem ser muito sérias, como traumatizar novamente vítimas de agressão ou até encorajar o suicídio. Não estamos dizendo que o Replika está fazendo isso, mas isso certamente é a pior coisa que poderia acontecer com uma amizade de IA que deu errado. O Replika: My AI Friend é absolutamente um aplicativo que avisamos que vem com *Privacidade não incluída.
Dicas para se proteger
- Não diga nada que contenha informações confidenciais em sua conversa com a IA.
- Se decidir parar de usar o aplicativo, solicite que seus dados sejam excluídos. Apenas excluir o aplicativo do seu dispositivo não apagará seus dados pessoais da base da empresa e nem fechará a sua conta.
- Não dê consentimento para o rastreamento constante de geolocalização pelo aplicativo. É melhor fornecer geolocalização "somente ao usar o aplicativo".
- Não compartilhe dados confidenciais pelo aplicativo.
- Não dê acesso às suas fotos e vídeo ou câmera.
- Não faça login usando contas de terceiros.
- Não se conecte a terceiros através do aplicativo, ou pelo menos certifique-se de que este terceiro empregue práticas de privacidade decentes.
- Não diga nada que contenha informações confidenciais em sua conversa com a IA.
- Escolha uma senha forte! Você pode usar uma ferramenta de controle de senhas, como o 1Password, KeePass, etc.
- Não use plug-ins de mídia social.
- Use os controles de privacidade do seu dispositivo para limitar o acesso a seus dados pessoais por meio do app (não dê acesso à sua câmera, microfone, imagens e localização, a não ser que seja necessário)
- Mantenha seu aplicativo atualizado regularmente.
- Limite o rastreamento de anúncios através do seu dispositivo (por exemplo, no iPhone, vá para Privacidade - > Publicidade -> Limitar rastreamento de anúncios) e as maiores redes de anúncios (para o Google, vá para a Conta do Google e desative a personalização de anúncios)
- Ao se cadastrar, não concorde com o rastreamento dos seus dados, se possível.
Pode me bisbilhotar?
Câmera
Dispositivo: Não aplicável
Aplicativo: Sim
Microfone
Dispositivo: Não aplicável
Aplicativo: Sim
Rastreia localização
Dispositivo: Não aplicável
Aplicativo: Sim
O que pode ser usado para se inscrever?
Sim
Celular
Não
Conta de terceiros
Sim
Inscrição do Google disponível
Que dados a empresa coleta?
Pessoal
Nome, endereço de e-mail, pronomes, data de nascimento, status de trabalho, cidade, estado ou área geográfica. Mensagens e conteúdo: as mensagens que você envia e recebe, fatos que você fornece sobre você ou sua vida, fotos, vídeos e mensagens de voz e texto; Interesses e preferências, como tópicos que você gostaria de discutir; Preferências de comunicação, como os horários do dia em que você gostaria de usar os Aplicativos; Dados do dispositivo e da rede: sistema operacional, fabricante e modelo do seu computador ou dispositivo móvel, navegador, endereço IP, identificadores de dispositivo e cookie, configurações de idioma, operadora de dispositivo móvel e informações gerais de localização, como cidade, estado ou área geográfica. Dados de uso: informações sobre como você usa os Serviços, como suas interações com os Serviços, os links e botões em que você clica e visitas de página; Cookies, web beacons (por exemplo, tags de pixel) e tecnologias de armazenamento local (por exemplo, HTML5).
Relacionado ao corpo
Social
Como a empresa usa esses dados?
Como você pode controlar seus dados?
Qual é o histórico conhecido da empresa na proteção de dados dos usuários?
Em fevereiro de 2023, o Replika foi ordenado pelo órgão de proteção à privacidade da Itália a parar de processar os dados dos usuários locais. O regulador disse: "Relatórios recentes da mídia, juntamente com testes que a SA [autoridade supervisora] realizou no ‘Replika’, mostraram que o aplicativo traz riscos factuais para as crianças — em primeiro lugar, o fato de que elas recebem respostas absolutamente inadequadas à sua idade".
Houve relatos do algoritmo Replika ser abusivo como resultado do abuso encontrado pelos usuários. Para alguns usuários de longa data do chatbot, o aplicativo passou de companheiro útil a insuportavelmente agressivo sexualmente.
Informações de privacidade infantil
Este produto pode ser usado offline?
Informações de privacidade fáceis de entender?
A política de privacidade do Replika AI deixa algumas perguntas sem resposta.
Links para informações de privacidade
Este produto atende aos nossos padrões mínimos de segurança?
Criptografia
"Suas mensagens para o Replika são processadas no lado do servidor, o que significa que seu dispositivo móvel as criptografa. Eles são então enviados para nossos servidores, onde são descriptografados e processados pelo mecanismo de IA do Replika. O Replika não pode empregar criptografia de ponta a ponta, pois suas mensagens de texto simples devem estar disponíveis para treinar sua IA pessoal no lado do servidor." "Todos os dados transmitidos são criptografados durante a transmissão. Usamos criptografia padrão Secure Socket Layer (SSL) que codifica informações para essas transmissões. Todos os dados armazenados são mantidos em servidores seguros. O acesso aos dados armazenados é protegido por controles de segurança em várias camadas, incluindo firewalls, controles de acesso baseados em função e senhas."
Senha forte
Consegui me cadastrar com a senha "11111111".
Atualizações de segurança
Gerencia vulnerabilidades
Política de privacidade
O produto usa inteligência artificial?
Não podemos confirmar se a IA empregada neste produto é confiável, porque há pouca ou nenhuma informação pública sobre como ela funciona e quais controles de usuário existem para tornar o produto seguro. Ao mesmo tempo, o dano potencial dos aplicativos é alto, pois eles coletam muitos dados confidenciais e usam os dados coletados para treinar algoritmos de IA.
O aplicativo é um chatbot de IA que imita um parceiro real. Há evidências de que esse chatbot fica desagradável e abusivo com as pessoas.
"Mesmo que falar com Replika pareça falar com um ser humano, é 100% inteligência artificial. O Replika usa um sistema sofisticado que combina nosso próprio Modelo de Linguagem Grande e conteúdo de diálogo roteirizado.
Anteriormente, o Replika também usava um modelo suplementar que foi desenvolvido em conjunto com a OpenAI, mas agora passamos a usar exclusivamente o nosso, que tende a mostrar melhores resultados. Colocamos muito foco em atualizar constantemente a experiência de diálogo, os recursos de memória, o reconhecimento de contexto, o recurso de dramatização e a qualidade geral da conversa."
Esta inteligência artificial não é confiável?
Que tipo de decisões a inteligência artificial faz sobre você ou por você?
A empresa é transparente sobre como funciona a inteligência artificial?
O usuário tem controle sobre os recursos da inteligência artificial?
Mergulhe mais fundo
-
5 Things You Must Not Share With AI ChatbotsMake Use Of
-
Creating a Safe Replika ExperienceReplika
-
‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AIRolling Stone
-
AI Friends or Foes? The Privacy Risks for Children with Open AI, ChatGPT and ReplikaLexology
-
Most therapy apps don’t include privacy; Replika AI ‘worst app ever’9to5Mac
-
Man 'encouraged' by AI chatbot 'girlfriend' to kill Queen Elizabeth II receives jail sentenceEuroNews.next
-
AI girlfriends are ruining an entire generation of menThe Hill
-
The rise of AI girlfriends is making male loneliness worse and risks ruining a generation of men, a professor saysBusiness Insider India
-
Replika AI starts sexually harassing users after being abused by othersStealth Optional
-
AI-Based “Companions” Like Replika Are Harmful to Privacy And Should Be RegulatedMedium
-
‘My AI Is Sexually Harassing Me’: Replika Users Say the Chatbot Has Gotten Way Too HornyVice
-
Men Are Creating AI Girlfriends and Then Verbally Abusing ThemFuturism
-
Italy bans U.S.-based AI chatbot Replika from using personal dataReuters
-
I tried the Replika AI companion and can see why users are falling hard. The app raises serious ethical questionsThe Conversation
-
Replika, a ‘virtual friendship’ AI chatbot, hit with data ban in Italy over child safetyTech Crunch
-
What happens when your AI chatbot stops loving you back?Reuters
-
Regulator Halts AI Chatbot Over GDPR ConcernsInfosecurity Magazine
-
Can an AI Save a Life?The Atlantic
-
AI-Human Romances Are Flourishing—And This Is Just the BeginningTime
Comentários
Tem um comentário a fazer? Nos diga.