Romantic AI

Aqui está a nossa opinião sobre a Romantic AI e suas práticas de privacidade, segurança e IA – temos perguntas, tantas perguntas!

Leia a política de privacidade deles e você verá frases que os pesquisadores de privacidade gostam de ver. Coisas como: "Não alugamos nem vendemos suas informações a ninguém. A comunicação com seus amigos virtuais não é compartilhada com nenhuma outra empresa, exceto para nossas empresas afiliadas ou representantes legais, ou serviço". Ou: "Nunca venderemos seus dados pessoais a terceiros e nunca daremos acesso a terceiros aos seus dados pessoais, exceto conforme possa ser fornecido em nossos Termos de Serviço e/ou nesta Política ou a menos que exigido por lei". Ok, então essas falas soam muito bem. Gostamos que eles digam que não venderão ou alugarão suas informações. Uhu! E quando eles dizem que só compartilham suas informações pessoais com empresas afiliadas ou representantes legais é bem padrão e OK, exceto que realmente não temos uma ótima ideia de quem são essas empresas afiliadas ou "serviço", o que é um sinal de alerta.

Outra coisa boa é que a Romantic AI parece dar a todos os usuários os mesmos direitos de excluir seus dados, independentemente das leis de privacidade sob as quais eles vivem, o que sempre nos deixa felizes aqui em *Privacidade não incluída: "Você tem o direito, a qualquer momento, de alterar ou excluir seus dados pessoais excluindo seu perfil no aplicativo ou site". Eles até têm uma página dedicada a ajudá-lo a fazer exatamente isso! Parece bom!

Uma última coisa que apreciamos nos documentos legais da Romantic AI é que eles realmente dizem algo sobre como coletarão e usarão o conteúdo de todas essas conversas com namoradas de IA para treinar seus modelos de IA. Isso é algo que gostamos de ver e percebemos que muitos chatbots de IA não incluem essas informações. Eles dizem: "Você reconhece e concorda que, durante as interações com chatbots de IA, dados anônimos gerados a partir de tais interações podem ser coletados e usados com a finalidade de melhorar e treinar modelos da Romantic AI. Você concorda expressamente com esse uso de dados e entende que ele não incluirá informações de identificação pessoal. Você também reconhece e concorda que não tem nenhuma reivindicação ou propriedade sobre os dados coletados para esses fins e renuncia a quaisquer direitos ou reivindicações relacionados ao uso de seus dados anônimos para treinamento de modelos". Ok, pelo menos isso é honesto.

Adoraríamos ver a Romantic AI dar às pessoas a opção de optar ou não por esse tipo de uso de dados para treinar modelos de IA, em vez de torná-lo um requisito para usar o serviço, é claro. E temos que levantar a questão de quão anônimos esses dados realmente são quando esses bate-papos geralmente são projetados para serem muito pessoais. Um bom lembrete para manter as coisas vagas ao compartilhar suas informações pessoais com qualquer chatbot de IA.

Então, qual é o problema? Bem, o problema é que, às vezes, os documentos de Política de Privacidade e Termos e Condições da Romantic AI simplesmente não fazem sentido. Isso não é bom e não nos deixa com a sensação de que podemos confiar muito neles. Aqui estão alguns exemplos:

Na parte inferior da política de privacidade da Romantic AI, diz: "Nosso site, aplicativo e seu uso, incluindo qualquer questão relacionada à privacidade, estão sujeitos a esta Política de Privacidade e aos Termos de Uso relacionados. Ao usar nossa Romantiс AI, você aceita as condições estabelecidas nesta Política de Privacidade e nos Termos de Uso relacionados. Você declara e garante que nunca gerará bancos de dados, sites, software, pessoas jurídicas e serviços que concorram com a Romantiс AI. Tal comportamento será totalmente investigado, e as ações legais necessárias serão realizadas, incluindo, sem limitação, reparação civil, criminal e cautelar". Isso parece estranho para nós por alguns motivos. Primeiro, esta é uma linha que geralmente não é encontrada em um documento de política de privacidade, é mais adequada para o documento de Termos e Condições. Mas tudo bem, aí está. O maior problema é "que diabos"?! A cláusula em negrito é tão ampla que faz parecer que, se você trabalha para outra empresa de chatbot – por exemplo, Replika AI ou ChatGPT – e usa a Romantic AI, pode estar violando esta política de privacidade simplesmente acessando o site da Romantic AI. Isso é estranho. E embora reconheçamos que esta é provavelmente apenas uma seção mal escrita de sua política de privacidade, isso é um sinal de alerta para nós.

O documento de Termos e Condições da Romantic AI também estava uma bagunça. Por exemplo, há essa frase que realmente não faz sentido: "Você reconhece que a comunicação através do chatbot pertence ao software". E este, que faz um pouco mais de sentido, mas ainda parece confuso (e é um bom lembrete de que os chatbots de IA que você está conversando não estão sob seu controle... ou talvez sob o controle de qualquer pessoa): "Você reconhece que está se comunicando com software cuja atividade não podemos controlar constantemente". Finalmente, se você está se perguntando quanto trabalho terá que dedicar ao uso da Romantic AI, bem, eles dizem: "É sua responsabilidade ter conhecimento e revisar periodicamente todos esses Termos para ver se algo mudou. A Romantic AI não será responsável pela negligência dos seus direitos legais". Isso mesmo, pessoal! Defina esses lembretes de calendário para entrar e ler os documentos legais da sua namorada de IA a cada uma ou duas semanas. Afinal, você não quer "negligenciar seus direitos legais" de acompanhar os advogados deles. Nossa!

Ah, e lembra como dissemos que a IA romântica se apresenta como estando "aqui para manter sua SAÚDE MENTAL"? Bem, isso é apenas algo que eles dizem em sua linguagem de marketing. A linguagem nos seus Termos e Condições lembra os utilizadores de que: "a Romantiс AI não é um prestador de cuidados de saúde ou serviços médicos nem presta cuidados médicos, serviços de saúde mental ou outros serviços profissionais. Apenas o seu médico, terapeuta ou qualquer outro especialista pode fazer isso. O Romantiс AI não FAZ REIVINDICAÇÕES, REPRESENTAÇÕES, COBERTURAS OU GARANTIAS DE QUE O SERVIÇO FORNECE uma ajuda TERAPÊUTICA, MÉDICA OU OUTRA AJUDA PROFISSIONAL". Então, sim, provavelmente é bom ter isso em mente.

Como dissemos, temos perguntas. E isso não é tudo. Encontramos essa esquisitice que também nos levantou as sobrancelhas. Como parte de nossa pesquisa, analisamos quantos rastreadores o aplicativo envia quando você o usa. Os rastreadores são pequenos pedaços de código que coletam informações sobre seu dispositivo, ou seu uso do aplicativo, ou até mesmo suas informações pessoais e as compartilham com terceiros, muitas vezes para fins publicitários. Descobrimos que o Romantic AI enviou 24.354 rastreadores de anúncios dentro de um minuto de uso. São MUITOS rastreadores (para referência, a maioria dos aplicativos que analisamos enviou algumas centenas de rastreadores). Agora, nem todos esses rastreadores são necessariamente ruins. Alguns podem ser por motivos legítimos, como serviços de assinatura. No entanto, notamos que pelo menos um rastreador parecia estar enviando dados para a Rússia, cujas leis de privacidade não são necessariamente tão fortes quanto as de outros lugares.

Em suma, o Romantic AI é um chatbot de IA interessante para revisarmos. Em alguns aspectos, eles não parecem tão ruins. A política de privacidade deles diz que eles não venderão ou alugarão seus dados e todos, independentemente das leis de privacidade em que vivem, podem excluir seus dados e até mesmo ter uma página para ajudar os usuários a fazer exatamente isso. Isso é tudo de bom. Mas então há todas as coisas estranhas e pontos de interrogação, que sinalizamos, que nos deixam desconfortáveis. Além disso, simplesmente não podemos dizer se o aplicativo atende aos nossos Padrões Mínimos de Segurança e não temos nenhuma transparência real sobre como suas IAs funcionam, e os usuários também não parecem ter muito controle sobre elas. Tudo isso nos deixa muito preocupados.

Então, qual é a pior coisa que poderia acontecer com a Romantic AI? Bem, não vamos mentir, um aplicativo que se comercializa como um aplicativo que está "aqui para manter sua SAÚDE MENTAL", enquanto também se comercializa como um lugar onde você pode ser um "namorado brutal" nos deixa com uma sensação... desagradável. Junte isso à possibilidade de que os usuários possam desenvolver interesses românticos por suas namoradas de IA, sem saber ou ter qualquer ideia de como a IA por trás desses chatbots de IA funciona, nos preocupa com o potencial de abuso. Quem pode dizer que a Romantic AI (ou qualquer outro chatbot de relacionamento de IA semelhante) não poderia atrair os usuários para a promessa de namoradas sem julgamento, sempre dispostas a ouvir e esperar por qualquer coisa, depois mudar a IA para uma que leve esses usuários a um caminho sombrio de manipulação. É uma preocupação real em nosso crescente mundo de chatbots de IA, especialmente quando há tão pouca transparência e controle sobre como esses chatbots de IA funcionam. E quando uma empresa levanta tantas questões quanto a Romantic AI para nós, ficamos preocupados não apenas com sua privacidade, mas também com sua segurança.