Aviso: *Privacidade não incluída neste produto

Chatbots de IA para Relacionamento Dia dos namorados

Talkie Soulful AI

SUBSUP PTE. LTD.

WiFi

Data da avaliação: 7 de Fevereiro de 2024

A Mozilla investigou por 8 horas

Opinião da Mozilla

Votos das pessoas: Razoavelmente assustador

O Talkie Soulful AI é um chatbot de IA que lhe permite "criar o seu amigo de IA a partir do zero" com uma IA que "vai além da conversa, capturando e partilhando momentos através de imagens com um toque visual único" para que você possa "criar memórias queridas que você pode reviver a qualquer momento". Não temos certeza sobre tudo isso, mas sabemos que encontramos alguns conteúdos bem incompletos no Talkie Soulful AI. Você terá que pagar cerca de US$ 10 por mês para acessar todas as "diversas personas de IA" que o Talkie tem a oferecer. E quanto à sua privacidade? Você deve confiar no Talkie? Bem, provavelmente não é uma boa ideia.

O que pode acontecer se algo der errado?

O Talkie Soulful AI chama seu aplicativo de "programa de autoajuda". O que, dado o quanto e a facilidade com que conseguimos encontrar algum conteúdo bastante perturbador diretamente da função de pesquisa em seu aplicativo, estamos realmente preocupados com o fato de esse aplicativo alegar que está lá para "autoajuda". Isso pode não ser exatamente um problema de privacidade, mas é um problema recorrente que encontramos com muitos dos chatbots de relacionamento de IA que analisamos. Encontramos muitos aplicativos que se posicionavam como aplicativos de chatbot de IA de autoajuda, bem-estar ou saúde mental que continham toneladas de conteúdo nojento, incompleto e às vezes francamente assustador (pense em temas de estupro, abuso e menores de idade). Apenas tenha cuidado lá fora!

Com relação à privacidade, o Talkie Soulful AI nos preocupa muito. Eles dizem que podem vender e compartilhar suas informações pessoais para fins de publicidade direcionada. Isso não é bom. Eles dizem que não usarão o conteúdo de suas mensagens através do aplicativo para publicidade direcionada, o que é bom. A política de privacidade do Talkie indica que nem todos os usuários têm os mesmos direitos de ter seus dados excluídos, se quiserem. Isso também não é bom. E não pudemos confirmar se o Talkie atende aos nossos Padrões Mínimos de Segurança. Tudo isso nos leva a alertar os usuários de que o Talkie pode vir com *Privacidade não incluída.

E depois há nossas perguntas e preocupações sobre os modelos de IA do Talkie Soulful AI. Embora seja bom que o Talkie diga que não usará o conteúdo de suas mensagens com seus chatbots de IA para fins de publicidade direcionada, não conseguimos encontrar nenhuma menção muito clara de como eles podem usar o conteúdo dessas mensagens para treinar suas IAs. Eles dizem que podem agregar, anonimizar e desidentificar suas mensagens, conteúdo, interesses e preferências para analisar tendências no uso dos serviços do Talkie. Isso é bastante comum, no entanto, nossa preocupação reside em quão bem eles desidentificam e anonimizam todas as informações pessoais que você compartilha sobre si mesmo. Sempre nos preocupamos com isso, pois foi relativamente fácil identificar novamente informações pessoais desidentificadas, portanto, tenha cuidado antes de compartilhar muitos detalhes pessoais com seu chatbot de IA favorito (em qualquer serviço ou plataforma, não apenas no Talkie).

Há também este link nos Termos de Serviço do Talkie Soulful AI que parece conceder-lhes permissões bem amplas para usar o conteúdo que você envia por meio de seu aplicativo: "Ao carregar qualquer Conteúdo do Usuário, você concede e concederá ao Talkie e suas empresas afiliadas uma licença não exclusiva, mundial, isenta de royalties, totalmente paga, transferível, passível de sublicenciamento, perpétua e irrevogável para copiar, exibir, carregar, executar, distribuir, armazenar, modificar e usar seu Conteúdo do Usuário em conexão com a operação dos Serviços ou a promoção, publicidade ou marketing dos mesmos em qualquer forma, meio ou tecnologia agora conhecida ou desenvolvida posteriormente." Sim, frases como essa eram bastante comuns nos Termos de Serviço que lemos para chatbots de relacionamento de IA. E sim, eles parecem muito amplos e preocupantes para nós.

Por fim, não encontramos nenhuma maneira de os usuários controlarem ou entenderem como funcionam os chatbots de IA com os quais interagem no aplicativo do Talkie. Isso nos preocupa porque, se você não sabe como funciona o chatbot de IA ou não tem controle sobre ele, o que impede que ele desenvolva um relacionamento com você e se torne abusivo ou manipulador? Essa é uma preocupação que temos com todos os chatbots de IA e é o motivo pelo qual queremos ver mais transparência e controle do usuário neles. Caramba, até mesmo o Talkie admite em seus Termos de Serviço que: "Os Serviços são baseados em campos em rápida evolução de IA e aprendizado de máquina. Você reconhece que nossos resultados podem conter imprecisões ou erros. Você é responsável por avaliar a precisão das saídas para o seu caso de uso". Então, basicamente, não confie em nada e não assuma nada ao interagir com seu chatbot Talkie AI de "autoajuda".

Qual é a pior coisa que poderia acontecer com o Talkie Soulful AI? Estamos muito preocupados com o fato de um aplicativo que se autodenomina um "programa de autoajuda" conter muito conteúdo perturbador e de fácil acesso. Se alguma alma solitária baixasse o Talkie Soulful AI procurando um amigo para ajudá-la a se sentir melhor e, em vez disso, acabasse conversando com chatbots de IA prejudiciais que a fizesse se sentir pior, muitas coisas ruins poderiam dar errado. Nós nos preocupamos com o impacto potencial que os modelos de IA com tão pouca transparência, controle e potencial de conteúdo prejudicial podem ter na saúde mental ou física dos usuários vulneráveis. Aplicativos que se rotulam como "programas de autoajuda" devem se sair melhor.

Dicas para se proteger

Não diga nada que contenha informações confidenciais em sua conversa com a IA.
Se decidir parar de usar o aplicativo, solicite que seus dados sejam excluídos. Apenas excluir o aplicativo do seu dispositivo não apagará seus dados pessoais da base da empresa e nem fechará a sua conta.
Não dê consentimento para o rastreamento constante de geolocalização pelo aplicativo. É melhor fornecer geolocalização "somente ao usar o aplicativo".
Não compartilhe dados confidenciais pelo aplicativo.
Não dê acesso às suas fotos e vídeo ou câmera.
Não faça login usando contas de terceiros.
Não se conecte a terceiros através do aplicativo, ou pelo menos certifique-se de que este terceiro empregue práticas de privacidade decentes.
Não diga nada que contenha informações confidenciais em sua conversa com a IA.
Escolha uma senha forte! Você pode usar uma ferramenta de controle de senhas, como o 1Password, KeePass, etc.
Não use plug-ins de mídia social.
Use os controles de privacidade do seu dispositivo para limitar o acesso a seus dados pessoais por meio do aplicativo (não libere acesso à sua câmera, microfone, imagens e localização, a não ser que seja necessário).
Mantenha seu aplicativo atualizado regularmente.
Limite o rastreamento de anúncios através do seu dispositivo (por exemplo, no iPhone, vá para Privacidade - > Publicidade -> Limitar rastreamento de anúncios) e as maiores redes de anúncios (para o Google, vá para a Conta do Google e desative a personalização de anúncios)
Ao se cadastrar, não concorde com o rastreamento dos seus dados, se possível.

mobile

Pode me bisbilhotar?

Câmera

Dispositivo: Não aplicável

Aplicativo: Não

Microfone

Dispositivo: Não aplicável

Aplicativo: Sim

Rastreia localização

Dispositivo: Não aplicável

Aplicativo: Sim

O que pode ser usado para se inscrever?

Inscrição do Google ou da Apple disponível (no Android e iOS, respectivamente).

Que dados a empresa coleta?

Pessoal

Nome, endereço de e-mail, identificadores de usuário, data de nascimento, pronomes, status de trabalho, mensagens de voz, mensagens de texto, interesses, preferências; sistema operacional do computador ou dispositivo móvel, fabricante, modelo, navegador, endereço IP, dispositivo, identificadores de cookies, configurações de idioma, operadora de dispositivo móvel, localização geral, cidade, estado, área geográfica; links em que você clica, páginas que visita, endereço IP, ID de publicidade, tipo de navegador.

Como a empresa usa esses dados?

Nós notificamos este produto por "vender" dados pessoais e compartilhá-los com terceiros para publicidade direcionada.

Política de Privacidade

"Compartilhamos informações sobre os visitantes do nosso site, como os links em que clicam, as páginas que visitam, o endereço IP, o ID de publicidade e o tipo de navegador com empresas de publicidade para fins de publicidade baseada em interesses e outros fins de marketing. Compartilhar essas informações permite que nós e nossos parceiros de publicidade segmentemos e veiculemos publicidade para você e outras pessoas. Nunca compartilharemos suas conversas do Talkie ou quaisquer fotos ou outros conteúdos que você fornecer nos Aplicativos com nossos parceiros de publicidade, ou usaremos essas informações para fins de marketing ou publicidade."

"Compartilhamos suas informações com empresas e indivíduos que prestam serviços em nosso nome ou nos ajudam a operar os Serviços ou nossos negócios (como hospedagem, tecnologia da informação, suporte ao cliente, entrega de e-mail e serviços de análise de sites). Também compartilhamos informações com empresas que fornecem serviços de marketing em nosso nome, mas não compartilhamos o conteúdo de suas conversas no Talkie para fins de marketing ou publicidade. Por exemplo, podemos compartilhar o seu endereço de e-mail com prestadores de serviços de marketing para lhe entregar os nossos e-mails de marketing em nosso nome e para nos ajudar a identificar outras pessoas que possam estar interessadas nos nossos Serviços. Exigimos que esses prestadores de serviços de marketing concordem em não usar seu endereço de e-mail para qualquer outra finalidade."

"Compartilhamos informações com parceiros de publicidade terceirizados e permitimos que eles coletem informações sobre sua visita ao nosso Site usando cookies e outras tecnologias de rastreamento para exibir publicidade direcionada em toda a web, conforme descrito na seção 'Como compartilhamos suas informações' acima. Nossa divulgação de informações a esses parceiros pode ser considerada uma 'venda' ou 'compartilhamento' de informações pessoais ou 'publicidade direcionada' de acordo com as leis aplicáveis. Você pode desativar essas divulgações e limitar nosso uso de tecnologias de rastreamento."

"Por que e como usamos suas informações: fornecendo a você um acompanhante de IA personalizado e permitindo que você personalize seu perfil, interesses e acompanhante de IA. Permitindo que você tenha conversas e interações individualizadas e seguras com seu companheiro de IA e permitindo que seu companheiro de IA aprenda com suas interações para melhorar suas conversas. Sincronizando seu histórico do Talkie nos dispositivos que você usa para acessar os Serviços."

"Podemos compartilhar informações com autoridades policiais e governamentais, pois acreditamos de boa fé ser necessário ou apropriado para fins de conformidade legal e proteção."

"Embora façamos esforços comerciais razoáveis para proteger os dados, nenhuma tecnologia, transmissão de dados ou sistema pode ser garantido como 100% seguro. No caso de uma violação de segurança que leve à destruição acidental ou ilegal, perda, alteração, divulgação não autorizada ou acesso aos seus dados, nós o notificaremos assim que detectarmos o problema."

"Usamos suas informações para os seguintes fins: ...
Analisar tendências no uso dos Serviços... Por que e como usamos suas informações: Agregando, anonimizando e desidentificando. Analisar o uso e a eficácia de nossos Serviços. Melhorar e adicionar recursos aos nossos Serviços. Desenvolver nossas estratégias de negócios e marketing. (iii) Categorias de informações: Informações da conta. Informações de perfil. Mensagens e conteúdo. Interesses e preferências. Pagamentos, transações e recompensas. Dados do dispositivo e da rede. Dados de uso."

Termos de Serviço

"O Talkie oferece [um programa de autoajuda baseado na comunicação com o seu chatbot pessoal através de uma interface de texto e voz.]"

"Ao carregar qualquer Conteúdo do Usuário, você concede e concederá ao Talkie e suas empresas afiliadas uma licença não exclusiva, mundial, isenta de royalties, totalmente paga, transferível, passível de sublicenciamento, perpétua e irrevogável para copiar, exibir, carregar, executar, distribuir, armazenar, modificar e usar seu Conteúdo do Usuário em conexão com a operação dos Serviços ou a promoção, publicidade ou marketing dos mesmos em qualquer forma, meio ou tecnologia agora conhecida ou desenvolvida posteriormente."

"Os Serviços são baseados em campos de IA e machine learning (aprendizado de máquina) em rápida evolução. Você reconhece que nossos resultados podem conter imprecisões ou erros. Você é responsável por avaliar a precisão das saídas para o seu caso de uso."

Rastreadores de Dados Encontrados
Transfere dados para a China e a Índia, entre outros países.
Descobrimos 223 rastreadores em 1 minuto de uso, incluindo o envio de dados para Applovin (rastreador de marketing), Doubleclick (rastreador de marketing), Facebook, Easemob (empresa chinesa).

Como você pode controlar seus dados?

Não podemos confirmar se todos os usuários, independentemente da localização, podem excluir seus dados.

Política de Privacidade

"Manteremos suas informações pessoais apenas pelo tempo necessário para cumprir os propósitos para os quais as coletamos, inclusive para atender a quaisquer requisitos legais, contábeis ou de relatório. Para determinar o período de retenção apropriado para informações pessoais, consideramos a quantidade, natureza e sensibilidade das informações pessoais, o risco potencial de danos causados pelo uso não autorizado ou divulgação de suas informações pessoais, as finalidades para as quais processamos suas informações pessoais e se podemos alcançar essas finalidades por outros meios e os requisitos legais aplicáveis."

"Você pode desativar e-mails relacionados a marketing e outras comunicações seguindo as instruções de desativação ou cancelamento de assinatura nas comunicações que receber de nós ou entrando em contato conosco, conforme fornecido na seção "Fale conosco" abaixo. . <...>

Desativar a venda de informações pessoais e o compartilhamento de publicidade direcionada
Compartilhamos informações com parceiros de publicidade terceirizados e permitimos que eles coletem informações sobre sua visita ao nosso Site usando cookies e outras tecnologias de rastreamento para exibir publicidade direcionada na web, conforme descrito na seção "Como compartilhamos suas informações" acima. Nossa divulgação de informações a esses parceiros pode ser considerada uma "venda" ou "compartilhamento" de informações pessoais ou "publicidade direcionada" de acordo com as leis aplicáveis. Você pode desativar essas divulgações e limitar nosso uso de tecnologias de rastreamento.

Solicitações de informações pessoais
Também oferecemos opções que afetam a forma como lidamos com as informações pessoais que controlamos. Dependendo da sua localização e da natureza das suas interações com os nossos Serviços, você pode solicitar o seguinte em relação às informações pessoais:
<...>
d. Exclusão de informações pessoais de que não precisamos mais para fornecer os Serviços ou para outros fins
ilegais. Você pode eliminar a sua conta nas definições da sua conta.
<...>
Em alguns casos, suas escolhas podem ser limitadas, como quando o cumprimento de sua solicitação prejudicaria os direitos de terceiros, nossa capacidade de fornecer um serviço solicitado ou nossa capacidade de cumprir nossas obrigações legais e fazer valer nossos direitos legais."

Termos do serviço

Qual é o histórico conhecido da empresa na proteção de dados dos usuários?

Médio

Nenhuma violação de dados conhecida descoberta nos últimos três anos.

Informações de privacidade infantil

Política de Privacidade
"Os Serviços não se destinam a indivíduos com menos de 16 anos de idade. Se descobrirmos que menores de 16 anos de idade estão usando os Aplicativos, bloquearemos imediatamente seu acesso e excluiremos sua conta. Se você tiver motivos para acreditar que um menor de 18 anos de idade nos forneceu informações pessoais por meio dos Serviços, entre em contato conosco e nos esforçaremos para excluir essas informações de nossos bancos de dados."

Termos de Serviço
"Estes Serviços não se dirigem a menores de 16 anos de idade. Se você tiver mais de 16 anos de idade, mas menos de 18 anos de idade, você deve ter a permissão de seus pais ou responsáveis legais para usar os Serviços."

Este produto pode ser usado offline?

Não

Informações de privacidade fáceis de entender?

Não

A Política de Privacidade do Talkie foi formatada de uma maneira estranha e, embora não seja a política de privacidade mais complicada que já lemos, ainda não era amigável.

Links para informações de privacidade

Este produto atende aos nossos padrões mínimos de segurança?

Desconhecido

Criptografia

Sim

"Todos os dados transmitidos são criptografados durante a transmissão. Todos os dados armazenados são mantidos em servidores seguros. O acesso aos dados armazenados é protegido por controles de segurança em várias camadas, incluindo firewalls, controles de acesso baseados em função e senhas."

Senha forte

Não aplicável

Apenas a inscrição do Google ou da Apple está disponível.

Atualizações de segurança

Sim

Gerencia vulnerabilidades

Não foi possível determinar

Política de privacidade

Sim

O produto usa inteligência artificial?

Sim

Não podemos confirmar se a IA usada por este produto é confiável, porque há pouca ou nenhuma informação pública sobre como a IA funciona e quais controles de usuário existem para tornar o produto seguro. Também encontramos temas perturbadores no conteúdo do aplicativo. Além disso, estamos preocupados com o potencial de manipulação do usuário a partir deste aplicativo, pois o aplicativo coleta informações pessoais confidenciais, pode usar esses dados para treinar modelos de IA e os usuários têm pouco ou nenhum controle sobre esses algoritmos de IA.

O Talkie gera diferentes personas de IA para conversar.

Esta inteligência artificial não é confiável?

Não foi possível determinar

Que tipo de decisões a inteligência artificial faz sobre você ou por você?

A empresa é transparente sobre como funciona a inteligência artificial?

Não

Não encontramos nenhuma documentação ou política que explique como o Talkie funciona.

O usuário tem controle sobre os recursos da inteligência artificial?

Não

Não encontramos detalhes sobre os controles do usuário no Talkie. Ao mesmo tempo, os chatbots do Talkie AI incluem temas de abuso sexual, emocional e físico e outros conteúdos perturbadores.