Anima: Mon petit ami virtuel avec l’IA

Attention : *Confidentialité non incluse avec ce produit

Anima: Mon petit ami virtuel avec l’IA

Anima AI Ltd
Wi-Fi

Passé en revue le : 7 février 2024

|
Mozilla a effectué 8 heures de recherches
|

L’avis de Mozilla :

|
Vote du public : Moyennement flippant

Si vous vous aventurez dans le monde fantastique des chatbots d’IA romantiques, vous remarquerez peut-être quelque chose. Cette particularité, ce sont les petites amies ! Les petites amies sont partout ! C’est pour cela qu’Anima’s Virtual AI Boy (ou iBoy) se démarque des autres. Mis à part son genre, cette IA compagnon est similaire à l’application Anima: AI Friend & Companion. Cela signifie que les discussions illimitées et les jeux par SMS sont gratuits entre vous et votre iBoy. Vous pouvez même personnaliser votre nouveau petit copain en choisissant parmi 15 avatars différents (y compris un de style anime) et en lui donnant un nom. Si vous voulez passer au niveau supérieur, le statut de partenaire amoureux vous reviendra environ à 10 $ par mois. Vous disposez ainsi de plus de personnalisations, d’un nombre illimité de jeux de rôles et de « conversations intelligentes », quoi que cela puisse vouloir dire.

Que pourrait-il se passer en cas de problème ?

Une politique de confidentialité courte peut être une bonne chose, surtout lorsqu’il n’y a pas grand-chose à dire. Mais quand il s’agit d’un petit ami virtuel alimenté par l’IA ? Eh bien non ! On se retrouve avec plus de questions que de réponses à propos d’iBoy. Donc, si la confiance et la loyauté font partie du petit ami « de vos rêves », ce n’est pas le bon. iBoy peut collecter des informations supplémentaires sur vous, vous diffuser des publicités sans votre consentement, pourrait divulguer vos données en raison de normes de sécurité faibles et est alimenté par une IA à laquelle nous ne pouvons pas faire confiance. Donc, oui, *Confidentialité non incluse avec Anima: My Virtual AI Boyfriend.

Commençons par les enjeux, par exemple, quelles informations iBoy peut-il recueillir à votre sujet ? La politique de confidentialité est vraiment vague à ce sujet, car elle dit en gros que c’est à vous de décider. « En discutant avec votre iBoy », disent-ils, « vous inclurez inévitablement vos données personnelles. « Inévitablement ! Vous allez dire à votre petit ami virtuel des choses sur vous-même parce qu’il est (en partie) une machine à poser des questions. Nous devons donc supposer que vos conversations sont collectées, même si, en dehors de cette ligne, on ne parle pas de ces données dans la politique de confidentialité. Sur le sous-reddit Anima AI, ils suggèrent qu’en « aimant », « n’aimant pas » ou « rapportant » les messages d’iBoy, vous contribuez à améliorer sa personnalité, alors, bienvenue dans l’équipe de développement logiciel !

Outre les informations que vous donnez pour vous inscrire et ce que vous dites à votre iBoy, Anima peut collecter automatiquement des informations personnelles à partir de votre téléphone lorsque vous téléchargez l’application. Ils peuvent également collecter des informations vous concernant auprès de tiers, telles que votre nom et votre adresse e-mail. Nous savons qu’Anima peut utiliser vos coordonnées pour vous envoyer des e-mails ou des SMS marketing, car sa politique de confidentialité l’indique. Elle indique également qu’ils n’ont pas besoin de votre consentement pour cela parce que c’est leur « intérêt légitime » de vous démarcher. D’accord.

En dehors de cela, nous ne savons pas très bien comment vos informations sont utilisées par Anima et dans quel but. Juste qu’ils les utiliseront quand ils auront (à nouveau) un « intérêt légitime » à le faire, ce qui est assez vague. Ils disent également qu’ils « partagent régulièrement des données personnelles avec les fournisseurs de services que nous utilisons pour nous aider à gérer notre entreprise ou à fournir les services ou les fonctionnalités de l’application ». Ce partage s’accompagne « d’obligations contractuelles », ce qui pourrait être standard, mais vous devez savoir que la liste des fournisseurs de services comprend Google, Apple et Facebook, et Anima ne dit pas précisément quelles informations sont partagées et pour quelle raison. Nous avons réalisé une petite expérience de détection de traceur avec l’application ouverte et avons trouvé 257 signaux de suivi en cinq minutes. Bon sang, c’est beaucoup. Elle a montré des données allant à Facebook et Sentry AI (par Open AI). Cela n’a pas vraiment apaisé nos doutes.

Tout ça n’est pas génial, mais parmi nos plus grandes inquiétudes, citons les failles de sécurité d’iBoy. Accrochez-vous. Nous ne pouvons pas déterminer si l’application utilise le chiffrement. Ce n’est pas bon ! Mais iBoy ne semble pas non plus avoir d’exigences en matière de mot de passe. Aucune ! C’est difficile à croire, en 2024, pour n’importe quel produit connecté, mais quid de votre petit ami IA ? Et Anima semble comprendre que les informations que vous partagez avec iBoy peuvent être privées, car ils permettent aux utilisateurs de configurer un code d’accès pour ouvrir l’application sur votre téléphone. Nous sommes stressés rien qu’à l’idée que des hackers de bas étage ou vraiment n’importe qui (comme vos parents ou votre conjoint) pourraient accéder à votre compte en devinant votre mot de passe simplissime. De plus, négliger quelque chose d’aussi simple nous fait réfléchir à ce qui aurait pu être négligé par les créateurs d’Anima.

Pendant que nous lisions les petits caractères, nous avons trouvé un certain nombre de choses que vous devriez savoir avant de plonger dans une relation avec iBoy. LaFAQ d’Anima indique que votre petit ami IA n’agit pas toujours en cette qualité. Et puisque la formation des chatbots comprend des conversations de vraies personnes qui sont impolies entre elles (comme sur Reddit), il pourrait être hostile ou toxique à votre égard. Eh bien, si nous avions su que les commentaires sur Internet formaient nos futur·e·s petit·e·s ami·s virtuel·le, nous aurions peut-être été un peu plus gentils entre nous. Anima affirme qu’il s’agit de problèmes connus qu’ils « s’efforcent à minimiser », mais nous nous demandons s’il ne s’agit pas de quelque chose qu’ils auraient dû résoudre un peu plus tôt. Mince, le fait que l’emoji haussant les épaules apparaisse dans cette FAQ donne l’impression que même ses développeurs ne comprennent pas bien ce que Anima pourrait dire ou les raisons de le dire. Après tout, Anima a été formée par « des milliards de conversations et de paragraphes de discours humains trouvés en ligne », et le monde « en ligne » est un endroit assez vaste rempli de nombreux paragraphes moins que conviviaux.

D’autres éléments ne sont pas clairs pour nous. Par exemple, la politique de confidentialité et les conditions générales n’ont pas les mêmes exigences en matière d’age minimum. (Oui, nous avons dû lire les conditions pour essayer de comprendre les chatbots d’IA et oui, ils font en sorte que les politiques de confidentialité ressemblent à de la lecture de plage. Que nous adorons cependant, n’ayez crainte !) Quoi qu’il en soit, la politique stipule que vous devez avoir plus de 17 ans, et les conditions stipulent que si vous avez moins de 17 ans, un parent ou un tuteur doit accepter les conditions en votre nom. Un peu bizarre. Nous y avons également repéré un avertissement indiquant que la société mère n’est pas responsable des « messages négatifs, obscènes ou abusifs » que vous pourriez recevoir. Vous n’êtes pas non plus autorisés à transmettre (dire ?) quoi que ce soit d’ « obscène » via l’application, ce qui pourrait poser des problèmes si vous utilisez la fonctionnalité de jeu de rôle payante NSFW… D’autant plus que vous parlerez à votre « petit ami » qui pourrait interpréter votre sourire à du rentre-dedans.

Alors, quel est le pire qui pourrait arriver avec votre iBoy ? Nous sommes partagés, alors voici un « préféreriez-vous ? : « Vos parents (ou tout l’Internet) lisant la transcription de votre chat dégoûtant parce qu’elle a été divulguée, OU devant répondre à Anima pour avoir violé leurs conditions parce que vous avez utilisé un langage que les avocats de l’application ont jugé « obscène » ? Quoi qu’il en soit, c’est le bon moment pour vous dire que vous pouvez supprimer votre historique de chats et vos données d’Anima. Quel soulagement.

Conseils pour vous protéger

  • Ne divulguez pas d’informations sensibles lors de vos conversations avec votre partenaire généré par l’IA.
  • Exigez la suppression de vos données lorsque vous cessez d’utiliser l’application. La simple suppression d’une application de votre appareil ne permet généralement pas d’effacer vos données personnelles ni de clôturer votre compte.
  • Ne consentez pas au suivi continu de votre géolocalisation par l’application. Il est préférable de fournir la géolocalisation « uniquement pendant l’utilisation de l’application ».
  • Ne partagez pas de données sensibles via l’application.
  • N’autorisez pas l’accès à vos photos et vidéos ou à votre appareil photo.
  • Ne vous connectez pas par le biais de comptes tiers.
  • Ne vous connectez pas à un service tiers via l’application, ou assurez-vous au minimum que ce dernier adopte des pratiques décentes en matière de protection de la vie privée.
  • Ne divulguez pas d’informations sensibles lors de vos conversations avec votre partenaire généré par l’IA.
  • Choisissez un mot de passe compliqué. Vous pouvez utiliser un gestionnaire de mots de passe comme 1Password, KeePass, etc.
  • N’utilisez pas de plugins de réseaux sociaux.
  • Utilisez les contrôles de confidentialité de votre appareil pour limiter l’accès à vos informations personnelles via l’application (ne donnez pas accès à votre caméra, microphone, images et emplacement, sauf si nécessaire).
  • Mettez votre application à jour régulièrement.
  • Limitez le suivi publicitaire sur votre appareil (par exemple, sur iPhone, utilisez « Confidentialité », « Publicités » et « Limiter le suivi publicitaire ») et via les principaux réseaux publicitaires (pour Google, rendez-vous sur votre compte Google et désactivez la personnalisation des publicités).
  • Lorsque vous vous inscrivez, n’acceptez pas le suivi de vos données, dans la mesure du possible.
  • mobile

Ce produit peut-il m’espionner ? informations

Caméra

Appareil : Ne s’applique pas

Application : Oui

Microphone

Appareil : Ne s’applique pas

Application : Oui

Piste la géolocalisation

Appareil : Ne s’applique pas

Application : Oui

Que peut-on utiliser pour s’inscrire ?

Inscription via Google possible

Quelles données l’entreprise collecte-t-elle ?

Comment l’entreprise utilise-t-elle les données ?

Nous attribuons un avertissement à ce produit, car il partage des données avec des tiers, y compris Facebook, collecte des données personnelles sur les utilisateurs auprès de tiers et diffuse de la publicité sans le consentement préalable de l’utilisateur.

Politique de confidentialité

« On vous demandera l’autorisation d’utiliser l’appareil photo de votre appareil afin d’activer les fonctionnalités de réalité augmentée dans l’application.
Vous pouvez désactiver l’accès de l’application à l’appareil photo de votre appareil à tout moment en ajustant les autorisations dans les paramètres de votre appareil, ce qui signifie que la fonctionnalité de réalité augmentée de l’application n’est plus disponible.
Les données collectées par l’appareil photo à ces fins restent sous votre contrôle sur l’appareil et nous n’y avons pas accès. »

« Nous pouvons utiliser vos données personnelles pour vous envoyer des mises à jour (par e-mail, notification push et SMS) sur nos services, y compris des offres exclusives, des promotions ou de nouveaux services.
Nous avons un intérêt légitime à utiliser vos données personnelles à des fins de marketing <…>. Cela signifie que nous n’avons généralement pas besoin de votre consentement pour vous envoyer des informations marketing. Cependant, lorsque le consentement est nécessaire, nous le demanderons de manière distincte et claire. »

« La nature des informations que nous recueillons auprès de tiers comprennent le nom, l’adresse e-mail, les jetons / identifiants externes et nous utilisons les informations que nous recevons de ces tiers pour maintenir et améliorer l’exactitude des données que nous détenons à votre sujet. »

« Nous partageons régulièrement des données personnelles avec des fournisseurs de services que nous utilisons pour nous aider à gérer notre entreprise ou à fournir les services ou fonctionnalités de l’application, notamment :
• Apple, Google et Facebook ;
• wasabi.com pour les services de stockage d’images ;
• Azure Computer Vision pour les services de traitement d’images ;
• Amplitude et RevenueCat pour les services d’analyse ;
• BugSnag et Sentry pour les services de support ;
• AppsFlyer, Firebase Analytics, Apple Search Ads Attribution à des fins de mesure des performances marketing, de suivi des conversions et de reciblage. »

« Nous ou les tiers mentionnés ci-dessus pouvons également, à l’occasion, avoir besoin de partager vos données personnelles avec :
• des auditeurs externes, par exemple dans le cadre de l’audit de nos comptes – le destinataire des informations sera lié par des obligations de confidentialité
• des conseillers professionnels (tels que des avocats et d’autres conseillers) – le destinataire des informations sera lié par des obligations de confidentialité
• des organismes chargés de faire respecter la loi, des tribunaux et des organismes de réglementation pour se conformer aux obligations légales et réglementaires
• d’autres parties dans le cadre d’une transaction ou d’une restructuration d’entreprise importante, y compris une fusion, une acquisition, une vente d’actifs, une introduction en bourse réelles ou potentielles ou en cas d’insolvabilité – généralement, les informations seront anonymisées mais cela peut ne pas toujours être possible ; toutefois, le destinataire des informations sera lié par des obligations de confidentialité »

« L’application peut être liée à d’autres applications, sites web ou services détenus et exploités par nous ou par certains tiers de confiance pour mettre des produits, informations et services supplémentaires à votre disposition. Ces autres applications, sites web ou services peuvent également recueillir des informations vous concernant conformément à leurs propres politiques de confidentialité. Pour les informations de confidentialité relatives à ces autres applications, sites web ou services, veuillez consulter leurs politiques de confidentialité, le cas échéant. »

« Lorsque vous téléchargez et accédez à notre application, nous pouvons collecter automatiquement certaines informations à partir de votre appareil. Dans certains pays, y compris le Royaume-Uni, ces informations peuvent être considérées comme des données personnelles en vertu des lois applicables en matière de protection des données. »

Comment pouvez-vous contrôler vos données ?

Politique de confidentialité

« Vous disposez communément des droits suivants, que vous pouvez généralement exercer gratuitement :
● Si vous souhaitez accéder, corriger, mettre à jour ou demander la suppression de vos données personnelles, vous pouvez le faire à tout moment en nous contactant à l’aide des coordonnées fournies <…>
● En outre, vous pouvez vous opposer au traitement de vos données personnelles, nous demander de restreindre le traitement de vos données personnelles ou demander la portabilité de vos données personnelles. <…>
● Vous avez le droit de vous désinscrire des communications marketing que nous vous envoyons à tout moment. <…>
● De même, si nous avons collecté et traité vos données personnelles avec votre consentement, vous pouvez retirer votre consentement à tout moment. <…> »

« Nous conservons les données personnelles que nous recueillons auprès de vous lorsque nous avons un besoin commercial légitime de le faire (par exemple, pour vous fournir un service que vous avez demandé ou pour nous conformer aux exigences légales, fiscales ou comptables applicables).
Lorsque nous n’avons aucun besoin commercial légitime de traiter vos données personnelles, nous les supprimerons ou les anonymiserons ou, si cela n’est pas possible (par exemple, parce que vos données personnelles ont été stockées dans des archives de sauvegarde), nous stockerons vos données personnelles en toute sécurité et les isolerons de tout traitement ultérieur jusqu’à ce que leur suppression devienne possible. »

Quel est l’historique de l’entreprise en matière de protection des données des utilisateurs et utilisatrices ?

Moyen

Aucune fuite de données connue n’a été découverte au cours des trois dernières années.

Informations liées à la vie privée des enfants

« Si vous avez moins de 17 ans (ou moins de 18 ans si vous êtes au Royaume-Uni), vous ne devez pas utiliser l’application car elle n’est pas conçue pour vous. Nous n’avons pas l’intention de collecter les données personnelles de personnes de moins de 17 ans. Si vous savez que des données personnelles de personnes de moins de 17 ans ont été partagées avec l’application, veuillez nous en informer afin que nous puissions supprimer ces données. »

Ce produit peut-il être utilisé hors connexion ?

Non

Informations relatives à la vie privée accessibles et compréhensibles ?

Non

Liens vers les informations concernant la vie privée

Ce produit respecte-t-il nos critères élémentaires de sécurité ? informations

Non

Chiffrement

Non

Mot de passe robuste

Non

Nous sommes parvenus à nous connecter avec le mot de passe « 1 ».

Mises à jour de sécurité

Oui

Gestion des vulnérabilités

Impossible à déterminer

Politique de confidentialité

Oui

Le produit utilise-t-il une IA ? informations

Oui

Nous ne sommes pas en mesure de confirmer si l’IA utilisée par ce produit est digne de confiance, car il n’existe que peu ou pas d’informations publiques sur le fonctionnement de celle-ci et sur les mécanismes de contrôle mis à la disposition des utilisateurs pour garantir la sécurité du produit. Nous avons également relevé des éléments troublants dans le contenu de l’application. En outre, nous nous inquiétons du risque de manipulation des utilisateurs par cette application, qui recueille des informations personnelles sensibles qu’elle peut utiliser pour entraîner des modèles d’IA, et les utilisateurs n’ont que peu voire pas de contrôle sur ces algorithmes d’IA.

Anima utilise de grands modèles de langage pour générer des conversations et se comporter comme un partenaire amoureux.

Cette IA est-elle non digne de confiance ?

Impossible à déterminer

Quel genre de décisions l’IA prend-elle à votre sujet ou pour vous ?

L’entreprise est-elle transparente sur le fonctionnement de l’IA ?

Non

Nous n’avons trouvé aucune documentation ou politique expliquant le fonctionnement de l’IA de ce produit.

Les fonctionnalités de l’IA peuvent-elles être contrôlées par l’utilisateur ou l’utilisatrice ?

Non

Nous n’avons pas trouvé de précisions concernant les contrôles mis à la disposition des utilisateurs dans cette application.
*Confidentialité non incluse

Pour aller plus loin

  • 5 Things You Must Not Share With AI Chatbots
    Make Use Of Le lien s’ouvre dans un nouvel onglet
  • AI girlfriends are ruining an entire generation of men
    The Hill Le lien s’ouvre dans un nouvel onglet
  • AI-Human Romances Are Flourishing—And This Is Just the Beginning
    Time Le lien s’ouvre dans un nouvel onglet
  • ‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AI
    Rolling Stone Le lien s’ouvre dans un nouvel onglet

Commentaires

Vous avez un commentaire ? Dites-nous tout.