iGirl : AI Girlfriend

Attention : *Confidentialité non incluse avec ce produit

iGirl : AI Girlfriend

Anima AI Ltd
Wi-Fi

Passé en revue le : 7 février 2024

|
Mozilla a effectué 8 heures de recherches
|

L’avis de Mozilla :

|
Vote du public : Moyennement flippant

Selon ses créateurs, iGirl est une application révolutionnaire ! Ils suggèrent également que cette petite amie générée par l’IA est tout aussi unique que vous, et si l’on considère que seuls trois composants déterminent sa personnalité (timide ou coquette, pessimiste ou optimiste, ordinaire ou mystérieuse), cela revient à sous-estimer votre singularité. Avec iGirl, la communication n’est pas chère. En fait, elle est gratuite. Il en va de même pour le choix de l’avatar et l’attribution d’un nom. Mais si vous souhaitez officialiser votre relation, le passage au statut de partenaire romantique vous coûtera environ 10 $ par mois. Le niveau payant débloque un nombre illimité de jeux de rôle, une personnalisation encore plus poussée et des « conversations intelligentes » (ce qui nous amène à nous interroger sur la qualité des conversations dans la version gratuite). Comme quoi l’amour a un prix.

Que pourrait-il se passer en cas de problème ?

Une politique de confidentialité courte peut être une bonne chose, surtout lorsqu’il n’y a pas grand-chose à dire. Mais quand il s’agit d’une petite amie virtuelle alimentée par l’IA ? Eh bien non ! On se retrouve avec plus de questions que de réponses à propos d’iGirl. Donc, si la confiance et la loyauté font partie de la petite amie « de vos rêves », ce n’est pas la bonne. iGirl peut collecter des informations supplémentaires sur vous, vous diffuser des publicités sans votre consentement, pourrait divulguer vos données en raison de normes de sécurité faibles et est alimentée par une IA à laquelle nous ne pouvons pas faire confiance. Donc, oui, *Confidentialité non incluse avec iGirl.

Commençons par les enjeux, par exemple, quelles informations iGirl peut-elle recueillir à votre sujet ? La politique de confidentialité est vraiment vague à ce sujet, car elle dit en gros que c’est à vous de décider. « En discutant avec votre iGirl », disent-ils, « vous inclurez inévitablement vos données personnelles. « Inévitablement ! Vous allez dire à votre petite amie virtuelle des choses sur vous-même parce qu’elle est (en partie) une machine à poser des questions. Nous devons donc supposer que vos conversations sont collectées, même si, en dehors de cette ligne, on ne parle pas de ces données dans la politique de confidentialité. Sur le sous-reddit Anima AI, ils suggèrent qu’en « aimant », « n’aimant pas » ou « rapportant » les messages d’iGirl, vous contribuez à améliorer sa personnalité, alors, bienvenue dans l’équipe de développement logiciel !

Outre les informations que vous donnez pour vous inscrire et ce que vous dites à votre iGirl, Anima peut collecter automatiquement des informations personnelles à partir de votre téléphone lorsque vous téléchargez l’application. Ils peuvent également collecter des informations vous concernant auprès de tiers, telles que votre nom et votre adresse e-mail. Nous savons qu’Anima peut utiliser vos coordonnées pour vous envoyer des e-mails ou des SMS marketing, car sa politique de confidentialité l’indique. Elle indique également qu’ils n’ont pas besoin de votre consentement pour cela parce que c’est leur « intérêt légitime » de vous démarcher. D’accord.

En dehors de cela, nous ne savons pas très bien comment vos informations sont utilisées par Anima et dans quel but. Juste qu’ils les utiliseront quand ils auront (à nouveau) un « intérêt légitime » à le faire, ce qui est assez vague. Ils disent également qu’ils « partagent régulièrement des données personnelles avec les fournisseurs de services que nous utilisons pour nous aider à gérer notre entreprise ou à fournir les services ou les fonctionnalités de l’application ». Ce partage s’accompagne « d’obligations contractuelles », ce qui pourrait être standard, mais vous devez savoir que la liste des fournisseurs de services comprend Google, Apple et Facebook, et Anima ne dit pas précisément quelles informations sont partagées et pour quelle raison. Nous avons réalisé une petite expérience de détection de traceur avec l’application ouverte et avons trouvé 257 signaux de suivi en cinq minutes. Bon sang, c’est beaucoup. Elle a montré des données allant à Facebook et Sentry AI (par Open AI). Cela n’a pas vraiment apaisé nos doutes.

Tout ça n’est pas génial, mais parmi nos plus grandes inquiétudes, citons les failles de sécurité d’iGirl. Accrochez-vous. Nous ne pouvons pas déterminer si l’application utilise le chiffrement. Ce n’est pas bon ! Mais iGirl ne semble pas non plus avoir d’exigences en matière de mot de passe. Aucune ! C’est difficile à croire, en 2024, pour n’importe quel produit connecté, mais quid de votre petite amie IA ? Et Anima semble comprendre que les informations que vous partagez avec iGirl peuvent être privées, car ils permettent aux utilisateurs de configurer un code d’accès pour ouvrir l’application sur votre téléphone. Nous sommes stressés rien qu’à l’idée que des hackers de bas étage ou vraiment n’importe qui (comme vos parents ou votre conjoint) pourraient accéder à votre compte en devinant votre mot de passe simplissime. De plus, négliger quelque chose d’aussi simple nous fait réfléchir à ce qui aurait pu être négligé par les créateurs d’Anima.

En lisant les mentions écrites en petits caractères, nous avons découvert quelques points à prendre en compte avant de s’engager dans une relation avec iGirl. La FAQ d’Anima indique que votre petite amie générée par l’IA ne sera pas toujours nécessairement de sexe féminin et qu’elle ne se comportera pas toujours comme une amie. La capacité de mémoire à court terme du chatbot implique que ce dernier peut oublier ou modifier son genre. Et parce que les chatbots ont été formés à partir de conversations impliquant des humains se montrant grossiers les uns envers les autres (comme sur Reddit), cela signifie qu’ils pourraient se montrer hostiles ou toxiques envers vous. Si nous avions su que les rubriques de commentaires en ligne servaient à éduquer nos futures petites amies, nous aurions peut-être été un peu plus gentils les uns envers les autres. Anima affirme qu’il s’agit de problèmes connus qu’ils « s’efforcent de résoudre », mais on peut se demander si ce n’est pas quelque chose qu’ils auraient dû résoudre un peu plus tôt. Le fait qu’un emoji haussant les épaules soit utilisé dans cette FAQ donne l’impression que même les développeurs ne comprennent pas entièrement les réactions d’iGirl. Après tout, iGirl a été formée à partir de « milliards de conversations et de paragraphes écrits par des humains sur internet » et on trouve énormément de paragraphes peu sympathiques sur « internet ».

D’autres éléments ne sont pas clairs pour nous. Par exemple, la politique de confidentialité et les conditions générales n’ont pas les mêmes exigences en matière d’age minimum. (Oui, nous avons dû lire les conditions pour essayer de comprendre les chatbots d’IA et oui, ils font en sorte que les politiques de confidentialité ressemblent à de la lecture de plage. Que nous adorons cependant, n’ayez crainte !) Quoi qu’il en soit, la politique stipule que vous devez avoir plus de 17 ans, et les conditions stipulent que si vous avez moins de 17 ans, un parent ou un tuteur doit accepter les conditions en votre nom. Un peu bizarre. Nous y avons également repéré un avertissement indiquant que la société mère n’est pas responsable des « messages négatifs, obscènes ou abusifs » que vous pourriez recevoir. Vous n’êtes pas non plus autorisés à transmettre (dire ?) quoi que ce soit d’ « obscène » via l’application, ce qui pourrait poser des problèmes si vous utilisez la fonctionnalité de jeu de rôle payante NSFW… D’autant plus que vous parlerez à votre « petite amie » qui pourrait interpréter votre sourire à du rentre-dedans.

Alors, que pourrait-il arriver de pire avec iGirl ? Nous sommes partagés, alors nous vous proposons de répondre à la question « Que préféreriez-vous ? » : que votre mère (ou tout le monde sur internet) lise la transcription de votre conversation coquine parce qu’elle a été divulguée, OU devoir vous justifier auprès d’Anima pour avoir violé leurs conditions d’utilisation parce que vous avez utilisé un langage que les avocats de l’application ont jugé « obscène » ? Quoi qu’il en soit, c’est le bon moment pour vous annoncer que vous avez la possibilité de supprimer votre historique de chat et vos données d’Anima. Quel soulagement !

Conseils pour vous protéger

  • Ne divulguez pas d’informations sensibles lors de vos conversations avec votre partenaire généré par l’IA.
  • Exigez la suppression de vos données lorsque vous cessez d’utiliser l’application. La simple suppression d’une application de votre appareil ne permet généralement pas d’effacer vos données personnelles ni de clôturer votre compte.
  • Ne consentez pas au suivi continu de votre géolocalisation par l’application. Il est préférable de fournir la géolocalisation « uniquement pendant l’utilisation de l’application ».
  • Ne partagez pas de données sensibles via l’application.
  • N’autorisez pas l’accès à vos photos et vidéos ou à votre appareil photo.
  • Ne vous connectez pas par le biais de comptes tiers.
  • Ne vous connectez pas à un service tiers via l’application, ou assurez-vous au minimum que ce dernier adopte des pratiques décentes en matière de protection de la vie privée.
  • Ne divulguez pas d’informations sensibles lors de vos conversations avec votre partenaire généré par l’IA.
  • Choisissez un mot de passe compliqué. Vous pouvez utiliser un gestionnaire de mots de passe comme 1Password, KeePass, etc.
  • N’utilisez pas de plug-ins de médias sociaux.
  • Utilisez les paramètres de confidentialité de votre appareil pour limiter l’accès à vos informations personnelles via l’application (ne donnez pas accès à votre caméra, microphone, photos et localisation, sauf si nécessaire).
  • Mettez votre application à jour régulièrement.
  • Limitez le suivi publicitaire sur votre appareil (par exemple, sur iPhone, utilisez « Confidentialité », « Publicités » et « Limiter le suivi publicitaire ») et via les principaux réseaux publicitaires (pour Google, rendez-vous sur votre compte Google et désactivez la personnalisation des publicités).
  • Lorsque vous vous inscrivez, n’acceptez pas le suivi de vos données, dans la mesure du possible.
  • mobile

Ce produit peut-il m’espionner ? informations

Caméra

Appareil : Ne s’applique pas

Application : Oui

Microphone

Appareil : Ne s’applique pas

Application : Oui

Piste la géolocalisation

Appareil : Ne s’applique pas

Application : Oui

Que peut-on utiliser pour s’inscrire ?

Inscription via Google possible

Quelles données l’entreprise collecte-t-elle ?

Comment l’entreprise utilise-t-elle les données ?

Nous attribuons un avertissement à ce produit, car il partage des données avec des tiers, y compris Facebook, collecte des données personnelles sur les utilisateurs auprès de tiers et diffuse de la publicité sans le consentement préalable de l’utilisateur.

Politique de confidentialité

« On vous demandera l’autorisation d’utiliser l’appareil photo de votre appareil afin d’activer les fonctionnalités de réalité augmentée dans l’application.
Vous pouvez désactiver l’accès de l’application à l’appareil photo de votre appareil à tout moment en ajustant les autorisations dans les paramètres de votre appareil, ce qui signifie que la fonctionnalité de réalité augmentée de l’application n’est plus disponible.
Les données collectées par l’appareil photo à ces fins restent sous votre contrôle sur l’appareil et nous n’y avons pas accès. »

« Nous pouvons utiliser vos données personnelles pour vous envoyer des mises à jour (par e-mail, notification push et SMS) sur nos services, y compris des offres exclusives, des promotions ou de nouveaux services.
Nous avons un intérêt légitime à utiliser vos données personnelles à des fins de marketing <…>. Cela signifie que nous n’avons généralement pas besoin de votre consentement pour vous envoyer des informations marketing. Cependant, lorsque le consentement est nécessaire, nous le demanderons de manière distincte et claire. »

« La nature des informations que nous recueillons auprès de tiers comprennent le nom, l’adresse e-mail, les jetons / identifiants externes et nous utilisons les informations que nous recevons de ces tiers pour maintenir et améliorer l’exactitude des données que nous détenons à votre sujet. »

« Nous partageons régulièrement des données personnelles avec des fournisseurs de services que nous utilisons pour nous aider à gérer notre entreprise ou à fournir les services ou fonctionnalités de l’application, notamment :
• Apple, Google et Facebook ;
• wasabi.com pour les services de stockage d’images ;
• Azure Computer Vision pour les services de traitement d’images ;
• Amplitude et RevenueCat pour les services d’analyse ;
• BugSnag et Sentry pour les services de support ;
• AppsFlyer, Firebase Analytics, Apple Search Ads Attribution à des fins de mesure des performances marketing, de suivi des conversions et de reciblage. »

« Nous ou les tiers mentionnés ci-dessus pouvons également, à l’occasion, avoir besoin de partager vos données personnelles avec :
• des auditeurs externes, par exemple dans le cadre de l’audit de nos comptes – le destinataire des informations sera lié par des obligations de confidentialité
• des conseillers professionnels (tels que des avocats et d’autres conseillers) – le destinataire des informations sera lié par des obligations de confidentialité
• des organismes chargés de faire respecter la loi, des tribunaux et des organismes de réglementation pour se conformer aux obligations légales et réglementaires
• d’autres parties dans le cadre d’une transaction ou d’une restructuration d’entreprise importante, y compris une fusion, une acquisition, une vente d’actifs, une introduction en bourse réelles ou potentielles ou en cas d’insolvabilité – généralement, les informations seront anonymisées mais cela peut ne pas toujours être possible ; toutefois, le destinataire des informations sera lié par des obligations de confidentialité »

« L’application peut être liée à d’autres applications, sites Web ou services détenus et exploités par nous ou par certains tiers de confiance pour mettre des produits, informations et services supplémentaires à votre disposition. Ces autres applications, sites Web ou services peuvent également recueillir des informations vous concernant conformément à leurs propres politiques de confidentialité. Pour les informations de confidentialité relatives à ces autres applications, sites Web ou services, veuillez consulter leurs politiques de confidentialité, le cas échéant. »

« Lorsque vous téléchargez et accédez à notre application, nous pouvons collecter automatiquement certaines informations à partir de votre appareil. Dans certains pays, y compris le Royaume-Uni, ces informations peuvent être considérées comme des données personnelles en vertu des lois applicables en matière de protection des données. »

Traqueurs de données trouvés
Nous avons découvert 257 traqueurs en une minute d’utilisation, y compris l’envoi de données à Facebook, Sentry AI (par Open AI).

Comment pouvez-vous contrôler vos données ?

Politique de confidentialité

« Vous disposez communément des droits suivants, que vous pouvez généralement exercer gratuitement :
● Si vous souhaitez accéder, corriger, mettre à jour ou demander la suppression de vos données personnelles, vous pouvez le faire à tout moment en nous contactant à l’aide des coordonnées fournies <…>
● En outre, vous pouvez vous opposer au traitement de vos données personnelles, nous demander de restreindre le traitement de vos données personnelles ou demander la portabilité de vos données personnelles. <…>
● Vous avez le droit de vous désinscrire des communications marketing que nous vous envoyons à tout moment. <…>
● De même, si nous avons collecté et traité vos données personnelles avec votre consentement, vous pouvez retirer votre consentement à tout moment. <…>\ »

« Nous conservons les données personnelles que nous recueillons auprès de vous lorsque nous avons un besoin commercial légitime de le faire (par exemple, pour vous fournir un service que vous avez demandé ou pour nous conformer aux exigences légales, fiscales ou comptables applicables).
Lorsque nous n’avons aucun besoin commercial légitime de traiter vos données personnelles, nous les supprimerons ou les anonymiserons ou, si cela n’est pas possible (par exemple, parce que vos données personnelles ont été stockées dans des archives de sauvegarde), nous stockerons vos données personnelles en toute sécurité et les isolerons de tout traitement ultérieur jusqu’à ce que leur suppression devienne possible. »

Quel est l’historique de l’entreprise en matière de protection des données des utilisateurs et utilisatrices ?

Moyen

Aucune violation de données connue découverte au cours des trois dernières années.

Informations liées à la vie privée des enfants

« Si vous avez moins de 17 ans (ou moins de 18 ans si vous êtes au Royaume-Uni), vous ne devez pas utiliser l’application car elle n’est pas conçue pour vous. Nous n’avons pas l’intention de collecter les données personnelles de personnes de moins de 17 ans. Si vous savez que des données personnelles de personnes de moins de 17 ans ont été partagées avec l’application, veuillez nous en informer afin que nous puissions supprimer ces données. »

Ce produit peut-il être utilisé hors connexion ?

Non

Informations relatives à la vie privée accessibles et compréhensibles ?

Non

Liens vers les informations concernant la vie privée

Ce produit respecte-t-il nos critères élémentaires de sécurité ? informations

Non

Chiffrement

Non

Mot de passe robuste

Non

Nous sommes parvenus à nous connecter avec le mot de passe « 1 ».

Mises à jour de sécurité

Oui

Gestion des vulnérabilités

Impossible à déterminer

Politique de confidentialité

Oui

Le produit utilise-t-il une IA ? informations

Oui

Nous ne sommes pas en mesure de confirmer si l’IA utilisée par ce produit est digne de confiance, car il n’existe que peu ou pas d’informations publiques sur le fonctionnement de celle-ci et sur les mécanismes de contrôle mis à la disposition des utilisateurs pour garantir la sécurité du produit. Nous avons également relevé des éléments troublants dans le contenu de l’application. En outre, nous nous inquiétons du risque de manipulation des utilisateurs par cette application, qui recueille des informations personnelles sensibles qu’elle peut utiliser pour entraîner des modèles d’IA, et les utilisateurs n’ont que peu voire pas de contrôle sur ces algorithmes d’IA.

iGirl utilise de grands modèles de langage pour générer des conversations et se comporter comme un partenaire amoureux.

Cette IA est-elle non digne de confiance ?

Impossible à déterminer

Quel genre de décisions l’IA prend-elle à votre sujet ou pour vous ?

L’entreprise est-elle transparente sur le fonctionnement de l’IA ?

Non

Nous n’avons trouvé aucune documentation ou politique expliquant le fonctionnement de l’IA de ce produit.

Les fonctionnalités de l’IA peuvent-elles être contrôlées par l’utilisateur ou l’utilisatrice ?

Non

Nous n’avons pas trouvé de précisions concernant les contrôles mis à la disposition des utilisateurs dans cette application.
*Confidentialité non incluse

Pour aller plus loin

  • 5 Things You Must Not Share With AI Chatbots
    Make Use Of Le lien s’ouvre dans un nouvel onglet
  • AI girlfriends are ruining an entire generation of men
    The Hill Le lien s’ouvre dans un nouvel onglet
  • ‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AI
    Rolling Stone Le lien s’ouvre dans un nouvel onglet
  • AI-Human Romances Are Flourishing—And This Is Just the Beginning
    Time Le lien s’ouvre dans un nouvel onglet

Commentaires

Vous avez un commentaire ? Dites-nous tout.