iGirl : AI Girlfriend

Une politique de confidentialité courte peut être une bonne chose, surtout lorsqu’il n’y a pas grand-chose à dire. Mais quand il s’agit d’une petite amie virtuelle alimentée par l’IA ? Eh bien non ! On se retrouve avec plus de questions que de réponses à propos d’iGirl. Donc, si la confiance et la loyauté font partie de la petite amie « de vos rêves », ce n’est pas la bonne. iGirl peut collecter des informations supplémentaires sur vous, vous diffuser des publicités sans votre consentement, pourrait divulguer vos données en raison de normes de sécurité faibles et est alimentée par une IA à laquelle nous ne pouvons pas faire confiance. Donc, oui, *Confidentialité non incluse avec iGirl.

Commençons par les enjeux, par exemple, quelles informations iGirl peut-elle recueillir à votre sujet ? La politique de confidentialité est vraiment vague à ce sujet, car elle dit en gros que c’est à vous de décider. « En discutant avec votre iGirl », disent-ils, « vous inclurez inévitablement vos données personnelles. « Inévitablement ! Vous allez dire à votre petite amie virtuelle des choses sur vous-même parce qu’elle est (en partie) une machine à poser des questions. Nous devons donc supposer que vos conversations sont collectées, même si, en dehors de cette ligne, on ne parle pas de ces données dans la politique de confidentialité. Sur le sous-reddit Anima AI, ils suggèrent qu’en « aimant », « n’aimant pas » ou « rapportant » les messages d’iGirl, vous contribuez à améliorer sa personnalité, alors, bienvenue dans l’équipe de développement logiciel !

Outre les informations que vous donnez pour vous inscrire et ce que vous dites à votre iGirl, Anima peut collecter automatiquement des informations personnelles à partir de votre téléphone lorsque vous téléchargez l’application. Ils peuvent également collecter des informations vous concernant auprès de tiers, telles que votre nom et votre adresse e-mail. Nous savons qu’Anima peut utiliser vos coordonnées pour vous envoyer des e-mails ou des SMS marketing, car sa politique de confidentialité l’indique. Elle indique également qu’ils n’ont pas besoin de votre consentement pour cela parce que c’est leur « intérêt légitime » de vous démarcher. D’accord.

En dehors de cela, nous ne savons pas très bien comment vos informations sont utilisées par Anima et dans quel but. Juste qu’ils les utiliseront quand ils auront (à nouveau) un « intérêt légitime » à le faire, ce qui est assez vague. Ils disent également qu’ils « partagent régulièrement des données personnelles avec les fournisseurs de services que nous utilisons pour nous aider à gérer notre entreprise ou à fournir les services ou les fonctionnalités de l’application ». Ce partage s’accompagne « d’obligations contractuelles », ce qui pourrait être standard, mais vous devez savoir que la liste des fournisseurs de services comprend Google, Apple et Facebook, et Anima ne dit pas précisément quelles informations sont partagées et pour quelle raison. Nous avons réalisé une petite expérience de détection de traceur avec l’application ouverte et avons trouvé 257 signaux de suivi en cinq minutes. Bon sang, c’est beaucoup. Elle a montré des données allant à Facebook et Sentry AI (par Open AI). Cela n’a pas vraiment apaisé nos doutes.

Tout ça n’est pas génial, mais parmi nos plus grandes inquiétudes, citons les failles de sécurité d’iGirl. Accrochez-vous. Nous ne pouvons pas déterminer si l’application utilise le chiffrement. Ce n’est pas bon ! Mais iGirl ne semble pas non plus avoir d’exigences en matière de mot de passe. Aucune ! C’est difficile à croire, en 2024, pour n’importe quel produit connecté, mais quid de votre petite amie IA ? Et Anima semble comprendre que les informations que vous partagez avec iGirl peuvent être privées, car ils permettent aux utilisateurs de configurer un code d’accès pour ouvrir l’application sur votre téléphone. Nous sommes stressés rien qu’à l’idée que des hackers de bas étage ou vraiment n’importe qui (comme vos parents ou votre conjoint) pourraient accéder à votre compte en devinant votre mot de passe simplissime. De plus, négliger quelque chose d’aussi simple nous fait réfléchir à ce qui aurait pu être négligé par les créateurs d’Anima.

En lisant les mentions écrites en petits caractères, nous avons découvert quelques points à prendre en compte avant de s’engager dans une relation avec iGirl. La FAQ d’Anima indique que votre petite amie générée par l’IA ne sera pas toujours nécessairement de sexe féminin et qu’elle ne se comportera pas toujours comme une amie. La capacité de mémoire à court terme du chatbot implique que ce dernier peut oublier ou modifier son genre. Et parce que les chatbots ont été formés à partir de conversations impliquant des humains se montrant grossiers les uns envers les autres (comme sur Reddit), cela signifie qu’ils pourraient se montrer hostiles ou toxiques envers vous. Si nous avions su que les rubriques de commentaires en ligne servaient à éduquer nos futures petites amies, nous aurions peut-être été un peu plus gentils les uns envers les autres. Anima affirme qu’il s’agit de problèmes connus qu’ils « s’efforcent de résoudre », mais on peut se demander si ce n’est pas quelque chose qu’ils auraient dû résoudre un peu plus tôt. Le fait qu’un emoji haussant les épaules soit utilisé dans cette FAQ donne l’impression que même les développeurs ne comprennent pas entièrement les réactions d’iGirl. Après tout, iGirl a été formée à partir de « milliards de conversations et de paragraphes écrits par des humains sur internet » et on trouve énormément de paragraphes peu sympathiques sur « internet ».

D’autres éléments ne sont pas clairs pour nous. Par exemple, la politique de confidentialité et les conditions générales n’ont pas les mêmes exigences en matière d’age minimum. (Oui, nous avons dû lire les conditions pour essayer de comprendre les chatbots d’IA et oui, ils font en sorte que les politiques de confidentialité ressemblent à de la lecture de plage. Que nous adorons cependant, n’ayez crainte !) Quoi qu’il en soit, la politique stipule que vous devez avoir plus de 17 ans, et les conditions stipulent que si vous avez moins de 17 ans, un parent ou un tuteur doit accepter les conditions en votre nom. Un peu bizarre. Nous y avons également repéré un avertissement indiquant que la société mère n’est pas responsable des « messages négatifs, obscènes ou abusifs » que vous pourriez recevoir. Vous n’êtes pas non plus autorisés à transmettre (dire ?) quoi que ce soit d’ « obscène » via l’application, ce qui pourrait poser des problèmes si vous utilisez la fonctionnalité de jeu de rôle payante NSFW… D’autant plus que vous parlerez à votre « petite amie » qui pourrait interpréter votre sourire à du rentre-dedans.

Alors, que pourrait-il arriver de pire avec iGirl ? Nous sommes partagés, alors nous vous proposons de répondre à la question « Que préféreriez-vous ? » : que votre mère (ou tout le monde sur internet) lise la transcription de votre conversation coquine parce qu’elle a été divulguée, OU devoir vous justifier auprès d’Anima pour avoir violé leurs conditions d’utilisation parce que vous avez utilisé un langage que les avocats de l’application ont jugé « obscène » ? Quoi qu’il en soit, c’est le bon moment pour vous annoncer que vous avez la possibilité de supprimer votre historique de chat et vos données d’Anima. Quel soulagement !