Anima: Mon petit ami virtuel avec l’IA

Une politique de confidentialité courte peut être une bonne chose, surtout lorsqu’il n’y a pas grand-chose à dire. Mais quand il s’agit d’un petit ami virtuel alimenté par l’IA ? Eh bien non ! On se retrouve avec plus de questions que de réponses à propos d’iBoy. Donc, si la confiance et la loyauté font partie du petit ami « de vos rêves », ce n’est pas le bon. iBoy peut collecter des informations supplémentaires sur vous, vous diffuser des publicités sans votre consentement, pourrait divulguer vos données en raison de normes de sécurité faibles et est alimenté par une IA à laquelle nous ne pouvons pas faire confiance. Donc, oui, *Confidentialité non incluse avec Anima: My Virtual AI Boyfriend.

Commençons par les enjeux, par exemple, quelles informations iBoy peut-il recueillir à votre sujet ? La politique de confidentialité est vraiment vague à ce sujet, car elle dit en gros que c’est à vous de décider. « En discutant avec votre iBoy », disent-ils, « vous inclurez inévitablement vos données personnelles. « Inévitablement ! Vous allez dire à votre petit ami virtuel des choses sur vous-même parce qu’il est (en partie) une machine à poser des questions. Nous devons donc supposer que vos conversations sont collectées, même si, en dehors de cette ligne, on ne parle pas de ces données dans la politique de confidentialité. Sur le sous-reddit Anima AI, ils suggèrent qu’en « aimant », « n’aimant pas » ou « rapportant » les messages d’iBoy, vous contribuez à améliorer sa personnalité, alors, bienvenue dans l’équipe de développement logiciel !

Outre les informations que vous donnez pour vous inscrire et ce que vous dites à votre iBoy, Anima peut collecter automatiquement des informations personnelles à partir de votre téléphone lorsque vous téléchargez l’application. Ils peuvent également collecter des informations vous concernant auprès de tiers, telles que votre nom et votre adresse e-mail. Nous savons qu’Anima peut utiliser vos coordonnées pour vous envoyer des e-mails ou des SMS marketing, car sa politique de confidentialité l’indique. Elle indique également qu’ils n’ont pas besoin de votre consentement pour cela parce que c’est leur « intérêt légitime » de vous démarcher. D’accord.

En dehors de cela, nous ne savons pas très bien comment vos informations sont utilisées par Anima et dans quel but. Juste qu’ils les utiliseront quand ils auront (à nouveau) un « intérêt légitime » à le faire, ce qui est assez vague. Ils disent également qu’ils « partagent régulièrement des données personnelles avec les fournisseurs de services que nous utilisons pour nous aider à gérer notre entreprise ou à fournir les services ou les fonctionnalités de l’application ». Ce partage s’accompagne « d’obligations contractuelles », ce qui pourrait être standard, mais vous devez savoir que la liste des fournisseurs de services comprend Google, Apple et Facebook, et Anima ne dit pas précisément quelles informations sont partagées et pour quelle raison. Nous avons réalisé une petite expérience de détection de traceur avec l’application ouverte et avons trouvé 257 signaux de suivi en cinq minutes. Bon sang, c’est beaucoup. Elle a montré des données allant à Facebook et Sentry AI (par Open AI). Cela n’a pas vraiment apaisé nos doutes.

Tout ça n’est pas génial, mais parmi nos plus grandes inquiétudes, citons les failles de sécurité d’iBoy. Accrochez-vous. Nous ne pouvons pas déterminer si l’application utilise le chiffrement. Ce n’est pas bon ! Mais iBoy ne semble pas non plus avoir d’exigences en matière de mot de passe. Aucune ! C’est difficile à croire, en 2024, pour n’importe quel produit connecté, mais quid de votre petit ami IA ? Et Anima semble comprendre que les informations que vous partagez avec iBoy peuvent être privées, car ils permettent aux utilisateurs de configurer un code d’accès pour ouvrir l’application sur votre téléphone. Nous sommes stressés rien qu’à l’idée que des hackers de bas étage ou vraiment n’importe qui (comme vos parents ou votre conjoint) pourraient accéder à votre compte en devinant votre mot de passe simplissime. De plus, négliger quelque chose d’aussi simple nous fait réfléchir à ce qui aurait pu être négligé par les créateurs d’Anima.

Pendant que nous lisions les petits caractères, nous avons trouvé un certain nombre de choses que vous devriez savoir avant de plonger dans une relation avec iBoy. LaFAQ d’Anima indique que votre petit ami IA n’agit pas toujours en cette qualité. Et puisque la formation des chatbots comprend des conversations de vraies personnes qui sont impolies entre elles (comme sur Reddit), il pourrait être hostile ou toxique à votre égard. Eh bien, si nous avions su que les commentaires sur Internet formaient nos futur·e·s petit·e·s ami·s virtuel·le, nous aurions peut-être été un peu plus gentils entre nous. Anima affirme qu’il s’agit de problèmes connus qu’ils « s’efforcent à minimiser », mais nous nous demandons s’il ne s’agit pas de quelque chose qu’ils auraient dû résoudre un peu plus tôt. Mince, le fait que l’emoji haussant les épaules apparaisse dans cette FAQ donne l’impression que même ses développeurs ne comprennent pas bien ce que Anima pourrait dire ou les raisons de le dire. Après tout, Anima a été formée par « des milliards de conversations et de paragraphes de discours humains trouvés en ligne », et le monde « en ligne » est un endroit assez vaste rempli de nombreux paragraphes moins que conviviaux.

D’autres éléments ne sont pas clairs pour nous. Par exemple, la politique de confidentialité et les conditions générales n’ont pas les mêmes exigences en matière d’age minimum. (Oui, nous avons dû lire les conditions pour essayer de comprendre les chatbots d’IA et oui, ils font en sorte que les politiques de confidentialité ressemblent à de la lecture de plage. Que nous adorons cependant, n’ayez crainte !) Quoi qu’il en soit, la politique stipule que vous devez avoir plus de 17 ans, et les conditions stipulent que si vous avez moins de 17 ans, un parent ou un tuteur doit accepter les conditions en votre nom. Un peu bizarre. Nous y avons également repéré un avertissement indiquant que la société mère n’est pas responsable des « messages négatifs, obscènes ou abusifs » que vous pourriez recevoir. Vous n’êtes pas non plus autorisés à transmettre (dire ?) quoi que ce soit d’ « obscène » via l’application, ce qui pourrait poser des problèmes si vous utilisez la fonctionnalité de jeu de rôle payante NSFW… D’autant plus que vous parlerez à votre « petit ami » qui pourrait interpréter votre sourire à du rentre-dedans.

Alors, quel est le pire qui pourrait arriver avec votre iBoy ? Nous sommes partagés, alors voici un « préféreriez-vous ? : « Vos parents (ou tout l’Internet) lisant la transcription de votre chat dégoûtant parce qu’elle a été divulguée, OU devant répondre à Anima pour avoir violé leurs conditions parce que vous avez utilisé un langage que les avocats de l’application ont jugé « obscène » ? Quoi qu’il en soit, c’est le bon moment pour vous dire que vous pouvez supprimer votre historique de chats et vos données d’Anima. Quel soulagement.