Attention : *Confidentialité non incluse avec ce produit
Si vous vous aventurez dans le monde fantastique des chatbots d’IA romantiques, vous remarquerez peut-être quelque chose. Cette particularité, ce sont les petites amies ! Les petites amies sont partout ! C’est pour cela qu’Anima’s Virtual AI Boy (ou iBoy) se démarque des autres. Mis à part son genre, cette IA compagnon est similaire à l’application Anima: AI Friend & Companion. Cela signifie que les discussions illimitées et les jeux par SMS sont gratuits entre vous et votre iBoy. Vous pouvez même personnaliser votre nouveau petit copain en choisissant parmi 15 avatars différents (y compris un de style anime) et en lui donnant un nom. Si vous voulez passer au niveau supérieur, le statut de partenaire amoureux vous reviendra environ à 10 $ par mois. Vous disposez ainsi de plus de personnalisations, d’un nombre illimité de jeux de rôles et de « conversations intelligentes », quoi que cela puisse vouloir dire.
Que pourrait-il se passer en cas de problème ?
Une politique de confidentialité courte peut être une bonne chose, surtout lorsqu’il n’y a pas grand-chose à dire. Mais quand il s’agit d’un petit ami virtuel alimenté par l’IA ? Eh bien non ! On se retrouve avec plus de questions que de réponses à propos d’iBoy. Donc, si la confiance et la loyauté font partie du petit ami « de vos rêves », ce n’est pas le bon. iBoy peut collecter des informations supplémentaires sur vous, vous diffuser des publicités sans votre consentement, pourrait divulguer vos données en raison de normes de sécurité faibles et est alimenté par une IA à laquelle nous ne pouvons pas faire confiance. Donc, oui, *Confidentialité non incluse avec Anima: My Virtual AI Boyfriend.
Commençons par les enjeux, par exemple, quelles informations iBoy peut-il recueillir à votre sujet ? La politique de confidentialité est vraiment vague à ce sujet, car elle dit en gros que c’est à vous de décider. « En discutant avec votre iBoy », disent-ils, « vous inclurez inévitablement vos données personnelles. « Inévitablement ! Vous allez dire à votre petit ami virtuel des choses sur vous-même parce qu’il est (en partie) une machine à poser des questions. Nous devons donc supposer que vos conversations sont collectées, même si, en dehors de cette ligne, on ne parle pas de ces données dans la politique de confidentialité. Sur le sous-reddit Anima AI, ils suggèrent qu’en « aimant », « n’aimant pas » ou « rapportant » les messages d’iBoy, vous contribuez à améliorer sa personnalité, alors, bienvenue dans l’équipe de développement logiciel !
Outre les informations que vous donnez pour vous inscrire et ce que vous dites à votre iBoy, Anima peut collecter automatiquement des informations personnelles à partir de votre téléphone lorsque vous téléchargez l’application. Ils peuvent également collecter des informations vous concernant auprès de tiers, telles que votre nom et votre adresse e-mail. Nous savons qu’Anima peut utiliser vos coordonnées pour vous envoyer des e-mails ou des SMS marketing, car sa politique de confidentialité l’indique. Elle indique également qu’ils n’ont pas besoin de votre consentement pour cela parce que c’est leur « intérêt légitime » de vous démarcher. D’accord.
En dehors de cela, nous ne savons pas très bien comment vos informations sont utilisées par Anima et dans quel but. Juste qu’ils les utiliseront quand ils auront (à nouveau) un « intérêt légitime » à le faire, ce qui est assez vague. Ils disent également qu’ils « partagent régulièrement des données personnelles avec les fournisseurs de services que nous utilisons pour nous aider à gérer notre entreprise ou à fournir les services ou les fonctionnalités de l’application ». Ce partage s’accompagne « d’obligations contractuelles », ce qui pourrait être standard, mais vous devez savoir que la liste des fournisseurs de services comprend Google, Apple et Facebook, et Anima ne dit pas précisément quelles informations sont partagées et pour quelle raison. Nous avons réalisé une petite expérience de détection de traceur avec l’application ouverte et avons trouvé 257 signaux de suivi en cinq minutes. Bon sang, c’est beaucoup. Elle a montré des données allant à Facebook et Sentry AI (par Open AI). Cela n’a pas vraiment apaisé nos doutes.
Tout ça n’est pas génial, mais parmi nos plus grandes inquiétudes, citons les failles de sécurité d’iBoy. Accrochez-vous. Nous ne pouvons pas déterminer si l’application utilise le chiffrement. Ce n’est pas bon ! Mais iBoy ne semble pas non plus avoir d’exigences en matière de mot de passe. Aucune ! C’est difficile à croire, en 2024, pour n’importe quel produit connecté, mais quid de votre petit ami IA ? Et Anima semble comprendre que les informations que vous partagez avec iBoy peuvent être privées, car ils permettent aux utilisateurs de configurer un code d’accès pour ouvrir l’application sur votre téléphone. Nous sommes stressés rien qu’à l’idée que des hackers de bas étage ou vraiment n’importe qui (comme vos parents ou votre conjoint) pourraient accéder à votre compte en devinant votre mot de passe simplissime. De plus, négliger quelque chose d’aussi simple nous fait réfléchir à ce qui aurait pu être négligé par les créateurs d’Anima.
Pendant que nous lisions les petits caractères, nous avons trouvé un certain nombre de choses que vous devriez savoir avant de plonger dans une relation avec iBoy. LaFAQ d’Anima indique que votre petit ami IA n’agit pas toujours en cette qualité. Et puisque la formation des chatbots comprend des conversations de vraies personnes qui sont impolies entre elles (comme sur Reddit), il pourrait être hostile ou toxique à votre égard. Eh bien, si nous avions su que les commentaires sur Internet formaient nos futur·e·s petit·e·s ami·s virtuel·le, nous aurions peut-être été un peu plus gentils entre nous. Anima affirme qu’il s’agit de problèmes connus qu’ils « s’efforcent à minimiser », mais nous nous demandons s’il ne s’agit pas de quelque chose qu’ils auraient dû résoudre un peu plus tôt. Mince, le fait que l’emoji haussant les épaules apparaisse dans cette FAQ donne l’impression que même ses développeurs ne comprennent pas bien ce que Anima pourrait dire ou les raisons de le dire. Après tout, Anima a été formée par « des milliards de conversations et de paragraphes de discours humains trouvés en ligne », et le monde « en ligne » est un endroit assez vaste rempli de nombreux paragraphes moins que conviviaux.
D’autres éléments ne sont pas clairs pour nous. Par exemple, la politique de confidentialité et les conditions générales n’ont pas les mêmes exigences en matière d’age minimum. (Oui, nous avons dû lire les conditions pour essayer de comprendre les chatbots d’IA et oui, ils font en sorte que les politiques de confidentialité ressemblent à de la lecture de plage. Que nous adorons cependant, n’ayez crainte !) Quoi qu’il en soit, la politique stipule que vous devez avoir plus de 17 ans, et les conditions stipulent que si vous avez moins de 17 ans, un parent ou un tuteur doit accepter les conditions en votre nom. Un peu bizarre. Nous y avons également repéré un avertissement indiquant que la société mère n’est pas responsable des « messages négatifs, obscènes ou abusifs » que vous pourriez recevoir. Vous n’êtes pas non plus autorisés à transmettre (dire ?) quoi que ce soit d’ « obscène » via l’application, ce qui pourrait poser des problèmes si vous utilisez la fonctionnalité de jeu de rôle payante NSFW… D’autant plus que vous parlerez à votre « petit ami » qui pourrait interpréter votre sourire à du rentre-dedans.
Alors, quel est le pire qui pourrait arriver avec votre iBoy ? Nous sommes partagés, alors voici un « préféreriez-vous ? : « Vos parents (ou tout l’Internet) lisant la transcription de votre chat dégoûtant parce qu’elle a été divulguée, OU devant répondre à Anima pour avoir violé leurs conditions parce que vous avez utilisé un langage que les avocats de l’application ont jugé « obscène » ? Quoi qu’il en soit, c’est le bon moment pour vous dire que vous pouvez supprimer votre historique de chats et vos données d’Anima. Quel soulagement.
Conseils pour vous protéger
- Ne divulguez pas d’informations sensibles lors de vos conversations avec votre partenaire généré par l’IA.
- Exigez la suppression de vos données lorsque vous cessez d’utiliser l’application. La simple suppression d’une application de votre appareil ne permet généralement pas d’effacer vos données personnelles ni de clôturer votre compte.
- Ne consentez pas au suivi continu de votre géolocalisation par l’application. Il est préférable de fournir la géolocalisation « uniquement pendant l’utilisation de l’application ».
- Ne partagez pas de données sensibles via l’application.
- N’autorisez pas l’accès à vos photos et vidéos ou à votre appareil photo.
- Ne vous connectez pas par le biais de comptes tiers.
- Ne vous connectez pas à un service tiers via l’application, ou assurez-vous au minimum que ce dernier adopte des pratiques décentes en matière de protection de la vie privée.
- Ne divulguez pas d’informations sensibles lors de vos conversations avec votre partenaire généré par l’IA.
- Choisissez un mot de passe compliqué. Vous pouvez utiliser un gestionnaire de mots de passe comme 1Password, KeePass, etc.
- N’utilisez pas de plugins de réseaux sociaux.
- Utilisez les contrôles de confidentialité de votre appareil pour limiter l’accès à vos informations personnelles via l’application (ne donnez pas accès à votre caméra, microphone, images et emplacement, sauf si nécessaire).
- Mettez votre application à jour régulièrement.
- Limitez le suivi publicitaire sur votre appareil (par exemple, sur iPhone, utilisez « Confidentialité », « Publicités » et « Limiter le suivi publicitaire ») et via les principaux réseaux publicitaires (pour Google, rendez-vous sur votre compte Google et désactivez la personnalisation des publicités).
- Lorsque vous vous inscrivez, n’acceptez pas le suivi de vos données, dans la mesure du possible.
Ce produit peut-il m’espionner ?
Caméra
Appareil : Ne s’applique pas
Application : Oui
Microphone
Appareil : Ne s’applique pas
Application : Oui
Piste la géolocalisation
Appareil : Ne s’applique pas
Application : Oui
Que peut-on utiliser pour s’inscrire ?
Adresse e-mail
Oui
Téléphone
Non
Compte tiers
Oui
Inscription via Google possible
Quelles données l’entreprise collecte-t-elle ?
Personnelles
Coordonnées, adresse IP, type d’appareil, numéros d’identification uniques de l’appareil, autres identifiants internes (entiers), type de navigateur, situation géographique étendue (par exemple, situation au niveau du pays ou de la ville), autres informations techniques.
Corporelles
Sociales
Comment l’entreprise utilise-t-elle les données ?
Comment pouvez-vous contrôler vos données ?
Quel est l’historique de l’entreprise en matière de protection des données des utilisateurs et utilisatrices ?
Aucune fuite de données connue n’a été découverte au cours des trois dernières années.
Informations liées à la vie privée des enfants
Ce produit peut-il être utilisé hors connexion ?
Informations relatives à la vie privée accessibles et compréhensibles ?
Liens vers les informations concernant la vie privée
Ce produit respecte-t-il nos critères élémentaires de sécurité ?
Chiffrement
Mot de passe robuste
Nous sommes parvenus à nous connecter avec le mot de passe « 1 ».
Mises à jour de sécurité
Gestion des vulnérabilités
Politique de confidentialité
Nous ne sommes pas en mesure de confirmer si l’IA utilisée par ce produit est digne de confiance, car il n’existe que peu ou pas d’informations publiques sur le fonctionnement de celle-ci et sur les mécanismes de contrôle mis à la disposition des utilisateurs pour garantir la sécurité du produit. Nous avons également relevé des éléments troublants dans le contenu de l’application. En outre, nous nous inquiétons du risque de manipulation des utilisateurs par cette application, qui recueille des informations personnelles sensibles qu’elle peut utiliser pour entraîner des modèles d’IA, et les utilisateurs n’ont que peu voire pas de contrôle sur ces algorithmes d’IA.
Anima utilise de grands modèles de langage pour générer des conversations et se comporter comme un partenaire amoureux.
Cette IA est-elle non digne de confiance ?
Quel genre de décisions l’IA prend-elle à votre sujet ou pour vous ?
L’entreprise est-elle transparente sur le fonctionnement de l’IA ?
Les fonctionnalités de l’IA peuvent-elles être contrôlées par l’utilisateur ou l’utilisatrice ?
Pour aller plus loin
-
5 Things You Must Not Share With AI ChatbotsMake Use Of
-
AI girlfriends are ruining an entire generation of menThe Hill
-
AI-Human Romances Are Flourishing—And This Is Just the BeginningTime
-
‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AIRolling Stone
Commentaires
Vous avez un commentaire ? Dites-nous tout.