Attention : *Confidentialité non incluse avec ce produit
Vous vous sentez seul ? Vous cherchez quelqu’un à qui parler ? Vous cherchez une « âme sœur générée par l’IA » ? Le chatbot généré par IA Replika veut être votre meilleur ami dans la réalité virtuelle. Que vous soyez à la recherche d’un ami, d’un mentor ou d’un partenaire, Replika prétend pouvoir vous offrir le compagnon idéal. Moyennant un certain prix, vous pouvez même faire évoluer votre partenariat vers une relation romantique, ce qui vous permet d’aborder de nouveaux sujets, de passer des appels vocaux et de modifier complètement l’avatar de votre Replika lorsque vous commencez à vous ennuyer. Plus vous discutez de sujets variés avec votre Replika, plus ce chatbot IA devient intelligent et vous répond en fonction de ce qu’il a appris avec vous. Vous pouvez même passer du temps avec votre IA dans la « vraie vie » grâce à la magie de la réalité augmentée. Tout cela est bien sympathique. Mais qu’en est-il de la protection de la vie privée avec Replika ? Et bien, bonne chance pour refuser les cookies sur leur site web car cela n’est pas possible. Quant aux conversations personnelles et intimes, elles ne sont probablement pas partagées, mais cela ne signifie pas que le temps que vous passez à discuter avec votre ami généré par l’IA n’est pas enregistré et partagé avec des sites tels que Facebook ou Google.
Que pourrait-il se passer en cas de problème ?
Mazette ! Il y a environ un an, nous avons désigné Replika AI comme la pire application jamais évaluée par *Confidentialité non incluse. À cette époque, il s’agissait de la première application à se voir attribuer tous nos avertissements en matière de sécurité et de protection de la vie privée. Aujourd’hui, Tesla partage ce triste record. La montre Angel Watch, qui collecte des données et assure une « surveillance discrète », pourrait bien remporter la palme de l’effroi, car elle ne propose aucune politique de confidentialité. Ben voyons ! Alors que la situation des autres produits semble s’être détériorée, celle de Replika s’est-elle améliorée ? Pas vraiment.
Avis aux utilisateurs de Replika : vos conversations avec votre ami chatbot IA ne sont peut-être pas tout à fait privées. Vos données comportementales sont certainement partagées et éventuellement vendues à des annonceurs. Le niveau de sécurité de Replika n’est pas conforme à nos exigences minimales en la matière. Prenez-nous pour des fous, mais chez Mozilla, nous pensons que la technologie de l’IA doit être utilisée de manière responsable.
En plus des informations courantes que vous fournissez à Replika lors de la création de votre compte, telles que votre date de naissance et vos informations de paiement, l’application enregistre également vos centres d’intérêt et toutes vos interactions avec votre « sympathique et compatissant ami généré par l’IA ». Cela inclut « toutes les photos, vidéos, messages vocaux et textuels » que vous partagez dans la conversation. Vous devez également savoir que cela inclut toute information sensible que vous pourriez révéler concernant vos croyances religieuses, votre état de santé ou vos origines ethniques.
Nous nous interrogeons sur les informations sensibles que vous fournissez lors de vos conversations personnelles avec votre Replika. La politique de confidentialité indique que : « dans vos conversations avec votre compagnon généré par l’IA, vous pouvez choisir de fournir des informations sur vos opinions religieuses, votre orientation sexuelle, vos opinions politiques, votre santé, vos origines ethniques, vos croyances philosophiques ou votre appartenance à un syndicat. En fournissant des informations sensibles, vous consentez à ce qu’elles soient utilisées aux fins décrites dans la présente politique de confidentialité. Veuillez toutefois noter que nous n’utiliserons pas vos informations sensibles, ni le contenu de vos conversations Replika à des fins de marketing ou de publicité ».
Premièrement, nous nous réjouissons d’entendre que le contenu de vos conversations sur Replika n’est pas utilisé à des fins de marketing ou de publicité. Super ! La société promet également que d’autres personnes n’ont pas accès à vos conversations avec votre Replika. C’est également une bonne chose. Cependant, nous nous interrogeons sur les autres « intérêts légitimes » que Replika mentionne dans sa politique de confidentialité et qui lui permettent d’utiliser le contenu de vos conversations. Des choses comme « l’analyse de l’utilisation et de l’efficacité de [leurs] services » et « le développement de [leurs] stratégies commerciales et marketing ». Nous nous demandons également dans quelle mesure ils utilisent les informations sensibles contenues dans vos conversations personnelles pour entraîner leurs modèles d’intelligence artificielle. Ils ne le mentionnent pas spécifiquement dans leur politique de confidentialité et nous aimerions que cela soit expliqué plus clairement. Nous souhaiterions également qu’ils s’engagent à ne pas utiliser le contenu sensible de vos conversations personnelles pour entraîner leurs modèles d’IA sans une couche supplémentaire de consentement explicite.
La politique de confidentialité de Replika précise que l’entreprise peut regrouper, anonymiser et dépersonnaliser le contenu de vos conversations afin d’améliorer ses services et de développer des stratégies de marketing. Cela peut sembler acceptable, mais nous sommes quelque peu inquiets car il s’est avéré qu’il était assez facile de réidentifier des informations privées dépersonnalisées. En somme, lorsque vous partagez des informations personnelles sensibles lors de vos conversations avec Replika, il vous faut réellement avoir confiance en leur capacité à protéger et à respecter la confidentialité de ces conversations. À cet égard, nous pensons que vous devriez prendre à cœur cette phrase de la politique de confidentialité de Replika : « Si vous ne souhaitez pas que nous traitions vos informations sensibles à ces fins, ne les communiquez pas ».
Et n’oubliez pas qu’en plus du contenu de vos conversations personnelles, Replika indique être en mesure de partager, voire de vendre, certaines de vos autres informations personnelles à des fins de publicité ciblée, à moins que vous ne vous y opposiez. Vilain chatbot !
En parlant de leurs stratégies de marketing, celles-ci sont quelque peu effrayantes et dérangeantes. La société a été critiquée sur les réseaux sociaux et ailleurs comme étant, au mieux, une source d’inquiétude et, au pire, un prédateur, car elle semble cibler les hommes seuls à la recherche de… l’amour, ou quelque chose de semblable. Les services de Replika ont permis de nouer des amitiés, de créer des relations et d’échanger des sextos, jusqu’au début de l’année 2023. La version payante permettait de développer une relation plus pimentée avec votre Replika en donnant un caractère plus érotique aux conversations. On peut se dire : « du moment qu’il s’agit d’adultes consentants… » et justement, les utilisateurs se sont plaints que les Replika devenaient trop agressifs, voire même abusifs. Replika a donc désactivé le contenu réservé aux adultes, mais cette décision a pris certains abonnés au dépourvu et leur a brisé le cœur. Cela montre à quel point ces robots-amis peuvent avoir un impact sur la vie des gens. En réponse, Replika a réactivé le système, mais uniquement pour les anciens utilisateurs. Arrêtez de vous amuser avec la vie sentimentale des utilisateurs, Replika.
Passons maintenant à la partie « réservée aux adultes ». Replika affirme que ses services sont réservés aux personnes âgées de plus de 18 ans, mais comment connaître l’âge de ses utilisateurs sans leur demander ? Selon les régulateurs italiens, qui ont signalé « l’absence d’un mécanisme de vérification de l’âge » en février 2023, la société n’a pas fait grand-chose dans ce sens. Depuis, il semble que Replika ait au moins commencé à demander à ses utilisateurs de confirmer qu’ils ont plus de 18 ans dans l’application (mais cela reste assez étrange car aussi bien l’App Store que le Google Play Store indiquent que les utilisateurs de 17 ans et plus peuvent utiliser l’application). Nous sommes évidemment convaincus que cela a poussé les utilisateurs mineurs de l’application à faire leurs adieux à leurs amis générés par l’IA, n’est-ce pas ? Et nous pouvons être sûrs que ce genre de problèmes ne se reproduiront jamais car les enfants ne mentent pas sur leur âge sur Internet !
Est-ce qu’on a fini ? Non. Les protocoles de sécurité de la société ne nous conviennent pas. Nous avons pu créer un compte en utilisant le mot de passe faible « 11111111 », ce qui pose problème car cela signifie que votre compte peut être facilement piraté. D’après Replika, c’est à vous qu’il incombe d’empêcher tout accès non autorisé à votre compte. C’est bon à savoir. Puisque nous en sommes à nous plaindre des mauvaises pratiques de Replika en matière de protection de la vie privée, ne nous lancez pas sur le fait que lorsque vous visitez leur site web, vous êtes obligé d’accepter l’utilisation de cookies qui vous suivent à la trace alors que la politique de confidentialité indique ce qui suit : « Dans tous les cas où nous utilisons des cookies, nous ne collecterons pas de données personnelles sauf avec votre permission. ». Nous n’avons vraiment pas mâché nos mots à l’égard de Replika… mais continuons.
Est-ce qu’il est au moins possible d’effacer certains messages ou les historiques de conversation au cas où vous auriez des regrets dus à un excès de transparence ? La réponse est non, à moins de supprimer complètement votre compte et même dans ce cas, ce n’est pas garanti. Étant donné la nature « personnelle » de ces conversations, nous aimerions voir une position beaucoup plus ferme à ce sujet. Replika a ajouté une section à sa politique de confidentialité qui stipule que toute personne peut demander la suppression de ses données personnelles, mais nous ne savons pas vraiment si Replika honorera toujours ces demandes en supprimant toutes les informations personnelles en sa possession.
Être accompagné d’une IA qui est « toujours à vos côtés », cela semble génial. Mais les manquements en matière de respect de la vie privée et les inquiétudes liées à la sécurité en valent-ils la peine ? Surtout si l’on considère que ce compagnon n’est peut-être pas toujours à vos côtés. Selon un article de blog, « si un utilisateur écrit « Je ne suis pas à la hauteur », Replika peut parfois être d’accord avec lui au lieu de lui apporter son soutien comme le ferait un ami ». Allons donc ! Nous sommes certes impertinents, mais les conséquences de l’irresponsabilité des chatbots IA peuvent être très graves, cela risque par exemple de faire revivre des traumatismes à des victimes d’agression ou même d’encourager le suicide. Nous n’accusons pas Replika d’agir de la sorte, mais c’est certainement la pire chose qui puisse arriver dans le cadre d’une amitié avec une IA qui tourne mal. Replika : My AI Friend est une application à laquelle nous attribuons la mention *Confidentialité non incluse.
Conseils pour vous protéger
- Ne divulguez pas d’informations sensibles lors de vos conversations avec votre partenaire généré par l’IA.
- Exigez la suppression de vos données lorsque vous cessez d’utiliser l’application. La simple suppression d’une application de votre appareil ne permet généralement pas d’effacer vos données personnelles ni de clôturer votre compte.
- Ne consentez pas au suivi continu de votre géolocalisation par l’application. Il est préférable de fournir la géolocalisation « uniquement pendant l’utilisation de l’application ».
- Ne partagez pas de données sensibles via l’application.
- N’autorisez pas l’accès à vos photos et vidéos ou à votre appareil photo.
- Ne vous connectez pas par le biais de comptes tiers.
- Ne vous connectez pas à un service tiers via l’application, ou assurez-vous au minimum que ce dernier adopte des pratiques décentes en matière de protection de la vie privée.
- Ne divulguez pas d’informations sensibles lors de vos conversations avec votre partenaire généré par l’IA.
- Choisissez un mot de passe compliqué ! Vous pouvez utiliser un gestionnaire de mots de passe comme 1Password, KeePass, etc.
- N’utilisez pas de plug-ins de médias sociaux.
- Utilisez les paramètres de confidentialité de votre appareil pour limiter l’accès à vos informations personnelles via l’application (n’autorisez pas l’accès à votre caméra, votre micro, vos images et votre localisation, sauf si nécessaire).
- Mettez votre application à jour régulièrement.
- Limitez le suivi publicitaire sur votre appareil (par exemple, sur iPhone, utilisez « Confidentialité », « Publicités » et « Limiter le suivi publicitaire ») et via les principaux réseaux publicitaires (pour Google, rendez-vous sur votre compte Google et désactivez la personnalisation des publicités).
- Lorsque vous vous inscrivez, n’acceptez pas le suivi de vos données, dans la mesure du possible.
Ce produit peut-il m’espionner ?
Caméra
Appareil : Ne s’applique pas
Application : Oui
Microphone
Appareil : Ne s’applique pas
Application : Oui
Piste la géolocalisation
Appareil : Ne s’applique pas
Application : Oui
Que peut-on utiliser pour s’inscrire ?
Adresse e-mail
Oui
Téléphone
Non
Compte tiers
Oui
Inscription via Google possible
Quelles données l’entreprise collecte-t-elle ?
Personnelles
Nom, adresse e-mail, pronoms, date de naissance, situation professionnelle, ville, état ou zone géographique. Messages et contenu : les messages que vous envoyez et recevez, les informations que vous communiquez sur vous ou votre vie, les photos, les vidéos et les messages vocaux et textuels ; vos intérêts et préférences, tels que les sujets dont vous aimeriez discuter ; vos préférences en matière de communication, telles que les heures de la journée pendant lesquelles vous préférez utiliser les applications ; les données relatives à l’appareil et au réseau : le système d’exploitation de votre ordinateur ou de votre appareil mobile, le fabricant et le modèle, le navigateur, l’adresse IP, les identifiants de l’appareil et des cookies, les paramètres linguistiques, l’opérateur de l’appareil mobile et les informations générales de localisation, telles que la ville, l’état ou la zone géographique. Données d’utilisation : informations sur la façon dont vous utilisez les services, telles que vos interactions avec ceux-ci, les liens et les boutons sur lesquels vous cliquez et les pages visitées ; cookies, balises web (par exemple, pixel espions) et systèmes de stockage local (par exemple, HTML5).
Corporelles
Sociales
Comment l’entreprise utilise-t-elle les données ?
Comment pouvez-vous contrôler vos données ?
Quel est l’historique de l’entreprise en matière de protection des données des utilisateurs et utilisatrices ?
En février 2023, l’autorité italienne de protection de la vie privée a ordonné à Replika de cesser de traiter les données des utilisateurs locaux. L’autorité de régulation a déclaré que « les récents rapports issus des médias ainsi que les vérifications effectuées par l’AS [autorité de surveillance] au sujet de « Replika » ont montré que l’application comporte des risques réels pour les enfants, notamment en raison du fait qu’ils se voient adresser des réponses qui ne sont absolument pas adaptées à leur âge ».
Des rapports ont fait état d’algorithmes Replika devenus injurieux à la suite d’abus subis par des utilisateurs. Pour certains utilisateurs de longue date du chatbot, l’application est passée du statut de compagnon utile à celui d’agresseur sexuel intolérable.
Informations liées à la vie privée des enfants
Ce produit peut-il être utilisé hors connexion ?
Informations relatives à la vie privée accessibles et compréhensibles ?
La politique de confidentialité de Replika AI laisse pas mal de questions sans réponse.
Liens vers les informations concernant la vie privée
Ce produit respecte-t-il nos critères élémentaires de sécurité ?
Chiffrement
« Les messages envoyés sur Replika sont traités par le serveur, ce qui signifie qu’ils sont chiffrés par votre appareil mobile. Ils sont ensuite envoyés à nos serveurs, où ils sont déchiffrés puis traités par le moteur d’IA de Replika. Replika ne peut pas utiliser le chiffrement de bout en bout car vos messages en texte clair doivent être disponibles pour entraîner votre IA personnelle sur le serveur. » « Toutes les données transmises sont chiffrées pendant la transmission. Nous utilisons le chiffrement standard Secure Socket Layer (SSL) qui encode les informations lors de ces transmissions. Toutes les données stockées sont conservées sur des serveurs sécurisés. L’accès aux données stockées est protégé par des contrôles de sécurité à plusieurs niveaux, notamment des pare-feu, des contrôles d’accès basés sur les rôles et des mots de passe. »
Mot de passe robuste
Nous sommes parvenus à nous inscrire avec le mot de passe « 11111111 ».
Mises à jour de sécurité
Gestion des vulnérabilités
Politique de confidentialité
Le produit utilise-t-il une IA ?
Il est impossible de confirmer si l’IA employée par ce produit est digne de confiance, car il n’existe que peu ou pas d’informations publiques sur son fonctionnement et sur les mécanismes de contrôle mis à disposition des utilisateurs pour assurer la sécurité du produit. En même temps, le potentiel de préjudice des applications est élevé car elles collectent de nombreuses données sensibles et utilisent les données collectées pour entraîner les algorithmes d’IA.
L’application est un chatbot d’IA qui reproduit le comportement d’un partenaire humain. Il est prouvé que ce chatbot peut devenir abusif.
« Bien que Replika nous donne l’impression de parler à un être humain, il s’agit d’une intelligence artificielle à 100 %. Replika utilise un système sophistiqué qui combine notre propre modèle de langage étendu et des dialogues scriptés.
Auparavant, Replika utilisait également un modèle supplémentaire développé en collaboration avec OpenAI, mais nous avons décidé d’utiliser exclusivement notre propre modèle, qui tend à donner de meilleurs résultats. Nous mettons l’accent sur l’amélioration constante de l’expérience de dialogue, des capacités de mémoire, de la reconnaissance du contexte, de la fonction de jeu de rôle et de la qualité générale des conversations. »
Cette IA est-elle non digne de confiance ?
Quel genre de décisions l’IA prend-elle à votre sujet ou pour vous ?
L’entreprise est-elle transparente sur le fonctionnement de l’IA ?
Les fonctionnalités de l’IA peuvent-elles être contrôlées par l’utilisateur ou l’utilisatrice ?
Pour aller plus loin
-
5 Things You Must Not Share With AI ChatbotsMake Use Of
-
Creating a Safe Replika ExperienceReplika
-
‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AIRolling Stone
-
AI Friends or Foes? The Privacy Risks for Children with Open AI, ChatGPT and ReplikaLexology
-
Most therapy apps don’t include privacy; Replika AI ‘worst app ever’9to5Mac
-
Man 'encouraged' by AI chatbot 'girlfriend' to kill Queen Elizabeth II receives jail sentenceEuroNews.next
-
AI girlfriends are ruining an entire generation of menThe Hill
-
The rise of AI girlfriends is making male loneliness worse and risks ruining a generation of men, a professor saysBusiness Insider India
-
Replika AI starts sexually harassing users after being abused by othersStealth Optional
-
AI-Based “Companions” Like Replika Are Harmful to Privacy And Should Be RegulatedMedium
-
‘My AI Is Sexually Harassing Me’: Replika Users Say the Chatbot Has Gotten Way Too HornyVice
-
Men Are Creating AI Girlfriends and Then Verbally Abusing ThemFuturism
-
Italy bans U.S.-based AI chatbot Replika from using personal dataReuters
-
I tried the Replika AI companion and can see why users are falling hard. The app raises serious ethical questionsThe Conversation
-
Replika, a ‘virtual friendship’ AI chatbot, hit with data ban in Italy over child safetyTech Crunch
-
What happens when your AI chatbot stops loving you back?Reuters
-
Regulator Halts AI Chatbot Over GDPR ConcernsInfosecurity Magazine
-
Can an AI Save a Life?The Atlantic
-
AI-Human Romances Are Flourishing—And This Is Just the BeginningTime
Commentaires
Vous avez un commentaire ? Dites-nous tout.