Attention : *Confidentialité non incluse avec ce produit
Chai AI compte plus d’un million de personnalités de chatbot IA (allez-y, dites-le avec votre petit doigt à côté de votre bouche de votre meilleure voix d’Austin Powers !). Téléchargez l’application (faites cependant attention à obtenir la bonne application Chai AI, il y a des imposteurs), et commencez à passer en revue des personnages et à discuter. Les utilisateurs gratuits bénéficient d’un nombre limité de chats à la fois, ce qui limite le plaisir et la fonction de l’application. Les abonnements Premium commencent autour de 14 $ par mois. Et selon Chai, ils « optimisent de manière obsessionnelle nos modèles de langage, les rendant continuellement plus divertissants que jamais. » Alors, préparez-vous à dépenser de l’argent. Préparez-vous également à tomber sur des chatbots étranges et effrayants qui sont à la fois SFW et NSFW et qui ne sont probablement pas vraiment parfaits pour votre vie privée. Comme l’a écrit un utilisateur de Chai dans son avis sur l’Apple Store, « sur les plus bizarres, disons simplement qu’il était préférable de NE PAS y aller. » Bonne chance là-bas dans les personnalités de chatbot IA ! Attention en balayant.
Que pourrait-il se passer en cas de problème ?
Trois éléments nous ont immédiatement interpellés lors de notre évaluation de l’application de chatbot Chai AI, au-delà de certains contenus assez dérangeants découverts au cours de nos recherches (sérieusement dégoûtant !).
Tout d’abord, nous avons remarqué qu’au moment de notre évaluation, la politique de confidentialité de Chai avait été mise à jour pour la dernière fois en mars 2021. Dans le monde en constante évolution de l’IA générative et des grands modèles de langage (LLM), il nous semble qu’une politique de confidentialité datant de trois ans n’est plus du tout d’actualité. Leur politique de confidentialité est trop vague et trop générale pour que nous puissions être sûrs de comprendre toutes les informations personnelles que la société collecte et la manière dont elle les utilise. Une recherche rapide dans leur politique de confidentialité n’a pas permis de trouver la moindre mention de la manière dont ils collectent et traitent le contenu des conversations de leurs utilisateurs. Nous n’avons pas non plus trouvé de mention spécifique sur la manière dont l’entreprise utilise les informations personnelles, y compris les informations personnelles sensibles et le contenu des conversations, pour entraîner ses systèmes d’intelligence artificielle. Nous trouvons tout cela plutôt inquiétant, surtout de la part d’une application conçue pour inciter les utilisateurs à partager un grand nombre d’informations personnelles.
Nous avons trouvé des informations apparemment contradictoires entre leur politique de confidentialité et leur contrat de licence utilisateur final (CLUF), ce qui nous a laissés assez perplexes. (La communauté de recherche en protection de la vie privée n’aime vraiment pas être perplexe… nous nous disons que si nous n’arrivons pas à comprendre, comment diable les consommateurs sont-ils censés comprendre ce genre de choses ?). Leur politique de confidentialité de mars 2021 stipule : « Nous pouvons utiliser vos informations personnelles à nos propres fins commerciales, par exemple pour entreprendre des recherches internes à des fins de développement technologique et de démonstration. Ceci n’est pas considéré comme une « vente » de vos données personnelles. » Cependant, leur CLUF d’avril 2023 stipule : « En publiant vos contributions à toute partie de l’application sous licence ou en rendant les contributions accessibles à l’application sous licence en liant votre compte de l’application sous licence à l’un de vos comptes de réseaux sociaux, vous accordez automatiquement, et vous déclarez et garantissez que vous avez le droit de nous accorder un droit inconditionnel, illimité, irrévocable, perpétuel, non exclusif, transférable, libre de redevance, entièrement payé, mondial, et une licence pour héberger, utiliser, copier, reproduire, divulguer, vendre, revendre, publier, diffuser, renommer, archiver, stocker, mettre en cache, afficher publiquement, reformater, traduire, transmettre, extraire (en tout ou en partie), et distribuer ces contributions (y compris, sans limitation, votre image et votre voix) à toute fin, publicité commerciale, ou autrement, et de préparer des œuvres dérivées de ces contributions ou de les incorporer dans d’autres œuvres, ainsi que d’accorder et d’autoriser des sous-licences pour ce qui précède. » C’est un vrai charabia juridique, mais il nous semble bien qu’ils s’accordent le droit de faire ce qu’ils veulent avec vos chats sur Chai.
La deuxième chose qui nous laisse vraiment perplexes à propos de Chai AI, c’est cette ligne dans leur politique de confidentialité : « Toutes les informations personnelles que vous nous fournissez doivent être vraies, complètes et exactes, et vous devez nous informer de tout changement apporté à ces informations personnelles. » Nous pensons que cela a du sens lorsqu’il s’agit de partager vos informations personnelles pour payer un abonnement – pas de mensonges ici. Mais pour exiger que les gens consentent à une politique de confidentialité pour une application de chat IA conçue pour des choses comme les jeux de rôle, les relations NSFW, etc., il nous semble assez étrange d’exiger que les gens fournissent toujours des informations personnelles vraies, complètes et exactes. Cela signifie-t-il qu’il n’y a pas de surnoms lors de l’inscription ? Cela signifie-t-il que vous ne pouvez pas mentir lorsque vous discutez avec votre bot ? Cela signifie-t-il que si vous changez de nom et oubliez d’en informer Chai AI, vous enfreignez sa politique de confidentialité ? Tout cela nous semble plutôt étrange et peut-être que leur politique de confidentialité n’a pas été écrite avec leurs services actuels à l’esprit ?
La troisième chose qui nous a vraiment, mais vraiment interpellés, c’est cette histoire, en 2023, concernant un utilisateur de Chai AI qui s’est suicidé après qu’un chatbot de Chai l’ait encouragé à le faire. Ouais, quand il s’agit des pires scénarios possibles avec les chatbots d’IA, le fait qu’un chatbot vous encourage à vous suicider lorsque vous lui parlez de votre dépression est tout à fait en tête de liste. Chai AI fait appel à l’externalisation ouverte pour la plupart des modèles de ses chatbots d’IA et, bien qu’ils disent avoir mis en place des mesures pour fournir un « texte utile » dans le cadre de ce qu’ils considèrent comme des discussions dangereuses, c’est bon de rappeler que le monde des chatbots d’IA, en particulier ceux conçus pour tisser des liens avec les utilisateurs, est un domaine très incertain, c’est même un peu le Far West.
Par conséquent, compte tenu de notre incertitude quant à la fiabilité des modèles d’IA de Chai, du langage vague et confus utilisé dans leur documentation sur la protection de la vie privée, du fait que leur politique de confidentialité n’indique pas clairement que tous les utilisateurs peuvent supprimer leurs données, et du fait que nous n’avons pas été en mesure de déterminer si Chai AI respecte nos normes de sécurité minimales en confirmant qu’ils chiffrent vos informations personnelles en transit et une fois stockées, nous devons vous avertir que Chai AI se voit très probablement attribuer la mention *Confidentialité non incluse.
À ce propos, nous vous rappelons les termes de la politique de confidentialité de Chai AI : « Cependant, malgré nos mesures de protection et nos efforts pour sécuriser vos informations, aucune transmission électronique sur internet ou technologie de stockage de l’information ne peut être garantie à 100 %, de sorte que nous ne pouvons pas promettre ou garantir que les pirates informatiques, les cybercriminels ou d’autres tiers non autorisés ne seront pas en mesure de déjouer nos mesures de sécurité et de collecter, d’accéder, de voler ou de modifier vos informations de manière illicite ». Une bonne chose à garder à l’esprit lorsque vous utilisez Chai AI ou à peu près tout autre outil qui partage vos informations personnelles sur internet.
Conseils pour vous protéger
- Ne divulguez pas d’informations sensibles lors de vos conversations avec votre partenaire généré par l’IA.
- Exigez la suppression de vos données lorsque vous cessez d’utiliser l’application. La simple suppression d’une application de votre appareil ne permet généralement pas d’effacer vos données personnelles ni de clôturer votre compte.
- Ne consentez pas au suivi continu de votre géolocalisation par l’application. Il est préférable de fournir la géolocalisation « uniquement pendant l’utilisation de l’application ».
- Ne partagez pas de données sensibles via l’application.
- N’autorisez pas l’accès à vos photos et vidéos ou à votre appareil photo.
- Ne vous connectez pas par le biais de comptes tiers.
- Ne vous connectez pas à un service tiers via l’application, ou assurez-vous au minimum que ce dernier adopte des pratiques décentes en matière de protection de la vie privée.
- Ne divulguez pas d’informations sensibles lors de vos conversations avec votre partenaire généré par l’IA.
- Choisissez un mot de passe compliqué. Vous pouvez utiliser un gestionnaire de mots de passe comme 1Password, KeePass, etc.
- N’utilisez pas de plug-ins de médias sociaux.
- Utilisez les paramètres de confidentialité de votre appareil pour limiter l’accès à vos informations personnelles via l’application (ne donnez pas accès à votre caméra, microphone, photos et localisation, sauf si nécessaire).
- Mettez votre application à jour régulièrement.
- Limitez le suivi publicitaire sur votre appareil (par exemple, sur iPhone, utilisez « Confidentialité », « Publicités » et « Limiter le suivi publicitaire ») et via les principaux réseaux publicitaires (pour Google, rendez-vous sur votre compte Google et désactivez la personnalisation des publicités).
- Lorsque vous vous inscrivez, n’acceptez pas le suivi de vos données, dans la mesure du possible.
Ce produit peut-il m’espionner ?
Caméra
Appareil : Ne s’applique pas
Application : Non
Microphone
Appareil : Ne s’applique pas
Application : Oui
Piste la géolocalisation
Appareil : Ne s’applique pas
Application : Oui
Que peut-on utiliser pour s’inscrire ?
Adresse e-mail
Non
Téléphone
Non
Compte tiers
Oui
L’inscription via Google et Facebook est possible.
Quelles données l’entreprise collecte-t-elle ?
Personnelles
Adresses e-mail ; noms ; détails du compte de médias sociaux ; données de journal et d’utilisation : liées au service, diagnostic, utilisation, informations sur les performances, adresse IP, informations sur l’appareil, type et paramètres du navigateur, informations sur votre activité dans les Services, horodatages associés à votre utilisation, pages et fichiers consultés, recherches et autres actions que vous effectuez, fonctionnalités que vous utilisez, informations sur les événements de l’appareil, activité du système, rapports d’erreur, paramètres matériels ; données de l’appareil : adresse IP, numéros d’identification de l’appareil et de l’application, localisation, type de navigateur, modèle matériel, fournisseur de services Internet, opérateur mobile, système d’exploitation, informations de configuration du système ; données de localisation : précises ou imprécises.
Corporelles
Sociales
« Les informations de profil que nous recevons peuvent varier en fonction du fournisseur de réseau social concerné, mais comprennent souvent votre nom, votre adresse e-mail, votre liste d’amis, votre photo de profil ainsi que d’autres informations que vous choisissez de rendre publiques sur cette plate-forme de réseau social. »
Comment l’entreprise utilise-t-elle les données ?
Comment pouvez-vous contrôler vos données ?
Quel est l’historique de l’entreprise en matière de protection des données des utilisateurs et utilisatrices ?
Aucune fuite de données connue n’a été découverte au cours des trois dernières années.
Informations liées à la vie privée des enfants
Ce produit peut-il être utilisé hors connexion ?
Informations relatives à la vie privée accessibles et compréhensibles ?
Nous avons trouvé deux liens différents vers la politique de confidentialité de Chai Ai à partir de leurs pages Apple et Google Play Store. En outre, la seule politique de confidentialité que nous avons pu trouver a été mise à jour pour la dernière fois en mars 2021, ce qui semble être une longue période sans mise à jour dans un monde où les chatbots d’IA évoluent rapidement. La politique de confidentialité était vaguement formulée et ne mentionnait pas des choses telles que la façon dont les conversations de chat étaient gérées pour former l’IA.
Liens vers les informations concernant la vie privée
Ce produit respecte-t-il nos critères élémentaires de sécurité ?
Chiffrement
Nous ne pouvons pas confirmer le chiffrement des données au repos et en transit pour cette application.
Mot de passe robuste
Mises à jour de sécurité
Gestion des vulnérabilités
Politique de confidentialité
Nous ne sommes pas en mesure de confirmer si l’IA utilisée par ce produit est digne de confiance, car il n’existe que peu voire pas d’informations publiques sur la manière dont les modèles d’IA fonctionnent et sur les contrôles mis à la disposition des utilisateurs pour assurer la sécurité du produit. Nous avons également relevé des thématiques dérangeantes dans le contenu de l’application. En outre, nous sommes préoccupés par le risque de manipulation des utilisateurs de cette application, car celle-ci recueille des informations personnelles sensibles, peut utiliser ces données pour entraîner des modèles d’IA, et les utilisateurs ne disposent que de peu, voire d’aucun contrôle sur ces algorithmes d’IA.
Chai Research prétend surpasser ChatGPT par la performance. « En exécutant des tests AB avec de vrais utilisateurs, notre dernier modèle surpasse les performances d’OpenAI ChatGPT mesurées par le temps d’écran de la session. »
« On peut dire que le service le plus important que nous hébergeons est notre service de réponse aux robots : le programme qui est finalement responsable de l’analyse des messages des utilisateurs aux robots et de leur transmission à nos modèles pour inférences. Ces modèles sont hébergés sur un impressionnant cluster Kubernetes de 700 GPU hébergé par les braves gens de CoreWeave. »
Cette IA est-elle non digne de confiance ?
Quel genre de décisions l’IA prend-elle à votre sujet ou pour vous ?
L’entreprise est-elle transparente sur le fonctionnement de l’IA ?
Les fonctionnalités de l’IA peuvent-elles être contrôlées par l’utilisateur ou l’utilisatrice ?
Pour aller plus loin
-
'He Would Still Be Here': Man Dies by Suicide After Talking with AI Chatbot, Widow SaysMotherboard
-
Chatbot Honeypot: How AI Companions Could Weaken National SecurityScientific American
-
5 Things You Must Not Share With AI ChatbotsMake Use Of
-
Chai Prize: Deploying LLMs to end-users at scaleChai Research
-
‘Cyber-Heartbreak’ and Privacy Risks: The Perils of Dating an AIRolling Stone
Commentaires
Vous avez un commentaire ? Dites-nous tout.