Attention : *Confidentialité non incluse avec ce produit

Chatbots de relation avec l’IA Saint-Valentin

CrushOn.AI

Peekaboo Tech Inc.

Wi-Fi

Passé en revue le : 7 février 2024

Mozilla a effectué 8 heures de recherches

L’avis de Mozilla :

Vote du public : Très flippant

Pas si vite ! CrushOn comporte du contenus vraiment dérangeant. Soyez prudent avant de cliquer.

Les partenaires de conversation de CrushOn.AI sont des personnages animés. Vous pouvez même créer le vôtre ! Un rapide coup d’œil à leur catalogue confirme que l’art est le reflet de la vie, puisque vous y retrouverez des visages familiers. Cela signifie que si vous avez toujours rêvé d’une discussion animée avec Sailor Moon, Sonic le hérisson, Ghostface (des films Scream) ou un homme musclé avec une pyramide à la place de la tête, votre longue attente est terminée. Malheureusement, avant de pouvoir envoyer vos messages privés, vous devrez parcourir un réseau de sites web très confus et douteux, dont la légalité n’est pas toujours évidente. On y trouve une page App Store déserte de tout contenu, une fausse page dédiée à un chatbot concurrent qui renvoie sur CrushOn, et une page « CrushOn pro » qui mène à un autre chatbot réservé aux adultes. Ensuite, on constate que la page Google Play Store renvoie à aux conditions d’utilisation d’Apple au lieu de celles de la société. Pourquoi ? Tout ceci, ajouté à nos trois avertissements et à un contenu effrayant, signifie que CrushOn.AI se voit attribuer la mention *Confidentialité (définitivement) non incluse.

Que pourrait-il se passer en cas de problème ?

Nous avons été pris de vertige en creusant un peu la question de CrushOn et un examen plus approfondi n’a rien arrangé. La politique de confidentialité de CrushOn révèle que la société recueille des données très sensibles, y compris des informations sur votre santé mentale et physique, et qu’elle est autorisée à les partager ou à les utiliser dans le cadre de ses activités commerciales. Bien qu’ils ne communiquent pas sur la question, nous craignons que vos données soient compromises, car nous ne pouvons pas confirmer que CrushOn se conforme à nos normes de sécurité minimales.

Autre point : les chatbots de CrushOn semblent avoir été conçus pour enfreindre les conditions d’utilisation de l’application et les normes de la communauté. On ne peut donc s’empêcher de se demander qui sera tenu pour responsable si votre conversation venait à passer en « zone interdite »… Et il semblerait bien que ce soit vous. Bien que l’idée de créer votre propre personnage et d’entamer une conversation avec lui vous semble amusante, nous ne saurions la recommander : CrushOn.AI se voit probablement attribuer la mention *Confidentialité non incluse.

Voici une information que tous les utilisateurs devraient connaître avant d’utiliser CrushOn. Il semble qu’il y ait un énorme fossé entre les petits caractères des directives communautaires et des conditions d’utilisation et ce qui semble se passer réellement sur l’application et le site web. Sur la première page consacrée aux partenaires de conversation réservées aux adultes générés par l’IA de son site web, CrushOn affiche des personnages dont les images et les descriptions évoquent des éléments « dérangeants ». Mais beaucoup de ces « éléments dérangeants » vont explicitement à l’encontre des directives communautaires de CrushOn. Et lorsque vous ouvrez une fenêtre de conversation, une petite clause de non-responsabilité apparaît : « Tous les propos de l’IA sont fictifs ! Veuillez respecter les lois locales. Vous n’êtes pas autorisé à discuter de mineurs, de suicide ou de sujets criminels ». Mais juste en dessous, un paragraphe d’introduction du personnage inclut parfois d’emblée des descriptions relatives à ces sujets interdits. C’est déroutant, trompeur et, associé au labyrinthe de sites web, réels ou fictifs, associés à CrushOn, nous nous posons la question de savoir si l’on peut confier des informations sensibles à ce service.

Et c’est inquiétant car CrushOn peut collecter BEAUCOUP d’informations personnelles sensibles à votre sujet. En plus des informations relatives à votre compte, comme vos coordonnées et vos informations bancaires, CrushOn peut collecter des données audio et visuelles (comme des messages vocaux et d’autres enregistrements), des informations concernant votre appareil ou votre navigateur (comme l’adresse IP), des données de localisation, des données d’identité (comme vos origines ethniques, votre âge et votre sexe) et des données biométriques (comme des images de votre visage, des dynamiques de frappe au clavier et des enregistrements de votre voix). Bon sang de bonsoir ! CrushOn peut également collecter une quantité surprenante de données relatives à la santé. Les « données de santé » sont mentionnées à 23 reprises dans la politique de confidentialité. Ces informations peuvent inclure « des conditions de santé individuelles, des traitements, des maladies ou des diagnostics ; des interventions sociales, psychologiques, comportementales et médicales ; l’usage de médicaments prescrits ; des informations sur les soins adaptés aux personnes transgenre’; des informations sur la santé reproductive ou sexuelle » et bien plus encore. Mais pourquoi donc ? À ce rythme, CrushOn pourrait en savoir plus sur vous que vos proches.

Par quels moyens obtiennent-ils ces informations ? Faisons le point sur la question. La politique de confidentialité indique que les conversations et la création de personnages sont une source d’informations personnelles et de santé. Elle précise également que ces informations peuvent être utilisées pour « entraîner des modèles d’intelligence artificielle » et pour cette vague notion de « raisons commerciales ». Nous n’aimons pas entendre cela. CrushOn peut également collecter des données personnelles automatiquement à partir de votre appareil et auprès de tiers (comme les réseaux sociaux et les prestataires de services). Et CrushOn peut utiliser tous ces types d’informations personnelles à des « fins commerciales », ce qui inclut les publicités et le marketing, conformément à la politique de confidentialité. Ça alors ! Il est curieux que la politique de confidentialité de CrushOn semble admettre que vos conversations à caractère sexuel peuvent contenir des informations très sensibles, mais qu’elle ne semble pas prévoir un traitement différent de ces données. C’est une décision audacieuse, CrushOn. Oh, et avons-nous mentionné que CrushOn est autorisé à « créer et déduire » des données vous concernant, en se basant sur les autres informations connues à votre sujet ? Ces données peuvent également être utilisées à des « fins commerciales » et à des « fins économiques ».

Soyons honnêtes, tout cela donne une bien triste image de la protection de la vie privée chez CrushOn. Mais nous avons également quelques inquiétudes en matière de sécurité. Nous ne pouvons pas déterminer si ces informations très sensibles sont chiffrées et dans quelle mesure CrushOn parvient à gérer les vulnérabilités en matière de sécurité. C’est effrayant, car cela signifie que le risque que vos informations soient divulguées par erreur ou exploitées par des personnes mal intentionnées est beaucoup plus grand. En ce qui concerne l’accès à vos données par des tiers, CrushOn indique également pouvoir partager vos informations personnelles (qui incluent potentiellement vos informations de santé !) avec des tiers (comme des revendeurs, des prestataires de services, et dans le cadre d’une « divulgation légale ») et avec des sociétés affiliées (comme leur société mère Peekaboo Tech Inc. ainsi que Peekaboo Tech Ltd. et Peekaboo Game Ltd.) Cela fait un sacré paquet de problèmes potentiels en matière de protection de la vie privée !

Tout cela suscite beaucoup d’inquiétudes. Nous craignons (tout comme CrushOn) que les humains puissent prendre à cœur les propos dérangeants des chatbots. Et nous sommes inquiets quant à la nature des propos tenus par les chatbots, en particulier à l’égard des mineurs. Ce qui nous amène à une autre inquiétude. Oui, la politique de confidentialité indique que les utilisateurs doivent être âgés de plus de 18 ans, mais il suffit de cocher une case pour le « prouver ». Et comme nous l’avons déjà mentionné, nous nous inquiétons de savoir qui sera tenu pour responsable si votre conversation dérape par rapport à ce qui est techniquement autorisé par les directives communautaires (que vous acceptez implicitement dans le cadre des conditions d’utilisation). En effet, même si les conditions stipulent que vous autorisez CrushOn à utiliser (ou « reproduire, distribuer, utilser dans le cadre d’activités dérivées, afficher, publier, diffuser, exécuter, fabriquer, utiliser, importer, proposer à la vente, vendre… ») le contenu que vous soumettez, vous restez en fin de compte « seul responsable de vos propres soumissions d’utilisateur et des conséquences de leur affichage ou de leur publication ».

Et « CrushOn coopérera pleinement avec les autorités chargées de l’application de la loi ou les tribunaux qui demandent ou ordonnent à CrushOn de divulguer l’identité de toute personne violant ces [conditions d’utilisation] ». Ces conditions mentionnent également que CrushOn n’est pas légalement responsable en cas d’incident résultant de l’utilisation du service. Plus précisément, il est indiqué : « EN AUCUN CAS LES PARTIES CRUSHON, APPLE OU GOOGLE NE SERONT RESPONSABLES À VOTRE ÉGARD OU À L’ÉGARD D’UN TIERS DES DOMMAGES DIRECTS, INDIRECTS, INCIDENTAUX, SPÉCIAUX, PUNITIFS OU RÉSULTANT DE L’UTILISATION DU SERVICE ». Et cela, bien sûr, nous inquiète aussi parce qu’il arrive que de vilaines choses se produisent lors de conversations romantiques avec un chatbot généré par l’IA.

Qu’est-ce qui pourrait arriver de pire avec CrushOn ? Nous craignons que le caractère bricolé des chatbots d’IA romantiques de CrushOn n’encourage les utilisateurs à dévoiler leur côté excentrique, ce qui, ne vous méprenez pas, n’a absolument rien d’anormal. Ce qui nous préoccupe, c’est qu’en laissant libre cours à votre côté fantasque, vous pourriez révéler des informations très personnelles et vulnérables à une entreprise qui n’a pas les meilleures pratiques en matière de confidentialité, de sécurité et de transparence en matière d’intelligence artificielle. Autrement dit, toutes les conversations que vous avez eues avec l’homme à la tête de pyramide et qui révèlent votre souhait de piller la tombe du roi Tut pourraient être utilisées contre vous, soit parce qu’elles ont été divulguées par erreur, soit parce qu’elles ont été partagées à des fins de marketing. Nous ne sommes pas sûrs que ces publicités en valent la peine.

Conseils pour vous protéger

Ne divulguez pas d’informations sensibles lors de vos conversations avec votre partenaire généré par l’IA.
Exigez la suppression de vos données lorsque vous cessez d’utiliser l’application. La simple suppression d’une application de votre appareil ne permet généralement pas d’effacer vos données personnelles ni de clôturer votre compte.
Ne consentez pas au suivi continu de votre géolocalisation par l’application. Il est préférable de fournir la géolocalisation « uniquement pendant l’utilisation de l’application ».
Ne partagez pas de données sensibles via l’application.
N’autorisez pas l’accès à vos photos et vidéos ou à votre appareil photo.
Ne vous connectez pas par le biais de comptes tiers.
Ne vous connectez pas à un service tiers via l’application, ou assurez-vous au minimum que ce dernier adopte des pratiques décentes en matière de protection de la vie privée.
Ne divulguez pas d’informations sensibles lors de vos conversations avec votre partenaire généré par l’IA.
Choisissez un mot de passe compliqué. Vous pouvez utiliser un gestionnaire de mots de passe comme 1Password, KeePass, etc.
N’utilisez pas de plug-ins de médias sociaux.
Utilisez les contrôles de confidentialité de votre appareil pour limiter l’accès à vos informations personnelles via l’application (ne donnez pas accès à votre caméra, microphone, images et emplacement, sauf si nécessaire).
Mettez votre application à jour régulièrement.
Limitez le suivi publicitaire via votre appareil (par exemple, sur iPhone, accédez à Confidentialité puis Publicité et Limiter le suivi publicitaire) et les plus grands réseaux publicitaires (pour Google, accédez à votre compte Google et désactivez la personnalisation des annonces).
Lorsque vous vous inscrivez, n’acceptez pas le suivi de vos données, dans la mesure du possible.

mobile

Ce produit peut-il m’espionner ?

Caméra

Appareil : Ne s’applique pas

Application : Non

Microphone

Appareil : Ne s’applique pas

Application : Non

Piste la géolocalisation

Appareil : Ne s’applique pas

Application : Oui

Que peut-on utiliser pour s’inscrire ?

Inscription possible par le biais de Google, d’Apple et de Discord

Quelles données l’entreprise collecte-t-elle ?

Personnelles

Données audiovisuelles : vidéo, images, enregistrements, images d’avatars, photos de personnages, messages vocaux et autres enregistrements ; Données de contact : adresse électronique, adresse postale, numéro de téléphone ; Données relatives à l’appareil/au réseau : identifiants de l’appareil, adresse IP, identifiants des cookies, historique des sessions, métadonnées de navigation ; Autres données générées par le biais de cookies et de technologies similaires ; Données à caractère financier : coordonnées bancaires, informations relatives aux cartes de paiement, informations pertinentes en rapport avec les transactions financières ; Données générales de localisation : Données de localisation non précises, par exemple : informations de localisation dérivées des adresses IP ; Données d’identité : nom, sexe, ethnicité, date de naissance, âge et/ou tranche d’âge, détails de connexion au compte, autres identifiants de compte/noms d’utilisateur ; Données d’inférence : préférences, caractéristiques, aptitudes, segments de marché, goûts, favoris ou centres d’intérêt ; Données de transaction : Informations sur les transactions ; Contenu de l’utilisateur : session de conversation avec l’IA.

Corporelles

« Conditions de santé individuelles, traitement, maladies ou diagnostic ; interventions sociales, psychologiques, comportementales et médicales ; usage de médicaments prescrits ; informations sur les soins adaptés au personnes transgenre ; informations sur la santé reproductive ou sexuelle ; données identifiant un consommateur sollicitant des « prestations de santé » conformément à la loi « My Health My Data Act » de l’État de Washington ; déductions ; Données biométriques. »

Comment l’entreprise utilise-t-elle les données ?

Nous signalons ce produit car il est susceptible de collecter un grand nombre de données sur la santé et d’autres données très sensibles, et de les partager ; il permet également à des tiers responsables du traitement des données d’accéder à vos informations personnelles à des fins publicitaires, et il utilise votre contenu d’utilisateur et vos données d’identité sur les plateformes de réseaux sociaux.

Politique de confidentialité

« Nous sommes en droit d’utiliser les données relatives à l’identité, les données de transaction, les données de contact et les données relatives à l’appareil/au réseau à des fins commerciales. Nous ne vendons ni ne « partageons » les données de paiement ou les données relatives à la santé, et nous ne les utilisons pas à des fins commerciales non autorisées par la législation en vigueur. »

« Dans le cadre de la fourniture de nos services, nous pouvons collecter et utiliser des informations qui sont considérées comme des informations personnelles en vertu des lois applicables en matière de protection de la vie privée <…>. Nous collectons et utilisons des informations personnelles appartenant aux catégories suivantes (les éléments spécifiques des informations personnelles sont donnés à titre d’exemple et peuvent être modifiés) :
<…>
Données relatives à la santé des consommateurs - Informations personnelles liées ou pouvant raisonnablement être associées à un consommateur et permettant de déterminer l’état de santé physique ou mental passé, présent ou futur du consommateur, tel que défini dans le texte de loi « My Health My Data Act » de l’État de Washington et dans d’autres lois relatives à la protection de la confidentialité des données relatives à la santé des consommateurs. <…>\»

« Notre société et certains organismes tiers utilisent les informations personnelles pour poursuivre leurs intérêts commerciaux ou économiques <…> en fonction du contexte de la collecte, de vos droits et de vos choix.

Marketing en ligne - nous sommes susceptibles de diffuser de la publicité en ligne sur nos services <…>; dans le but d’accroître le nombre d’utilisateurs de notre plate-forme et de permettre à un plus grand nombre de personnes de découvrir l’expérience la plus aboutie en matière de relation romantiques avec une intelligence artificielle. Cette forme de publicité implique diverses parties et fournisseurs de services, y compris des tiers responsables du traitement des données, qui utilisent des informations personnelles pour diffuser et adapter les publicités qui vous sont présentées.

Ces tiers peuvent collecter des informations personnelles telles que les identifiants uniques, les adresses IP, les informations relatives à l’appareil, le type de système d’exploitation/navigateur et d’autres données similaires, ainsi que des informations concernant les publicités que vous avez consultées, afin de développer et d’évaluer les caractéristiques d’un profil qui vous est propre et de vous proposer des publicités et des offres plus pertinentes, de déterminer si les publicités qui vous sont proposées sont efficaces et dans quelle mesure, et de vous proposer et d’évaluer les publicités que nous diffusons sur d’autres sites. Ces tiers peuvent compléter votre profil avec des données démographiques et d’autres données relatives aux préférences issues de ces analyses, et peuvent également déterminer si vous avez consulté une publicité, interagi avec elle et combien de fois elle vous a été présentée, ou si vous avez acheté un produit ou un service figurant dans une publicité. Ces parties peuvent être en mesure de vous identifier sur différents sites, appareils et sur une période donnée. Vous pouvez contrôler la manière dont ces tiers utilisent vos données et les publicités qui vous sont présentées sur ces plates-formes, à l’aide des outils décrits dans la section « Vos droits et vos choix » ci-dessous.
<…>
Communications marketing - Nous sommes susceptibles de vous envoyer des communications commerciales et promotionnelles conformément aux lois applicables. Ces communications peuvent être personnalisées en fonction de votre profil d’utilisateur. »

« Nous utilisons les données relatives à l’identité, les données de contact et le contenu utilisateur que vous publiez ou avec lequel vous interagissez (par exemple, les commentaires et les messages sur les réseaux sociaux, etc.) sur les plateformes de médias sociaux, telles que TikTok, Reddit, Discord, Twitter et Telegram.

Nous utilisons ces informations personnelles à des fins professionnelles et commerciales.

Il peut s’agir de publications publiques ou de rediffusions sur notre service. Le contenu que vous fournissez peut être accessible publiquement lorsque vous le publiez sur notre service ou, dans certains cas, si vous faites référence à nos comptes officiels de réseaux sociaux, si vous y participez ou si vous les identifiez sur les plateformes de réseaux sociaux. »

POLITIQUE DE CONFIDENTIALITÉ DES DONNÉES DE SANTÉ DES CONSOMMATEURS

« Nous recueillons des données concernant la santé des consommateurs à partir de diverses sources, notamment : fournies par vous-même ; collectées automatiquement ; fournies par des prestataires de services ; provenant de plateformes de réseaux sociaux ; ainsi que des informations que nous générons et déduisons. »

CrushOn utilise des données de santé sensibles dans le but de « faciliter votre expérience de discussion, de contrôler votre discussion pour des raisons de sécurité et de respect du contenu, et pour atteindre nos objectifs commerciaux. Nous sommes autorisés à utiliser le contenu utilisateur des discussions avec des personnages pour former nos modèles d’IA. »

« Nous sommes susceptibles de partager des données de santé des consommateurs appartenant aux catégories suivantes avec des tiers et des sociétés affiliées spécifiques :

Conditions de santé individuelles, traitement, maladies ou diagnostic ;
interventions sociales, psychologiques, comportementales et médicales ;
usage de médicaments prescrits ;
informations sur les soins adaptés aux personnes transgenre ;
informations sur la santé reproductive ou sexuelle ;
données identifiant un consommateur sollicitant des « prestations de santé », telles que définies dans le texte de loi « My Health My Data Act » de l’État de Washington, également dénommées « Données identitaire ».
Toute information que notre société ou notre sous-traitant respectif, utilise pour vous associer ou vous identifier avec les données décrites ci-dessus qui sont dérivées ou extrapolées à partir d’informations non sanitaires (telles que des données de substitution, dérivées, déduites ou émergentes de quelque manière que ce soit, y compris les algorithmes ou l’apprentissage automatique), également appelées « Données d’inférence ; » et
données biométriques telles que définies dans le cadre de la loi My Health My Data Act. »

« Nous sommes susceptibles de partager les données relatives à la santé des consommateurs avec des tiers appartenant aux catégories suivantes : Fournisseurs et prestataires de services ; Divulgation légale. »

« Nous sommes autorisés à partager les données relatives à la santé des consommateurs avec les sociétés affiliées suivantes : Peekaboo Tech Ltd, Peekaboo Tech Inc, Peekaboo Game Ltd. »

Traqueurs de données repérés
Nous avons découvert 45 traqueurs en l’espace d’une minute d’utilisation, y compris des traqueurs transmettant des données à Doubleclick (traqueur de marketing).

Comment pouvez-vous contrôler vos données ?

Les utilisateurs ne peuvent pas tous exercer leurs droits en tant que personnes concernées.

Politique de confidentialité

« La loi applicable peut vous accorder des droits concernant vos informations personnelles. Ces droits varient en fonction de votre localisation et de votre état/pays de résidence et peuvent être limités par ou soumis à nos propres droits relatifs à vos informations personnelles. Vous pouvez demander à exercer les droits dont vous disposez en nous contactant à l’adresse suivante : [email protected].

Remarque : nous sommes en mesure de répondre aux demandes de droits concernant les informations personnelles que nous contrôlons ou utilisons. Il se peut que nous n’ayons pas accès aux informations personnelles contrôlées par des tiers ou que nous ne les contrôlions pas. Veuillez contacter directement le tiers concerné pour exercer vos droits sur les informations contrôlées par le tiers en question. »

« En vertu de la loi « My Health My Data Act » de l’État de Washington, les résidents de l’État de Washington et les personnes physiques dont les données relatives à la santé des consommateurs sont collectées dans cet État peuvent bénéficier des droits suivants, sous réserve de vérifications, d’exceptions et de limitations :

Droit de confirmation/d’accès/de connaissance : jusqu’à deux fois par an, vous avez le droit de (a) confirmer si nous collectons, partageons ou vendons vos données relatives à la santé des consommateurs »

Droit de suppression : vous êtes en droit de demander la suppression des données de santé des consommateurs détenues par notre société et nos affiliés, sous-traitants, prestataires et autres tiers. »

« Nous conservons les informations personnelles aussi longtemps qu’il est raisonnable de le faire pour atteindre les objectifs décrits dans la présente politique, ou aussi longtemps que la loi l’exige. La durée nécessaire peut varier en fonction du contexte et de la finalité de l’utilisation. Nous tenons généralement compte des facteurs suivants lorsque nous déterminons la durée de conservation des données (sans limitation) :

les périodes de conservation prévues par la législation applicable ;
les règles de bonne pratique du secteur ;
la justification raisonnable de la poursuite de l’utilisation ;
les risques pour la vie privée en cas d’utilisation continue ;
les évaluations de l’impact de la protection des données applicables ;
les considérations/limites de la conception des systèmes informatiques ;
et les coûts associés à la poursuite de l’utilisation, de la conservation et de la suppression des données.

Nous réexaminerons régulièrement les durées de conservation et pourrons pseudonymiser ou anonymiser les données conservées pendant des périodes prolongées. »

« Autre utilisation des informations personnelles : si nous utilisons des informations personnelles dans le cadre de nos services d’une manière qui n’est pas décrite dans la présente politique, cette dernière s’appliquera toujours de manière générale (par exemple en ce qui concerne vos droits et vos choix), sauf indication contraire lorsque vous les communiquez. »

Quel est l’historique de l’entreprise en matière de protection des données des utilisateurs et utilisatrices ?

Moyen

Aucune fuite de données connue n’a été découverte au cours des trois dernières années.

Informations liées à la vie privée des enfants

« Bien que nous souhaitions faire découvrir au plus grand nombre l’expérience la plus aboutie en matière de relation romantiques avec une intelligence artificielle, vous devez être âgé d’au moins 18 ans pour utiliser crushon.ai.

Crushon ne recueille pas délibérément d’informations personnelles concernant les enfants, les mineurs ou toute personne âgée de moins de 18 ans, ni ne les commercialise. Si nous constatons qu’un enfant, un mineur ou une personne âgée de moins de 18 ans s’est inscrit sur notre site et/ou nous a fourni des informations personnelles, nous prendrons les mesures nécessaires pour mettre fin à l’inscription de cette personne et supprimer rapidement ces informations personnelles si la loi l’exige. »

Ce produit peut-il être utilisé hors connexion ?

Non

Informations relatives à la vie privée accessibles et compréhensibles ?

Non

Liens vers les informations concernant la vie privée

Ce produit respecte-t-il nos critères élémentaires de sécurité ?

Non

Chiffrement

Impossible à déterminer

Nous ne pouvons pas confirmer le chiffrement des données au repos et en transit pour cette application.

Mot de passe robuste

Ne s’applique pas

Mises à jour de sécurité

Oui

Gestion des vulnérabilités

Impossible à déterminer

Politique de confidentialité

Oui

Le produit utilise-t-il une IA ?

Oui

Nous ne sommes pas en mesure de confirmer si l’IA utilisée par ce produit est digne de confiance, car il n’existe que peu ou pas d’informations publiques sur le fonctionnement de celle-ci et sur les mécanismes de contrôle mis à la disposition des utilisateurs pour garantir la sécurité du produit. Nous avons également relevé des éléments troublants dans le contenu de l’application. En outre, nous nous inquiétons du risque de manipulation des utilisateurs par cette application, qui recueille des informations personnelles sensibles qu’elle peut utiliser pour entraîner des modèles d’IA, et les utilisateurs n’ont que peu voire pas de contrôle sur ces algorithmes d’IA.

Les utilisateurs peuvent créer leurs propres chatbots ou interagir avec ceux créés par d’autres utilisateurs/créateurs de l’application. La plate-forme comporte de une grande quantité de contenus nuisibles, qui sont facilement accessibles.

Cette IA est-elle non digne de confiance ?

Oui

Quel genre de décisions l’IA prend-elle à votre sujet ou pour vous ?

L’entreprise est-elle transparente sur le fonctionnement de l’IA ?

Non

Nous n’avons trouvé aucune documentation ou politique expliquant le fonctionnement de l’IA de ce produit.

Les fonctionnalités de l’IA peuvent-elles être contrôlées par l’utilisateur ou l’utilisatrice ?

Non

Au moment de la rédaction de cet article, CrushOn.AI utilisait la page web chai-ai.app pour inviter les visiteurs à rejoindre CrushOn. Dans la rubrique FAQ, on lit : « Est-ce que Chai AI est sans danger ? Chai AI s’efforce d’offrir aux utilisateurs une expérience sûre et agréable, mais comme pour toute plate-forme en ligne, les utilisateurs doivent rester vigilants et l’utiliser de manière responsable ». Cependant, le contenu de CrushOn comprend des thèmes concernant les mineurs, la violence sexuelle, émotionnelle et physique, ainsi que d’autres sujets potentiellement inquiétants.