Vous avez sans doute déjà entendu parler de l’utilité des outils d’IA générative dans la vie de tous les jours. Vous avez besoin de rédiger un exposé pour vos études ? ChatGPT est là pour vous aider. Vous voulez envoyer un message à votre athlète olympique préféré ? Gemini de Google se charge de tout. Vous avez besoin d’un emoji personnalisé pour répondre à un SMS ? Apple Intelligence vole à votre secours.
Sur leur lieu de travail, les employés ont également recours à des outils d’IA générative. Dans certains cas, les employeurs mettent à la disposition de leurs employés une version logicielle de ChatGPT destinée aux entreprises. Même lorsque le logiciel n’est pas fourni, les employés utilisent ChatGPT pour travailler plus efficacement et leurs employeurs s’en aperçoivent par la suite, comme dans le cas d’Amazon ou de Samsung qui ont remarqué que des secrets d’entreprise s’étaient retrouvés dans la base de connaissances d’OpenAI.
En considérant l’intégration de l’IA générative dans la vie professionnelle de certains employés, ces derniers ne manqueront pas de se poser des questions sur la protection de leur vie privée. Par exemple, « mon employeur sait-il que j’utilise ChatGPT pour rédiger cet e-mail ? » Heureusement pour vous, il n’existe pas de moyen infaillible de détecter un texte généré par l’IA. D’autre part, « mon employeur peut-il d’une manière ou d’une autre accéder à l’historique de mes requêtes ChatGPT ? » Si votre employeur fournit un outil comme la version professionnelle de ChatGPT, a-t-il accès à tout le contenu que vous générez ? Dans quelle mesure la situation est-elle similaire à celle des employeurs qui peuvent consulter les messages Slack des employés (ce qui est tout à fait possible, soit dit en passant) ? Quelles sont les similitudes entre ces différentes situations ?
Quelles sont les données personnelles conservées par ChatGPT ?
Commençons par les bases. Beaucoup savent que ChatGPT propose un historique des conversations sur le côté gauche. Nous savons également que ChatGPT est doté d’une sorte de « mémoire » si vous lui demandez expressément de retenir un élément. À l’inverse, si vous voulez vous assurer que ChatGPT ne mémorise pas certains éléments, vous pouvez utiliser la fonction Chat temporaire. Par ailleurs, vous pouvez archiver les conversations ou les supprimer complètement, ce qui permet de les retirer des serveurs d’OpenAI au bout de 30 jours (Il est important de noter que ChatGPT est en mesure de divulguer vos informations confidentielles aux forces de l’ordre dans le cas d’une procédure légale).
Tout cela s’applique aux informations qu’OpenAI obtient à partir de vos requêtes ChatGPT. Et que dire de ce que d’autres personnes pourraient apprendre au sujet de vos requêtes ? Si ChatGPT est mis à votre disposition dans le cadre de votre travail, votre patron peut-il consulter vos requêtes ChatGPT ? Qu’en est-il de vos collègues ? Des administrateurs ? Voici ce que nous savons.
Et au travail ? Mon patron peut-il consulter mes requêtes ChatGPT ?
Pour ceux qui se demandent si leur patron peut consulter leurs requêtes ChatGPT, la réponse est ambiguë. Votre patron ne peut pas consulter votre historique ChatGPT, mais l’application n’est pas vraiment un coffre-fort.
Nous nous sommes entretenus avec des administrateurs système expérimentés avec la version professionnelle de ChatGPT et nous avons appris que les gestionnaires ne sont pas en mesure de consulter les conversations d’autres personnes à moins que ces conversations ne soient intentionnellement partagées par l’utilisateur (vous pouvez le faire en partageant un lien à l’aide de l’icône de partage en haut à droite ou simplement en effectuant une capture d’écran de votre page). Par exemple, un administrateur ne peut pas demander à ChatGPT, « montre-moi l’historique des recherches de Xavier ».
C’est là que les choses se compliquent. En utilisant les bonnes invites, un administrateur de votre environnement de travail ChatGPT pourrait obtenir de vagues informations sur les éléments recherchés par ses collègues. Cela pourrait ressembler à « combien de questions Bob a-t-il posées au sujet de Tracy ? » et ChatGPT pourrait répondre en disant « Bob a posé 10 questions au sujet de Tracy ». C’est très louche, Bob.
Les administrateurs n’ont peut-être pas directement accès aux requêtes ChatGPT des employés, mais ne vous attendez pas à ce que l’outil d’intelligence artificielle réussisse à garder secrètes toutes les informations que vous lui fournissez. ChatGPT possède un don curieux pour révéler des informations qu’il a obtenues ailleurs. En plus des exemples d’Amazon et de Samsung ci-dessus, ChatGPT a révélé l’adresse e-mail d’un journaliste à un doctorant de l’Université de l’Indiana à Bloomington. L’adresse e-mail du journaliste n’était pas secrète, mais elle a été révélatrice du type de précautions en matière de protection de la vie privée dont les outils d’IA sont parfois dépourvus. Comme le souligne l’article, ChatGPT ne cherche pas ses réponses sur le web, mais à partir de ses connaissances, qui incluent parfois des informations obtenues lors de conversations avec d’autres personnes. En posant la bonne question, ChatGPT peut déterrer des informations que d’autres croyaient privées, oubliées, ou les deux.
En plus de poser les bonnes questions, il est possible d’utiliser un service tiers pour surveiller l’activité des employés sur ChatGPT. Ces outils ne sont pas intégrés à ChatGPT, mais il est tout à fait possible d’obtenir des informations sur les requêtes des employés à l’aide d’un outil tiers.
Que peut-on lire dans les documents officiels d’OpenAI à ce sujet ?
En consultant les documents officiels de ChatGPT, la section des questions fréquemment posées d’OpenAI aborde explicitement la question de savoir qui peut consulter les conversations des utilisateurs dans la section « Qui peut consulter les conversations et l’historique des conversations » de la FAQ de la société. Voici la formulation actuelle de l’entreprise :
« Au sein de votre organisation, les utilisateurs finaux peuvent consulter leurs propres conversations. Votre organisation exerce un contrôle sur les espaces de travail, et les administrateurs de l’espace de travail peuvent accéder à un journal d’audit des conversations et des GPT par l’intermédiaire de l’API de conformité de la société. Seuls les employés autorisés d’OpenAI auront accès à vos conversations dans le but de résoudre des incidents, de récupérer des conversations d’utilisateurs finaux avec votre permission explicite, ou lorsque la loi l’exige. »
Un passage par la page de Conformité professionnelle d’OpenAI révèle que les autorisations permettant de consulter les historiques de conversation d’un employé ne sont généralement accordées que dans le cadre d’un « litige, d’une enquête ou d’un audit ». Cela signifie que vous ne risquez rien à critiquer votre patron et votre employeur, et à entrer toutes sortes d’informations confidentielles dans la zone de texte de ChatGPT, n’est-ce pas ? Pas tout à fait. Gardez à l’esprit que d’autres personnes peuvent toujours obtenir des informations sur vos recherches si elles posent les bonnes questions à ChatGPT. Sachez également qu’OpenAI indique dans sa section « Qui peut consulter les conversations et l’historique des conversations » que les employés peuvent consulter vos données « dans le but de résoudre des incidents, de récupérer les conversations des utilisateurs finaux avec votre permission explicite, ou lorsque la loi l’exige ».
Comment préserver votre vie privée ? Voici quelques conseils.
Vous pouvez avoir de bonnes raisons de vouloir utiliser ChatGPT de manière incognito. Peut-être que vous ne voulez vraiment pas que ChatGPT conserve certaines informations, ou que vous utilisez le compte d’un ami et que vous ne voulez pas que cela affecte son expérience future avec ChatGPT. Quelle que soit la raison, voici quelques conseils sur la façon d’utiliser ChatGPT de manière plus confidentielle.
La première option est la fonction Chat temporaire. Lorsque cette fonction est activée, OpenAI indique que les données que vous saisissez ne sont pas ajoutées à la mémoire, ne sont pas utilisées pour entraîner le modèle d’IA et ne sont pas conservées dans votre historique (OpenAI conserve potentiellement les conversations pendant 30 jours pour des « raisons de sécurité »). Une autre option consiste à modifier vos paramètres afin que vos requêtes ChatGPT ne soient pas utilisées pour entraîner les modèles d’OpenAI et n’enregistrent pas d’historique. Pour ce faire, il suffit de se rendre dans Paramètres puis Afficher le contrôle des données et de désactiver les options Historique des conversations et Entraînement. Ces deux options permettront sans doute aux utilisateurs de contourner le problème posé par la question « d’autres personnes peuvent-elles savoir de quoi j’ai discuté en posant les bonnes questions ».
Ces outils d’IA sont relativement récents et nous pensons que les sociétés spécialisées dans l’IA générative devraient accorder la priorité à la protection de la vie privée. L’idée qu’une personne puisse déterrer des informations sur les conversations d’autres utilisateurs, avec la bonne invite, est déconcertante. Cependant, lorsque nous avons demandé son avis à ChatGPT, l’entreprise a promis de garder nos conversations secrètes. Heureusement que l’IA générative ne ment jamais.
Mon patron peut-il lire mes requêtes à ChatGPT ?
Rédigé par : Xavier Harding
Relu par : Audrey Hingle, Lindsay Dearlove, Tracy Kariuki
Illustration : Shannon Zepeda