Confidentialité des données dans ChatGPT : réponses aux questions que les employés se posent vraiment

Les employés pensent rarement à la confidentialité de l'IA en termes de politique. Leurs questions sont généralement bien plus simples : Puis-je coller ceci dans ChatGPT? OpenAI utilise-t-elle ce que je saisis pour l'entraînement? Mon employeur peut-il voir mes conversations? Qu'advient-il d'un fichier après que je l'ai téléversé?

Ce sont les bonnes questions à se poser. ChatGPT peut être utile pour rédiger, résumer, réfléchir, coder et faire des recherches, mais les implications pour la confidentialité dépendent de la configuration du compte, du type d'espace de travail utilisé et des renseignements soumis.

Voici des réponses concrètes aux questions que les employés se posent le plus souvent.

ChatGPT s'entraine-t-il sur tout ce que je saisis?

Non. La réponse dépend du type de compte.

Pour les espaces de travail ChatGPT personnels sur les forfaits Free, Plus ou Pro, OpenAI indique que le partage des données pour l'amélioration du modèle est activé par défaut, mais que les utilisateurs peuvent le désactiver. Le paramètre se trouve sous Paramètres, Contrôles des données, puis « Improve the model for everyone ». Une fois désactivé, les nouvelles conversations ne servent pas à entraîner les modèles d'OpenAI.

L'usage professionnel est différent. OpenAI précise que les entrées et sorties de ChatGPT Business, Enterprise, Edu, Healthcare, Teachers et de sa plateforme API ne sont pas utilisées pour entraîner ses modèles par défaut.

Cette distinction est importante au travail. Un employé qui utilise un compte ChatGPT personnel peut fonctionner avec des paramètres de données différents de ceux d'un collègue qui utilise un espace de travail géré par l'organisation.

Si je supprime une conversation, disparait-elle immédiatement?

Pas nécessairement.

Les directives de conservation d'OpenAI indiquent que les conversations supprimées sont retirées du compte de l'utilisateur immédiatement et programmées pour une suppression définitive de ses systèmes dans un délai de 30 jours, sauf si le contenu a déjà été anonymisé et dissocié du compte ou s'il doit être conservé plus longtemps pour des raisons juridiques ou de sécurité.

Les conversations temporaires fonctionnent différemment. Elles n'apparaissent pas dans l'historique normal des conversations et ne servent pas à améliorer les modèles d'OpenAI. OpenAI indique qu'une copie peut tout de même être conservée jusqu'à 30 jours à des fins de sécurité.

Les employés ne devraient donc pas présumer que la suppression d'une conversation efface instantanément toutes les copies des renseignements qu'ils y ont saisis.

Les conversations temporaires sont-elles sécuritaires pour les renseignements confidentiels?

Les conversations temporaires offrent des contrôles de confidentialité utiles, mais elles ne devraient pas être considérées comme une permission de soumettre n'importe quel renseignement confidentiel.

Elles empêchent la conversation d'apparaitre dans l'historique, ne créent ni n'utilisent de souvenirs pour la personnalisation, et ne servent pas à l'entraînement des modèles.

Cependant, les règles de l'entreprise demeurent importantes. Une organisation peut interdire que certains renseignements soient saisis dans un service d'IA externe, que la conversation soit temporaire ou non. Les obligations juridiques, les engagements contractuels, les politiques internes et la sensibilité des données devraient déterminer si les renseignements peuvent être soumis.

Les conversations temporaires modifient la façon dont la conversation est traitée. Elles ne changent pas la classification des renseignements eux-mêmes.

Mon employeur peut-il voir mes conversations ChatGPT?

Si vous utilisez un compte professionnel géré, votre organisation peut avoir plus de contrôle sur les données associées à ce compte que vous n'en avez avec un espace de travail personnel.

OpenAI indique que les administrateurs des comptes ChatGPT gérés peuvent être en mesure de consulter, d'exporter, de vérifier, de conserver ou de supprimer les données liées au compte, selon la configuration de l'organisation et le droit applicable. Ces données peuvent inclure les invites, les fichiers téléversés et les sorties générées.

Dans ChatGPT Business, les membres ordinaires d'un espace de travail ne peuvent pas voir automatiquement l'historique privé des conversations des autres. OpenAI précise aussi que les analyses d'utilisation ne donnent pas automatiquement aux administrateurs un accès complet aux transcriptions des utilisateurs.

Les employés devraient traiter un compte ChatGPT géré par l'employeur comme les autres systèmes gérés par l'employeur, plutôt que de présumer que les conversations sont personnelles.

Qu'arrive-t-il lorsque je téléverse un fichier?

Un fichier peut contenir bien plus de renseignements sensibles que l'invite qui l'accompagne.

Les directives de conservation actuelles d'OpenAI indiquent que les fichiers téléversés durant les conversations peuvent être enregistrés dans la Bibliothèque lorsque cette fonction est disponible. Les conversations et les fichiers de la Bibliothèque sont gérés séparément, ce qui signifie que la suppression d'une conversation ne supprime pas nécessairement un fichier enregistré dans la Bibliothèque.

Cela s'oublie facilement. Un employé pourrait téléverser un tableur pour répondre à une seule question sans remarquer qu'il contient des noms, des renseignements financiers, des commentaires internes ou d'autres champs sans rapport avec la tâche.

Avant de téléverser un fichier, retirez tout ce dont l'outil d'IA n'a pas besoin. Lorsque c'est possible, utilisez un extrait réduit, une version caviardée ou des données d'exemple synthétiques plutôt que le document original.

Qu'en est-il de la mémoire de ChatGPT?

La mémoire est un autre paramètre que les employés devraient comprendre.

Lorsque la mémoire est activée, ChatGPT peut conserver un contexte utile pour personnaliser les conversations ultérieures. OpenAI indique que les souvenirs enregistrés sont stockés séparément de l'historique des conversations. La suppression de la conversation d'origine ne supprime pas automatiquement un souvenir enregistré qui en découle.

Les utilisateurs peuvent consulter, modifier, supprimer ou désactiver la mémoire dans les paramètres de ChatGPT. Les conversations temporaires peuvent aussi être utilisées lorsqu'un utilisateur ne veut pas qu'une conversation crée des souvenirs ou y fasse référence.

Pour l'usage professionnel, les employés devraient être particulièrement prudents avant de permettre que des renseignements sensibles sur l'entreprise ou les clients deviennent un contexte de personnalisation persistant.

Quelle est la règle la plus sûre à suivre au travail?

Avant de saisir des renseignements dans ChatGPT, posez-vous trois questions : Est-ce le compte approuvé par l'entreprise? L'invite ou le fichier contient-il des renseignements confidentiels, personnels, réglementés ou exclusifs? ChatGPT a-t-il réellement besoin de ces renseignements pour accomplir la tâche?

Si des détails sensibles ne sont pas nécessaires, retirez-les. Si les renseignements sont restreints par la politique de l'entreprise, ne les soumettez pas simplement parce qu'un paramètre de confidentialité particulier est activé.

L'habitude de confidentialité la plus utile n'est pas de mémoriser chaque paramètre de ChatGPT. C'est de comprendre que le type de compte, la configuration, la conservation, la mémoire et les données elles-mêmes ont tous leur importance.

La confidentialité de ChatGPT n'est pas une simple question à répondre par oui ou par non. Les employés peuvent prendre de bien meilleures décisions lorsqu'ils savent quel espace de travail ils utilisent, quels contrôles sont actifs et quels renseignements il convient de partager en premier lieu.

Chaque question de cet article ramène à la même limite : les paramètres de conservation, les commutateurs de mémoire et les types de comptes régissent tous ce qui se passe après la soumission d'une invite, mais aucun d'entre eux ne peut récupérer des renseignements une fois qu'ils sont partis. C'est pourquoi le contrôle le plus fiable agit avant la soumission, en repérant et en caviardant les détails confidentiels, personnels ou réglementés d'une invite ou d'un fichier tout en permettant l'exécution de la tâche. C'est le principe sur lequel repose Sanitized AI, de sorte qu'un employé qui téléverse un tableur pour répondre à une seule question n'a pas besoin de remarquer chaque champ égaré pour que les renseignements sensibles soient d'abord retirés.

Ce trimestre, choisissez le flux de travail où les employés collent ou téléversent le plus souvent du vrai travail dans ChatGPT, et cartographiez ce qui quitte réellement l'organisation avant d'atteindre l'outil, plutôt que ce que la politique dit qui devrait le faire. Ce seul audit vous dira si vos protections reposent sur la mémoire des gens quant aux paramètres ou sur quelque chose qui agit sur les données elles-mêmes. Si vous voulez voir à quoi ressemble en pratique une protection avant la soumission, demandez une démo.