7 min readSanitized Ai Team

DLP pour ChatGPT : empêcher les données sensibles de quitter l'entreprise

Data SecurityDLPLLM SecurityShadow AIPII

Les employés utilisent souvent ChatGPT pour des tâches parfaitement raisonnables : peaufiner un courriel, résumer une réunion, réviser du code, rédiger une proposition ou expliquer un concept technique. Le problème de confidentialité commence lorsque l'invite contient aussi des renseignements que l'employé n'était pas censé envoyer à l'extérieur d'un environnement d'affaires approuvé.

La prévention de la perte de données, ou DLP (Data Loss Prevention), vise à réduire ce risque. Dans le contexte de ChatGPT, la DLP consiste à repérer les renseignements sensibles avant ou pendant leur soumission, puis à appliquer la bonne réponse. Selon la situation, cette réponse peut être un avertissement, un caviardage, le blocage de la soumission ou son autorisation en vertu d'une politique approuvée.

Un bon programme de DLP ne devrait pas traiter chaque invite ChatGPT comme suspecte. Il devrait aider les employés à utiliser l'IA de façon productive tout en empêchant l'information de franchir une limite que l'organisation n'avait pas prévue.

Commencez par définir ce qui ne doit pas être partagé

Avant qu'une entreprise puisse empêcher les données sensibles d'atteindre ChatGPT, elle doit décider ce qui est considéré comme sensible.

Cela comprend généralement des renseignements comme les dossiers clients, les renseignements personnels identifiables, les données financières, les données sur les employés, les identifiants d'accès, le code source, les documents juridiques, la propriété intellectuelle et les plans d'affaires confidentiels. L'OWASP cite expressément des catégories comme les renseignements personnels, les détails financiers, les dossiers de santé, les identifiants d'accès, les documents juridiques et les données d'affaires confidentielles comme des renseignements sensibles pouvant créer un risque dans les applications de grands modèles de langage (LLM).

L'essentiel est de traduire de grandes catégories en règles que les employés peuvent réellement comprendre. Dire au personnel de ne pas saisir de « renseignements confidentiels » laisse place à l'interprétation. Une politique plus claire pourrait préciser que les numéros de compte de clients, les résultats financiers non publiés, les mots de passe, les clés d'API, les dossiers d'employés et les contrats confidentiels ne doivent pas être saisis dans des outils d'IA non approuvés.

Plus les exemples sont précis, plus il est facile pour les employés comme pour les contrôles de DLP de prendre des décisions cohérentes.

Sachez quelle version de ChatGPT vos employés utilisent

Tous les comptes ChatGPT ne sont pas gouvernés de la même façon.

OpenAI indique que les entrées et les sorties de ChatGPT Business et de ChatGPT Enterprise ne sont pas utilisées par défaut pour entraîner ses modèles. Les comptes de travail gérés peuvent aussi être soumis à des contrôles organisationnels touchant l'accès aux données, la conservation, l'audit et d'autres politiques. Les espaces de travail personnels suivent d'autres conditions et paramètres.

Cette distinction est importante, car un employé qui utilise un compte personnel pour du travail d'entreprise peut se trouver en dehors des contrôles que l'organisation voulait appliquer.

Une première étape pratique consiste à définir quels environnements ChatGPT sont approuvés pour le travail. Les équipes de sécurité devraient aussi savoir si les employés peuvent passer d'un compte personnel à un compte géré, si les téléversements de fichiers sont permis et quels contrôles d'administration sont offerts dans l'espace de travail approuvé.

La DLP devient beaucoup plus difficile lorsque l'organisation ignore où ses employés envoient l'information.

Regardez au-delà du texte copié

Les renseignements sensibles n'entrent pas dans ChatGPT uniquement par une invite saisie.

Les employés peuvent téléverser des documents, des chiffriers, des images, des fichiers de code et d'autres contenus. Un document téléversé pour être résumé peut contenir bien plus d'information que l'employé ne souhaitait en partager. Un chiffrier utilisé pour répondre à une seule question peut aussi contenir, dans d'autres colonnes, des noms, des numéros de compte, des salaires ou des prévisions internes.

C'est pourquoi les contrôles de DLP devraient tenir compte à la fois du texte des invites et des téléversements de fichiers, dans la mesure du possible.

Le même principe s'applique au code copié. Un développeur peut vouloir de l'aide pour déboguer une seule fonction, mais inclure par inadvertance une clé d'API, un nom d'hôte interne, un identifiant client ou une logique exclusive dans le code environnant.

Avant que l'information atteigne un service d'IA, l'organisation devrait se demander si l'ensemble de la soumission est nécessaire pour accomplir la tâche.

Choisissez la bonne réponse selon le niveau de risque

Bloquer chaque invite qui contient un terme potentiellement sensible est rarement réaliste. Cela crée des faux positifs et peut frustrer des employés qui tentent d'accomplir un travail légitime.

Une meilleure approche consiste à utiliser différentes réponses selon le type de données et le contexte.

Une situation à faible risque pourrait déclencher un avertissement éducatif. Par exemple, si un employé inclut l'adresse courriel d'un client en demandant à ChatGPT d'améliorer une réponse du soutien, le système pourrait lui rappeler de retirer les identifiants inutiles.

Une situation à risque plus élevé pourrait justifier un caviardage automatique. Les noms, numéros de compte, adresses courriel et autres identifiants pourraient être retirés lorsque la tâche n'en dépend pas.

Certains renseignements devraient simplement être bloqués vers les destinations non approuvées. Les mots de passe, les clés privées, les dossiers très restreints ou l'information stratégique sensible sont des exemples où un avertissement peut ne pas offrir une protection suffisante.

L'objectif est de créer de la friction là où elle est utile, plutôt que de compliquer chaque interaction avec l'IA.

Offrez aux employés une solution de rechange plus sûre

La DLP fonctionne mieux lorsque les employés comprennent quoi faire après un blocage.

Si un contrôle de sécurité arrête une invite sans explication, l'employé peut essayer un autre site d'IA, utiliser un appareil personnel ou trouver un autre contournement. Le message devrait plutôt expliquer le type d'information détectée et proposer une prochaine étape sécuritaire.

Cela peut vouloir dire retirer les détails d'identification, utiliser un compte ChatGPT géré approuvé, remplacer les données réelles des clients par des données d'exemple ou demander à l'équipe de sécurité si un cas d'usage particulier peut être approuvé.

La DLP passe ainsi d'un obstacle à une forme de formation en temps réel.

Examinez ce que vos alertes de DLP vous révèlent

Des alertes répétées peuvent en dire plus que des violations de politique isolées.

Si un service tente fréquemment de téléverser des dossiers clients pour les faire résumer, cela peut indiquer un flux de travail légitime qui a besoin d'une solution approuvée plus sûre. Si des développeurs déclenchent à répétition des détections d'identifiants d'accès, l'organisation a peut-être besoin de meilleures pratiques de gestion des secrets ou de directives plus claires pour le codage assisté par l'IA.

Le but de la DLP n'est pas simplement de recueillir des violations. Les données devraient aider les équipes de sécurité et de protection des renseignements personnels à comprendre comment les employés utilisent réellement l'IA et où les politiques existantes ne correspondent pas au travail réel.

La DLP pour ChatGPT est plus efficace lorsqu'elle combine des règles de données claires, des environnements d'IA approuvés, des contrôles techniques appropriés et des directives pratiques pour les employés. L'objectif n'est pas de tenir les renseignements sensibles loin de l'IA en interdisant des outils utiles. C'est de s'assurer que les employés peuvent profiter de ChatGPT sans envoyer accidentellement des données là où l'entreprise n'avait jamais voulu qu'elles aillent.

Le problème de moment au cœur de la DLP est qu'une invite soumise ne peut pas être rappelée. Un dossier client collé dans une demande pour peaufiner une réponse, un chiffrier téléversé pour répondre à une seule question, une clé d'API oubliée dans un extrait de code : dès que l'employé appuie sur Entrée, l'information a déjà atteint ChatGPT. C'est le principe sur lequel Sanitized Ai est bâti : repérer et caviarder les données sensibles, comme les identifiants de clients, les identifiants d'accès et les détails d'affaires confidentiels, avant que l'invite n'atteigne l'outil, afin que les employés conservent les avantages de l'assistant sans l'exposition.

Ce trimestre, choisissez le cas d'usage de ChatGPT sur lequel vos équipes comptent le plus et examinez comment la tâche est réellement réalisée au regard de vos règles de données. Dressez la liste des identifiants, des identifiants d'accès et des types de fichiers qui pourraient être retirés sans changer la réponse, et faites de ce retrait la valeur par défaut pour cette tâche plutôt qu'une exception. Si vous souhaitez voir comment les données sensibles peuvent être repérées avant la soumission plutôt qu'après, demandez une démonstration et passons en revue votre propre flux de travail ensemble.

See how Sanitized Ai stops sensitive data from leaving the prompt box. Writing your own rules instead? Start from our free AI acceptable use policy generator.