Confidentialité des données et IA : ce que les entreprises doivent savoir avant que leurs employés utilisent des outils d'IA

Les outils d'IA font déjà partie du quotidien professionnel. Les employés s'en servent pour résumer des notes, réécrire des courriels, réviser des documents, générer du code et organiser leurs recherches. La question de la confidentialité n'est pas de savoir si les employés trouveront ces outils utiles. Elle consiste plutôt à savoir si l'organisation comprend quels renseignements sont saisis, où ces renseignements aboutissent et quels contrôles s'appliquent avant que des données sensibles ne se retrouvent dans une requête.

Cela fait de la confidentialité des données liée à l'IA moins un problème technologique isolé qu'un problème de processus de travail. Une entreprise peut avoir des politiques de confidentialité solides et tout de même créer un risque si les employés ignorent ce qu'il est prudent de coller dans un outil d'IA.

Commencez par comprendre ce que les employés partagent réellement

Une requête d'IA peut contenir bien plus de renseignements sensibles que l'employé ne le réalise. Un agent de soutien pourrait coller la plainte d'un client dans un assistant d'IA afin de rédiger une réponse concise. La plainte pourrait comprendre un nom, une adresse courriel, un numéro de compte, un historique d'achats ou des détails sur une situation personnelle.

L'employé ne pense peut-être qu'à la tâche qu'il souhaite accomplir. Du point de vue de la confidentialité, cependant, l'organisation doit aussi tenir compte des renseignements contenus dans la requête.

Avant d'approuver des outils d'IA, cernez les types de données que les employés manipulent régulièrement. Cela peut inclure des dossiers clients, des renseignements sur les employés, des données financières, des contrats, des documents de stratégie interne, du code source, des identifiants ou des renseignements visés par des obligations de confidentialité.

Une règle utile est simple : si l'organisation hésiterait à saisir ces renseignements dans un système tiers inconnu, les employés ne devraient pas non plus les saisir automatiquement dans un outil d'IA.

Ne présumez pas que chaque compte d'IA traite les données de la même façon

Le nom du fournisseur d'IA ne représente qu'une partie de la question de la confidentialité. Le type de compte, le produit, les paramètres et le contrat peuvent modifier la manière dont les données sont traitées.

Par exemple, OpenAI indique que les données provenant de ChatGPT Business, Enterprise, Edu, Healthcare, Teachers et de sa plateforme API ne servent pas à entraîner ses modèles par défaut. Les espaces de travail ChatGPT personnels disposent de contrôles de données différents, dont un paramètre qui permet aux utilisateurs de refuser que leurs nouvelles conversations servent à améliorer les modèles.

C'est pourquoi une politique qui se contente d'affirmer que « les employés peuvent utiliser ChatGPT » est incomplète. L'organisation devrait préciser quel compte ou quel espace de travail les employés sont censés utiliser et quels services ont réellement été évalués.

Les équipes de sécurité et de confidentialité devraient poser les questions suivantes :

• S'agit-il d'un compte professionnel approuvé ou d'un compte personnel?
• Le contenu soumis sert-il à l'entraînement des modèles?
• Combien de temps les requêtes et les fichiers sont-ils conservés?
• Les administrateurs peuvent-ils configurer la durée de conservation?
• Des applications ou intégrations tierces sont-elles activées?
• Où les données organisationnelles sont-elles stockées ou traitées?
• Quels contrôles d'accès, d'audit et d'administration sont offerts?

Les réponses devraient être documentées plutôt que laissées à chaque employé le soin de les rechercher.

Réduisez la quantité de renseignements personnels dans les requêtes

L'une des façons les plus simples de réduire le risque lié à la confidentialité avec l'IA consiste à éviter de partager des renseignements que la tâche ne nécessite pas.

Supposons qu'un employé souhaite qu'un assistant d'IA améliore la formulation d'un courriel destiné à un client. Le modèle peut avoir besoin du sens et du ton du message, mais il n'a probablement pas besoin du nom complet du client, de son numéro de téléphone, de son adresse, de son numéro de compte ou d'autres renseignements identifiants.

Supprimer ou remplacer ces détails avant la soumission limite l'exposition inutile. Cette idée rejoint les orientations en matière de confidentialité des autorités canadiennes de protection de la vie privée, qui insistent sur la limitation des renseignements personnels à ce qui est nécessaire à une fin appropriée et sur l'adoption d'approches protégeant la vie privée lorsqu'on utilise l'IA générative.

Les entreprises peuvent faciliter la tâche en fournissant aux employés des exemples de ce qu'il faut retirer plutôt que de s'appuyer sur des consignes vagues comme « ne partagez pas de renseignements sensibles ».

Fournissez aux employés un processus décisionnel clair

Une bonne politique d'IA devrait aider une personne à prendre une décision sur le moment.

Avant de saisir des renseignements professionnels dans un outil d'IA, un employé devrait pouvoir se poser les questions suivantes :

1. Cet outil est-il approuvé par l'organisation?
2. La requête contient-elle des renseignements personnels, confidentiels, réglementés ou exclusifs?
3. Puis-je accomplir la tâche après avoir retiré les détails identifiants ou sensibles?
4. Suis-je en train de téléverser un document qui contient plus de renseignements que le modèle n'en a réellement besoin?
5. Serais-je à l'aise d'expliquer cette utilisation des données au client, à l'employé ou au partenaire d'affaires concerné?

Si la réponse n'est pas claire, l'employé devrait savoir où obtenir des conseils.

Ce type de processus est plus utile qu'une longue politique que les employés lisent rarement.

Traitez la confidentialité liée à l'IA comme un enjeu de gouvernance continu

Les outils d'IA, leurs fonctionnalités, leurs intégrations et les politiques des fournisseurs évoluent. Une approbation effectuée une seule fois ne devrait pas être considérée comme permanente.

Le cadre AI Risk Management Framework du National Institute of Standards and Technology et son Generative AI Profile encouragent les organisations à gérer le risque lié à l'IA comme un processus continu plutôt que comme une évaluation ponctuelle.

En pratique, cela signifie que les organisations devraient revoir périodiquement les outils approuvés, l'utilisation par les employés, les paramètres de conservation, les intégrations, les nouveaux cas d'usage et les incidents liés à un partage inapproprié de données.

L'objectif n'est pas de bloquer une adoption utile de l'IA. Il s'agit de créer suffisamment de visibilité et d'orientations pour que les employés puissent utiliser l'IA sans avoir à deviner où se situent les limites en matière de confidentialité.

Pour la plupart des organisations, le meilleur point de départ est simple : savoir quels outils d'IA les employés utilisent, définir les renseignements qui ne devraient pas être soumis, approuver les bons environnements professionnels, apprendre aux employés à retirer les données sensibles inutiles et réexaminer ces décisions au fur et à mesure que la technologie évolue.

Chaque contrôle décrit ici partage une même contrainte : une fois qu'une requête est soumise, elle ne peut plus être retirée. Un paramètre de conservation ou une révision de politique aide à réfléchir à ce qui se passe ensuite, mais ni l'un ni l'autre ne défont l'instant où le numéro de compte d'un client ou une clause contractuelle confidentielle échappe aux mains de l'employé. C'est pourquoi l'endroit le plus fiable pour appliquer une limite de confidentialité se situe avant que la requête n'atteigne l'outil, et non après. C'est le principe sur lequel repose Sanitized AI : détecter et caviarder les détails sensibles d'une requête avant qu'elle ne soit soumise, de sorte que la version sûre de la demande soit la seule à jamais parvenir à l'outil d'IA.

Ce trimestre, choisissez un flux de travail où les employés collent régulièrement de vraies données professionnelles dans un assistant d'IA, comme les réponses au soutien à la clientèle ou les résumés de documents, et déterminez précisément quels renseignements identifiants ou réglementés ont tendance à accompagner ces requêtes. Ce simple inventaire vous indiquera où les seules orientations ne suffisent pas et où un contrôle agissant avant la soumission comblerait l'écart. Si vous souhaitez voir comment cette limite peut être appliquée automatiquement, demandez une démonstration.