Les outils d'IA peuvent s'intégrer au travail quotidien bien avant qu'un programme d'IA officiel soit en place. Les employés peuvent utiliser des robots conversationnels pour rédiger des courriels, des assistants de programmation pour dépanner des logiciels, des outils de réunion pour résumer des appels, ou des fonctions d'IA déjà intégrées aux applications de productivité. Les équipes de sécurité et de protection des renseignements personnels savent parfois que cette activité existe sans avoir une idée claire de son ampleur.
La surveillance de l'utilisation de l'IA vise à combler cet écart de visibilité. Elle aide une organisation à comprendre quels services d'IA les employés utilisent, quels types de renseignements peuvent y être envoyés et si l'activité respecte la politique de l'entreprise. Bien menée, la surveillance favorise une adoption plus sûre de l'IA. Mal menée, elle peut recueillir trop de renseignements sur les employés tout en ne repérant pas les risques qui comptent.
Commencer par les questions dont vous avez réellement besoin des réponses
Avant de recueillir des journaux ou de déployer des contrôles, déterminez ce que l'organisation a besoin de savoir.
Pour bien des équipes, les questions utiles comprennent : quels services d'IA sont consultés, si ces services sont approuvés, quels services les utilisent le plus souvent, si les employés téléversent des fichiers et si des données sensibles sont soumises. Ces questions diffèrent de la tentative d'enregistrer chaque invite que rédige un employé.
L'Office of the Privacy Commissioner of Canada conseille aux employeurs de garder la surveillance en milieu de travail précise, ciblée, proportionnée et la moins intrusive possible. Il recommande aussi de limiter la collecte à ce qui est nécessaire pour la fin déclarée et d'être transparent envers les employés quant à la nature et à l'étendue de la surveillance.
Ce principe offre un bon point de départ pour l'IA. Si le fait de savoir qu'une catégorie de données restreinte a été détectée suffit à appliquer une politique, il n'est peut-être pas nécessaire de conserver toute la conversation.
Surveiller les outils, les comptes et les flux de données
L'utilisation de l'IA ne se limite pas aux sites Web de robots conversationnels publics. Les employés peuvent accéder à l'IA par des extensions de navigateur, des environnements de développement, des assistants de réunion, des logiciels de bureautique, des outils de recherche, des systèmes de service à la clientèle et d'autres applications.
Les équipes de sécurité devraient donc chercher plusieurs types de signaux. L'activité Web et réseau peut aider à repérer des services d'IA inconnus. Les systèmes d'identité peuvent révéler de nouvelles applications reliées aux comptes de l'entreprise. Les registres d'approvisionnement peuvent révéler des outils d'IA payants achetés par des services individuels. Les outils de sécurité des terminaux ou de l'infonuagique peuvent offrir une visibilité supplémentaire sur les services et les transferts de fichiers.
Le National Cyber Security Centre du Royaume-Uni souligne que des technologies comme les Cloud Access Security Brokers (CASBs) et les plateformes Secure Access Service Edge (SASE) peuvent aider les organisations à repérer les services infonuagiques non approuvés et à mieux voir l'activité réseau.
Aucun signal ne donne à lui seul une vue complète. Combiner plusieurs sources est généralement plus utile que de se fier à une liste statique de sites d'IA.
Distinguer l'utilisation de l'utilisation à risque
Un grand nombre d'interactions avec l'IA ne signifie pas nécessairement qu'une organisation a un important problème de sécurité.
Un employé qui utilise un assistant d'IA pour reformuler un texte de marketing public crée un risque très différent de celui d'une personne qui téléverse un tableur contenant des dossiers de clients vers un service non approuvé. La surveillance devient plus utile lorsqu'elle capte assez de contexte pour distinguer ces situations.
Les équipes de sécurité et de protection des renseignements personnels peuvent tenir compte de facteurs comme la destination, le caractère approuvé ou non de l'outil, le type de données détecté, le téléversement éventuel d'un fichier et la mesure prise par le contrôle. L'objectif est de repérer les véritables violations de politique plutôt que de traiter chaque interaction avec l'IA comme suspecte.
Le Generative Artificial Intelligence Profile du NIST est conçu pour aider les organisations à gérer les risques associés à l'IA générative tout au long de son utilisation et de son évaluation. Son AI Risk Management Framework plus large encourage les organisations à cerner, à évaluer, à gérer et à surveiller les risques de l'IA comme un processus continu.
Porter attention aux tendances répétées
Une invite bloquée peut être une erreur d'un employé. Cinquante alertes semblables provenant du même service peuvent révéler un problème de flux de travail.
Supposons qu'une équipe des finances tente à répétition de téléverser des tableurs internes vers des outils d'IA pour les analyser. La réaction immédiate pourrait être de bloquer les téléversements sensibles. La réaction à plus long terme devrait chercher pourquoi l'équipe répète la même action. Peut-être a-t-elle besoin d'un environnement d'IA approuvé capable de soutenir la tâche en toute sécurité.
Les données de surveillance peuvent révéler où la politique et le travail réel ne concordent pas. L'usage répété d'un assistant de réunion non approuvé peut indiquer que les employés ont besoin d'un outil de transcription autorisé. La détection fréquente d'identifiants de connexion dans des invites de programmation peut suggérer que les développeurs ont besoin de directives plus claires ou de meilleures pratiques de gestion des secrets.
Les tendances peuvent transformer la surveillance, d'un exercice de conformité en source de renseignements opérationnels.
Être transparent envers les employés
Les employés devraient comprendre ce que l'organisation surveille et pourquoi.
Une politique peut expliquer que l'entreprise surveille l'accès aux services d'IA, certains transferts de fichiers ou des catégories de données sensibles afin de protéger les renseignements de l'entreprise et de ses clients. Elle devrait aussi préciser ce qui n'est pas recueilli lorsque cette distinction est pertinente.
Les lignes directrices canadiennes en matière de protection des renseignements personnels mettent l'accent sur la transparence, la nécessité, la proportionnalité et les mesures de protection entourant la surveillance des employés. L'accès aux données de surveillance devrait être limité aux personnes qui en ont réellement besoin, et la conservation devrait se limiter à la période nécessaire à la fin de sécurité ou de gouvernance déclarée.
Une communication claire aide aussi les employés à comprendre que la surveillance vise à soutenir une utilisation sûre de l'IA plutôt qu'à évaluer en secret chaque question posée.
Mesurer si la surveillance mène à de meilleures décisions
Un programme de surveillance utile devrait produire des actions, et pas seulement des tableaux de bord.
Les équipes peuvent suivre le nombre de nouveaux services d'IA découverts, les catégories de données sensibles les plus souvent détectées, la proportion d'activité qui se déroule dans des environnements approuvés, les problèmes de politique répétés et le temps nécessaire pour examiner de nouveaux outils. Ces mesures peuvent montrer si la gouvernance de l'IA s'améliore au fil du temps.
Le meilleur résultat n'est pas zéro activité d'IA. C'est une meilleure visibilité sur la façon dont l'IA est utilisée, moins d'expositions inutiles de données et des parcours approuvés plus clairs pour les employés qui souhaitent utiliser l'IA de façon productive.
La surveillance de l'utilisation de l'IA fonctionne lorsqu'elle aide les organisations à en voir assez pour gérer le risque sans recueillir des renseignements simplement parce qu'elles le peuvent. Concentrez-vous sur les outils, les données sensibles, les destinations et les tendances. Ces signaux en disent habituellement bien plus aux équipes de sécurité et de protection des renseignements personnels qu'une base de données contenant chaque invite des employés.
La surveillance comporte une limite inhérente : elle peut vous dire ce qui a été envoyé, mais une fois qu'une invite est soumise, elle ne peut être rappelée. Une alerte au sujet d'un tableur de clients ou d'un identifiant de connexion collé arrive après que les renseignements ont déjà atteint l'outil. C'est le principe sur lequel Sanitized Ai est bâti : intercepter et caviarder les données sensibles dans les invites et les téléversements avant que l'invite n'atteigne l'outil, afin que les signaux examinés par votre équipe décrivent des expositions évitées plutôt que des expositions à nettoyer.
Ce trimestre, notez les cinq questions auxquelles vos équipes de sécurité et de protection des renseignements personnels ont le plus besoin que la surveillance de l'utilisation de l'IA réponde, puis comparez-les avec ce que vous pouvez voir aujourd'hui. Conservez la collecte qui n'exige que des catégories, des destinations et des tendances, abandonnez celle qui n'existe que parce qu'elle était possible, puis communiquez le résultat aux employés en langage clair. Si vous souhaitez voir comment le caviardage peut se faire avant la soumission plutôt qu'après, demandez une démonstration et parcourez votre propre flux de travail avec nous.