La situation
Les contrôles dans le navigateur fonctionnent chez un client depuis un mois. Le chef de l'exploitation du client pose une question légitime : « Qu'est-ce que ça nous a rapporté, concrètement ? » Une semaine plus tard, le formulaire de renouvellement de l'assurance cyber du client demande si l'organisation contrôle ce que le personnel saisit dans les outils d'IA, et le courtier veut une réponse écrite. Les deux questions exigent la même chose : un rapport court et régulier qu'un dirigeant non technique peut lire en cinq minutes, et qui tient la route lorsqu'une personne de l'extérieur demande des preuves.
La plupart des MSSP produisent déjà des rapports de sécurité mensuels. Un rapport de risque lié à l'IA est une nouvelle section ou un document complémentaire, avec une contrainte que les autres rapports n'ont pas : il doit décrire les comportements à risque sans reproduire les données sensibles en cause. Ce guide présente son contenu, section par section. Si le client se demande encore s'il doit agir, commencez par ce qu'il faut répondre aux clients qui demandent quoi faire avec l'IA.
Ce que disent réellement les règles
Aucun règlement ne prescrit la forme d'un rapport de risque lié à l'IA pour un client. Plusieurs sources influencent toutefois ce qu'il devrait contenir et ce qu'il devrait laisser de côté.
- NIST AI RMF. L'AI RMF 1.0 prévoit des approches et de la documentation pour cerner et suivre régulièrement les risques liés à l'IA (MEASURE 3.1), une surveillance continue et un examen périodique à une fréquence définie (GOVERN 1.5), ainsi que le suivi, le traitement et la documentation des incidents (MANAGE 4.3). Un rapport mensuel constitue la trace concrète de ces trois éléments. Le cadre est volontaire.
- LPRPDE. L'annexe 1 limite la collecte à ce qui est nécessaire aux fins déterminées (article 4.4) et prévoit des lignes directrices de conservation comportant des durées minimales et maximales (article 4.5.2). Un rapport fondé sur les métadonnées des événements plutôt que sur le contenu des requêtes s'inscrit dans cette logique : il consigne qu'un risque s'est produit sans conserver de copie des renseignements personnels en cause.
- Loi de 2000 sur les normes d'emploi (Ontario). Les employeurs ontariens qui comptent 25 employés ou plus au 1er janvier doivent avoir une politique écrite sur la surveillance électronique qui indique s'ils surveillent leurs employés, de quelle façon et à quelles fins. L'exigence vise la transparence et ne crée pas de nouveaux droits en matière de vie privée. Les clients ontariens devraient demander à leurs conseillers juridiques si leurs contrôles d'IA doivent figurer dans cette politique. Les clients du Québec et des autres provinces ont leurs propres règles à confirmer.
Pourquoi les politiques et les interdictions ne suffisent pas
Une politique sans rapport n'a pas de boucle de rétroaction. Personne ne peut dire si elle est respectée, quelles équipes ont du mal à l'appliquer, ni si la formation du trimestre dernier a changé quelque chose.
Une interdiction produit un rapport, mais un rapport mince. « Visites de sites d'IA bloquées ce mois-ci » n'apprend rien à la direction sur les données qui étaient à risque, et ce chiffre monte ou baisse selon le nombre de tentatives avant que les gens abandonnent et passent à leur téléphone. L'approche inverse, qui consiste à capter les requêtes complètes, crée un autre problème : une nouvelle copie des données sensibles du client, détenue par le MSSP, que le personnel sait être lue. Cela pousse l'usage de l'IA vers les appareils personnels, où rien n'est visible. Il existe une voie médiane, décrite dans obtenir une visibilité sur le Shadow AI sans bannir tous les outils, et le rapport devrait la refléter.
Le rapport doit aussi tenir compte de l'irréversibilité. Une fois un contenu soumis à un outil d'IA public, il ne peut plus être rappelé et devient assujetti aux conditions du fournisseur. La distinction la plus importante du rapport est donc celle entre les événements arrêtés ou caviardés avant la soumission et ceux qui sont passés.
À quoi ressemble un contrôle pratique
Un rapport mensuel de risque lié à l'IA pour un client peut suivre ce plan. Les sections décrivent un contenu, pas une mise en page imposée.
- Sommaire. Un paragraphe pour la direction : la couverture du mois, le principal changement depuis le mois précédent et la mesure recommandée la plus importante.
- Outils d'IA utilisés. Les outils d'IA observés dans les navigateurs gérés, les équipes qui les utilisent et les outils apparus pour la première fois ce mois-ci.
- Outils autorisés et non autorisés. Les outils observés, comparés à la liste d'outils approuvés du client. Les outils non autorisés qui figurent aussi dans des événements de données sensibles sont prioritaires.
- Événements signalés par type de données et par politique. Des nombres regroupés selon le type de données en cause (noms et identifiants de clients, renseignements personnels, renseignements de santé, données financières, code source, conditions de transactions) et selon la politique appliquée, avec le résultat : caviardé, bloqué ou permis après un avertissement.
- Tendances. La variation d'un mois à l'autre, lue en parallèle avec la couverture, pour ne pas confondre la progression du déploiement avec une hausse du risque.
- Résultats de l'accompagnement. Si les équipes qui ont vu les explications au moment de la requête génèrent moins de récidives, et quelles équipes profiteraient d'une formation ciblée.
- Incidents et exceptions. Les incidents signalés par le personnel, la façon dont ils ont été évalués, et les exceptions à la politique demandées ou accordées.
- Mesures recommandées. Trois à cinq décisions pour le client, chacune avec un responsable et une échéance, comme ajouter un outil à la liste approuvée ou ajuster une politique pour un service.
Précisez ce que le rapport ne contient pas : aucun texte de requête, aucun contenu de fichier et aucune réponse d'IA. Convenez avec le client s'il s'arrête au niveau des équipes ou s'il nomme des personnes, et à quelles fins.
Sanitized Ai fournit les données des sections deux à six. C'est une extension de navigateur pour Chrome, Edge et Firefox qui détecte les données sensibles dans les requêtes et les téléversements de fichiers vers les outils d'IA et qui les caviarde ou les bloque avant la soumission, avec une explication en langage clair pour la personne, de sorte que chaque événement sert aussi d'accompagnement. Son tableau de bord d'administration montre les métadonnées des événements signalés (quel outil, quel type de données, quelle politique, à quel moment) et jamais le contenu des requêtes, et il exporte des rapports prêts pour l'audit qu'un MSSP peut transformer en rapport mensuel sans lire les requêtes de qui que ce soit. Les événements interceptés avant la soumission peuvent servir de preuve de mesures de protection raisonnables, même si aucun rapport ne garantit un résultat réglementaire ou d'assurance.
Pour voir un exemple complet mis en forme pour un client, demandez l'exemple de rapport de risque lié à l'IA au moyen du formulaire d'accueil.