7 min readSanitized Ai Team

Confidentialité des données d'audit : protéger les renseignements sensibles dans les flux de travail d'IA

Data PrivacyData SecurityAI GovernanceComplianceRisk

Les cabinets d'audit manipulent certains des renseignements les plus sensibles d'une entreprise. Les dossiers de travail peuvent contenir des données de paie, des renseignements sur les clients, des coordonnées bancaires, des contrats, des prévisions, de la documentation sur le contrôle interne et des éléments probants concernant des anomalies ou des fraudes potentielles. Lorsque l'intelligence artificielle s'ajoute au flux de travail, ces renseignements peuvent passer vers de nouveaux systèmes, de nouveaux comptes et de nouveaux environnements de fournisseurs.

La confidentialité des données d'audit ne se résume donc pas à savoir si un outil d'IA est sécurisé. Il s'agit de savoir quelles données l'outil reçoit, pourquoi il en a besoin, où vont les renseignements, qui peut y accéder et combien de temps ils y restent.

Cartographier les données avant d'approuver le flux de travail d'IA

Commencez par documenter les renseignements qui circuleront dans le processus appuyé par l'IA.

Pour un outil de résumé de documents, il peut s'agir de contrats, de factures ou de notes de réunion téléversés. Pour un assistant d'IA connecté à un dépôt de documents, l'ensemble de données potentiel peut être beaucoup plus vaste, puisque le système peut récupérer des fichiers automatiquement.

Le cadre de confidentialité du NIST (NIST Privacy Framework) recommande de dresser l'inventaire et la cartographie des activités de traitement des données, y compris les systèmes en cause, les éléments de données traités, la finalité du traitement, les tiers et l'environnement de traitement.

Pour les équipes d'audit, une simple cartographie des flux de données peut répondre à des questions pratiques : qu'est-ce qui quitte l'environnement du cabinet? Le fournisseur d'IA reçoit-il le document complet ou seulement un extrait? Un autre fournisseur de modèles intervient-il? Les invites ou les fichiers sont-ils stockés ailleurs?

Les mesures de protection des renseignements personnels sont plus faciles à concevoir une fois ces parcours rendus visibles.

Réduire les données des clients au minimum avant qu'elles n'atteignent le modèle

Un outil d'IA ne devrait recevoir que les renseignements nécessaires à la tâche.

Si l'équipe veut de l'aide pour catégoriser des descriptions d'opérations, l'outil n'a peut-être pas besoin des noms de clients ni des numéros de compte. Si un outil est mis à l'essai pour résumer des documents, un échantillon caviardé ou synthétique peut suffire. Si seule une section d'un contrat compte, téléverser l'entente complète peut créer une exposition inutile.

Cela suppose aussi de regarder au-delà des renseignements personnels évidents. Les données d'audit confidentielles peuvent inclure des résultats financiers non publiés, des plans d'acquisition, des déficiences du contrôle interne, des renseignements sur les prix, des détails de litiges et des discussions de la direction.

Traiter la confidentialité comme une obligation couvrant tout le cycle de vie

La protection des renseignements ne prend pas fin une fois qu'ils sont saisis dans un système approuvé.

L'International Ethics Standards Board for Accountants affirme que le principe fondamental de confidentialité s'applique quelle que soit la technologie utilisée. Ses lignes directrices sur la technologie étendent l'attention à tout le cycle de vie des données, y compris la collecte, l'utilisation, le transfert, le stockage, la diffusion et la destruction licite.

Demandez combien de temps les invites et les fichiers téléversés sont conservés, s'ils servent à l'entraînement ou à l'amélioration des modèles, quels employés ou quels sous-traitants peuvent y accéder, où ils sont stockés et ce qui arrive lorsqu'un compte est supprimé.

Si les données d'un client peuvent servir à une autre fin, par exemple l'entraînement d'un modèle d'IA, le cabinet ne devrait pas présumer que l'utilisation prévue au mandat d'origine autorise automatiquement cet usage secondaire. Les documents techniques de l'IESBA traitent expressément de l'utilisation des données de clients pour l'entraînement de l'IA et de la nécessité d'une autorisation appropriée.

Examiner les intégrations séparément du produit d'IA principal

Une application d'IA approuvée peut devenir beaucoup plus risquée lorsqu'elle est connectée à d'autres systèmes.

Un robot conversationnel autonome ne voit que ce qu'un auditeur saisit manuellement. Le même produit connecté au courriel, à l'espace de stockage infonuagique ou à un dépôt de dossiers de travail pourrait potentiellement atteindre des milliers de documents.

Examinez chaque intégration en fonction des renseignements auxquels elle peut accéder. Appliquez des autorisations de moindre privilège afin que l'IA ne reçoive que les dépôts ou les données nécessaires à sa finalité approuvée. L'approbation d'un fournisseur ne devrait pas entraîner automatiquement l'approbation de tous les connecteurs qu'il lancera par la suite.

Poser des questions précises aux fournisseurs sur la confidentialité

Des questions générales comme « Votre plateforme est-elle sécurisée? » produisent rarement des réponses utiles.

Demandez si les invites, les fichiers et les résultats sont conservés, où ils sont traités, si les renseignements des clients servent à l'entraînement des modèles, quels sous-traitants participent, si la conservation peut être configurée et quelles notifications d'incident sont prévues.

Le personnel du PCAOB a indiqué que les cabinets d'audit reconnaissent la nécessité d'une supervision rigoureuse de l'utilisation de l'IA générative pour répondre à des risques comme ceux touchant la confidentialité et la sécurité des données.

Les engagements contractuels devraient correspondre aux affirmations techniques et de confidentialité faites pendant l'approvisionnement.

Protéger les nouveaux documents que crée l'IA

Les systèmes d'IA peuvent créer des documents sensibles en plus des documents d'origine des clients.

Les invites peuvent révéler les questions sur lesquelles l'équipe de mission enquête. Les résultats peuvent contenir des résumés de déficiences du contrôle ou de renseignements financiers. Les journaux de surveillance peuvent consigner des données sensibles qu'un employé a tenté de soumettre.

Ces documents exigent des contrôles d'accès et des périodes de conservation appropriés. Un programme de protection des renseignements personnels peut se saborder lui-même si un système de surveillance copie des invites confidentielles dans un journal largement accessible et conservé indéfiniment.

Le cadre de confidentialité du NIST considère le risque pour la vie privée sur l'ensemble du cycle de traitement des données, de la collecte à l'élimination, plutôt que de se concentrer sur les seules données sources d'origine.

Prévoir les erreurs avant qu'elles ne surviennent

Même avec de bons contrôles, quelqu'un peut téléverser le mauvais fichier, utiliser un compte non approuvé ou découvrir qu'une intégration a exposé plus de renseignements que prévu.

Le cabinet devrait disposer d'un processus d'escalade clair. Les employés doivent savoir qui joindre, quels renseignements conserver et quelles équipes doivent évaluer l'événement. Selon les circonstances, cela peut faire intervenir la qualité de l'audit, la sécurité de l'information, la protection des renseignements personnels, les affaires juridiques, la gestion des risques ou la direction du client.

Le signalement rapide est plus facile lorsque les employés savent qu'une erreur doit être signalée plutôt que cachée.

Réévaluer à mesure que l'usage de l'IA s'étend

Un flux de travail d'IA qui commence avec des renseignements publics peut par la suite servir avec des données de mission réelles. Un fournisseur peut ajouter une mémoire, de nouvelles intégrations, des agents ou d'autres sous-traitants. Ces changements peuvent modifier l'évaluation initiale de la confidentialité.

Les travaux récents de l'IAASB sur la technologie et la gestion de la qualité mettent l'accent sur la gouvernance et la gestion des risques à mesure que les technologies émergentes s'intègrent aux missions d'audit et de certification. Ses tables rondes de 2025 ont réuni plus de 240 parties prenantes et ont porté expressément sur le maintien de la qualité à mesure que les outils appuyés par l'IA se répandent.

La confidentialité des données d'audit devrait donc être traitée comme un contrôle continu plutôt que comme un exercice d'approvisionnement ponctuel.

Un examen pratique de la confidentialité peut se résumer en cinq questions : quelles données entrent dans le système d'IA? Le système a-t-il besoin de toutes? Où vont les données? Qui peut y accéder? Quand sont-elles supprimées?

Si un cabinet d'audit peut répondre à ces questions pour chaque flux de travail d'IA important, il dispose d'une base beaucoup plus solide pour protéger les renseignements sensibles tout en profitant de la technologie.

Chacune des cinq questions ci-dessus suppose que les données peuvent encore être contrôlées, mais une fois qu'une invite est soumise, elle ne peut être rappelée. Un extrait de paie collé dans une demande de résumé, un dossier de travail complet téléversé alors qu'une seule section suffisait, ou une coordonnée bancaire glissée dans une invite de catégorisation a déjà échappé à l'équipe de mission. C'est le principe sur lequel Sanitized Ai est bâti : intercepter et caviarder les identifiants des clients et les autres renseignements sensibles de la mission avant que l'invite n'atteigne l'outil, afin que la décision de minimisation prise par votre équipe soit celle qui tient réellement.

Ce trimestre, choisissez le flux de travail d'IA que votre équipe d'audit utilise le plus et répondez par écrit aux cinq questions, en commençant par les données qui entrent dans le système. Repérez les identifiants et les chiffres qui peuvent être retirés sans changer le résultat, et faites de ce retrait l'étape par défaut avant la soumission. Si vous souhaitez voir comment le caviardage peut se faire avant la soumission d'une invite, demandez une démonstration et parcourez votre propre flux de travail avec nous.

See how Sanitized Ai stops sensitive data from leaving the prompt box. Writing your own rules instead? Start from our free AI acceptable use policy generator.