Protéger les données des clients tout en tirant profit de l'IA

Les cabinets comptables n'ont pas à choisir entre l'utilisation de l'intelligence artificielle et la protection des renseignements de leurs clients. La meilleure approche consiste à concevoir les flux de travail d'IA de manière que l'outil ne reçoive que les renseignements dont il a réellement besoin, dans un environnement que le cabinet a examiné et approuvé.

C'est important, car le travail comptable réunit souvent des renseignements personnels, des dossiers financiers, des données fiscales, des renseignements sur la paie, des prévisions et des détails commerciaux sensibles. Un flux de travail d'IA utile devrait réduire l'exposition inutile avant l'envoi de l'invite.

Partir de la tâche, et non des données

Avant de confier un document ou un tableur à un système d'IA, définissez ce que vous voulez accomplir.

Si l'objectif est d'améliorer la formulation d'une explication d'écart, l'IA peut avoir besoin de l'explication et de quelques chiffres généralisés. Elle n'a probablement pas besoin de la dénomination sociale du client, du solde de son compte bancaire, des renseignements sur ses employés ni de ses états financiers complets.

Les organismes canadiens de protection de la vie privée recommandent de déterminer si l'utilisation de l'IA générative et des renseignements personnels qu'elle traite est nécessaire et proportionnée. Ils recommandent aussi d'utiliser des renseignements anonymisés, synthétiques ou dépersonnalisés lorsque de véritables renseignements personnels ne sont pas requis.

Cela établit un premier contrôle simple : réduire l'information avant qu'elle n'atteigne l'IA.

Utiliser des copies expurgées, synthétiques ou limitées

Ne présumez pas que le dossier client original est la meilleure donnée d'entrée.

Créez une copie de travail qui ne contient que les lignes, les pages, les colonnes ou les extraits nécessaires à la tâche. Supprimez, dans la mesure du possible, les noms, les identifiants fiscaux, les coordonnées bancaires, les renseignements sur les employés et tout contenu confidentiel sans rapport.

Pour les essais ou la mise au point des invites, les données synthétiques peuvent être plus sûres. Un fichier de paie fictif ou un échantillon de transactions fictives peut aider une équipe à mettre à l'essai le flux de travail avant d'y introduire de véritables renseignements sur les clients.

L'expurgation n'est pas la même chose que l'anonymisation. Des combinaisons de dates, de montants de transactions, de lieux, de titres de poste ou d'autres détails peuvent quand même permettre d'identifier des personnes ou des clients.

Approuver l'environnement d'IA en fonction des données concernées

Un outil d'IA ne devrait pas recevoir de renseignements sur les clients du simple fait que le cabinet l'a acheté.

L'approbation devrait être propre au cas d'usage et à la catégorie de données. Un système approuvé pour la recherche publique ne l'est pas nécessairement pour les dossiers de paie. Un outil autorisé à rédiger du texte interne peut ne pas convenir aux dossiers de travail complets des clients.

Le cabinet devrait comprendre comment les invites et les fichiers sont conservés, si le contenu du client est utilisé à d'autres fins, quels tiers interviennent, comment les accès sont contrôlés et comment la suppression fonctionne.

Le profil de l'IA générative du NIST encourage les organisations à gérer les risques de l'IA générative tout au long du cycle de vie et à tenir compte des composantes de tiers, de la vie privée, de la sécurité et du contexte d'utilisation d'un système.

Considérer la confidentialité des clients comme plus large que la vie privée

Une partie des renseignements comptables les plus sensibles ne sont pas des renseignements personnels.

Les résultats financiers non publiés, les stratégies de prix, les plans d'acquisition, les prévisions, les faiblesses du contrôle interne et les discussions confidentielles de la direction peuvent aussi exiger une protection solide.

L'IESBA précise que le principe fondamental de la confidentialité s'applique quelle que soit la technologie utilisée. Ses lignes directrices actuelles sur la technologie étendent la confidentialité à l'ensemble du cycle de vie des données, y compris la collecte, l'utilisation, le transfert, le stockage, la diffusion et la destruction licite.

Pour les équipes de comptabilité, cela signifie qu'une invite peut être inappropriée même si elle ne contient aucun nom ni identifiant personnel.

Appliquer le principe du moindre privilège aux intégrations d'IA

Les outils d'IA connectés méritent une attention particulière.

Un assistant qui ne voit que le texte saisi manuellement dispose d'un parcours de données limité. Le même assistant, connecté au courriel, à un stockage infonuagique, à une plateforme comptable ou à un dépôt de documents, peut accéder à beaucoup plus de renseignements sur les clients.

N'accordez à l'IA l'accès qu'aux dossiers, aux applications ou aux sources de données nécessaires au flux de travail approuvé. Utilisez des comptes gérés et un processus clair pour ajouter et retirer des accès.

Vérifier les résultats importants avant qu'ils n'influent sur le travail des clients

La protection des données des clients n'est qu'une partie d'un usage responsable de l'IA. Les résultats doivent aussi être encadrés.

L'IA générative peut produire une réponse assurée qui est incomplète, inexacte ou fondée sur une hypothèse fragile. L'IESBA exige que les professionnels comptables qui utilisent les résultats d'une technologie en évaluent l'adéquation à l'usage prévu, comprennent les limites et les hypothèses, évaluent la qualité des données et les biais potentiels, et déterminent dans quelle mesure s'y fier.

Pour les travaux comptables à plus fort impact, les faits importants, les calculs, les conclusions comptables et les références aux sources devraient être vérifiés de façon indépendante.

L'IA peut accélérer une première version ou aider à organiser l'information. Le jugement professionnel et la responsabilité demeurent ceux du comptable.

Établir des règles de conservation pour les invites et les fichiers

Les flux de travail d'IA peuvent créer de nouvelles copies des données des clients au moyen de téléversements, d'historiques d'invites, de résultats générés, de journaux et de sauvegardes.

Les cabinets devraient savoir quels documents existent et pendant combien de temps ils sont conservés. Les organismes canadiens de protection de la vie privée recommandent de limiter la conservation à ce qui est nécessaire et, sauf exigence contraire, d'éviter de conserver ou de réutiliser à d'autres fins les invites contenant des renseignements personnels.

Les décisions de conservation devraient être prises avant le lancement d'un flux de travail à risque élevé.

Offrir aux employés une façon plus sûre d'expérimenter

Des règles strictes sans solution de rechange utilisable peuvent pousser les employés vers des comptes personnels ou des services d'IA non approuvés.

Fournissez un environnement approuvé pour l'expérimentation à moindre risque à l'aide de renseignements publics, synthétiques ou dépersonnalisés. Expliquez quelles données de clients sont permises, quand une approbation supplémentaire est requise et à qui les employés peuvent poser leurs questions.

Si un flux de travail utile exige de véritables données de clients, faites-le passer par un examen structuré plutôt que de forcer les gens à improviser.

Utiliser une vérification en six questions sur les données des clients

Avant d'utiliser l'IA avec des renseignements comptables, posez-vous les questions suivantes :

1. L'IA a-t-elle besoin de véritables données de clients pour cette tâche?
2. Peut-on réduire ou expurger les données, ou les remplacer par des données synthétiques?
3. Cet environnement d'IA est-il approuvé pour les renseignements qui restent?
4. Comprenons-nous la conservation, les tiers, les accès et la suppression?
5. Les intégrations sont-elles limitées au minimum de renseignements nécessaires?
6. Les résultats importants peuvent-ils être vérifiés de façon indépendante avant d'influer sur le travail des clients?

Protéger les données des clients ne signifie pas retirer l'IA des flux de travail comptables. Cela signifie concevoir le flux de travail de manière à exposer moins de renseignements, à appliquer des contrôles plus stricts lorsque des données sensibles sont nécessaires et à ce que les personnes demeurent responsables du résultat.

Les meilleurs cas d'usage de l'IA deviennent souvent plus sûrs et plus faciles à encadrer lorsque les cabinets se posent une question dès le départ : quel est le minimum de renseignements sur les clients dont cette tâche a réellement besoin?

Chacun des contrôles ci-dessus partage un problème de moment : une fois qu'une invite est soumise, elle ne peut plus être rappelée. Un nom de client, un solde bancaire ou un dossier d'employé collé dans une demande visant à peaufiner une explication d'écart est déjà parti à l'instant où l'utilisateur appuie sur Entrée. C'est le principe sur lequel repose Sanitized Ai : repérer et expurger les identifiants des clients et les autres détails comptables sensibles avant que l'invite n'atteigne l'outil, de sorte que l'information minimale que vous aviez prévue soit la seule à quitter votre flux de travail.

Ce trimestre, choisissez la tâche d'IA sur laquelle votre cabinet s'appuie le plus, par exemple la rédaction de commentaires sur les écarts ou le résumé de dossiers de travail, et soumettez-la à la vérification en six questions sur les données des clients avant qu'un autre véritable dossier client n'y touche. Consignez les identifiants qui peuvent être retirés sans changer la réponse, et faites de cette donnée d'entrée réduite la norme de la tâche plutôt que l'exception. Si vous voulez voir comment l'expurgation peut se faire avant la soumission plutôt qu'après, demandez une démonstration et parcourez votre propre flux de travail avec nous.