Une employée ouvre un outil d'IA gratuit pour résumer un document avant une réunion. Un autre utilise un assistant de codage que le service informatique n'a jamais évalué. Quelqu'un d'autre ajoute un robot d'IA à ses réunions parce que cela lui fait gagner du temps sur la prise de notes. Aucun d'eux ne cherche à contourner la sécurité. Ils choisissent simplement les outils qui leur facilitent le travail.
C'est là l'idée de base de l'IA fantôme (shadow AI) : des employés qui utilisent des outils d'intelligence artificielle dans leur travail sans que l'organisation les ait officiellement approuvés, encadrés ou, parfois, sans même qu'elle en connaisse l'existence.
Le problème n'est pas que chaque outil d'IA non approuvé soit dangereux. Le problème, c'est que les équipes de sécurité et de protection de la vie privée ne peuvent pas gérer correctement des risques qu'elles ne voient pas.
L'IA fantôme est avant tout un problème de visibilité
L'IA fantôme est étroitement liée à l'informatique fantôme (shadow IT), c'est-à-dire les technologies utilisées en dehors des processus habituels d'approbation et de gestion. Le UK National Cyber Security Centre précise que l'informatique fantôme peut inclure des technologies d'IA employées sans autorisation, ce que l'on appelle souvent l'IA fantôme. Il souligne également que ce comportement n'est généralement pas malveillant. Les employés se tournent vers des outils non officiels parce que les options approuvées sont absentes, lentes ou n'offrent pas les fonctions dont ils ont besoin.
Cette distinction compte, car une entreprise qui traite l'IA fantôme comme une simple faute de ses employés risque de passer à côté des raisons de ce comportement.
Un développeur peut coller du code dans un agent conversationnel public parce que le dépannage par les canaux internes prend trop de temps. Une chargée de projet peut connecter un service de transcription par IA à ses réunions parce que personne n'a clairement expliqué si c'était permis. Le problème de sécurité commence lorsque ces outils échappent aux contrôles sur lesquels l'organisation s'appuie habituellement.
Le premier risque : ignorer où vont les données de l'entreprise
Les outils d'IA peuvent recevoir de l'information d'affaires par les requêtes, les téléversements de fichiers, les intégrations et les fonctions automatisées de réunion ou de flux de travail.
Prenons un employé qui téléverse un chiffrier pour demander à une IA d'en dégager les tendances. Il ne s'intéresse peut-être qu'à quelques colonnes, mais le fichier peut aussi contenir des noms de clients, des adresses courriel, des chiffres de vente, des notes internes ou des identifiants de compte. Si l'outil n'a pas été évalué, l'organisation ignore peut-être comment cette information est traitée, stockée, conservée ou consultée.
Le National Cyber Security Centre avertit que les services non gérés rendent difficile de savoir où les données organisationnelles sont traitées et où elles aboutissent. Ses orientations sur les grands modèles de langage publics recommandent aussi de ne pas inclure de renseignements sensibles dans les requêtes lorsque leur divulgation poserait problème.
Cela ne signifie pas que chaque requête d'IA crée une fuite de données. Cela signifie que les questions qu'une organisation poserait normalement à un fournisseur n'ont peut-être jamais été posées.
L'IA fantôme crée aussi des angles morts en gouvernance
Une entreprise peut avoir une politique d'IA, une liste de fournisseurs approuvés, des règles de classification des données et un processus de réponse aux incidents. Ces contrôles ne fonctionnent que si les employés utilisent des systèmes qui en relèvent.
Si un service adopte discrètement un nouveau service d'IA, les équipes de sécurité peuvent ignorer qui y a accès, quelles données y sont soumises, ou si le fournisseur a modifié ses conditions.
Le Generative Artificial Intelligence Profile du NIST recommande de tenir un inventaire des systèmes d'IA générative et de documenter des éléments comme la provenance des données, la supervision humaine, les données sensibles, les modèles sous-jacents et les modes d'accès.
Un inventaire peut sembler administratif, mais il règle un problème concret. On ne peut pas décider quels systèmes d'IA exigent des contrôles renforcés tant qu'on ne sait pas lesquels les gens utilisent réellement.
Interdire l'IA ne fait pas nécessairement disparaître l'IA fantôme
Une interdiction générale peut sembler la réponse la plus simple. En pratique, elle risque de repousser l'activité d'IA encore plus loin hors de vue.
Les employés adoptent des technologies non officielles parce qu'ils ont une tâche réelle à accomplir. Si le processus approuvé n'offre pas de solution de rechange raisonnable, certains trouveront quand même un autre outil.
Une meilleure réponse commence par comprendre la demande. Quelles équipes utilisent l'IA ? Quelles tâches cherchent-elles à accomplir ? Quels outils sont populaires, et pourquoi les employés les choisissent-ils ?
Certains outils méritent une approbation formelle. D'autres doivent être bloqués parce que leurs pratiques en matière de données ou leurs contrôles de sécurité ne répondent pas aux exigences de l'organisation. Certains cas d'usage peuvent n'être acceptables que si l'employé retire d'abord les renseignements sensibles.
Cela produit des orientations bien plus utiles qu'une règle qui dit simplement « n'utilisez pas l'IA ».
Cherchez le comportement, pas seulement une liste de sites
L'IA fantôme évolue vite. Une liste de domaines d'agents conversationnels bloqués attrapera une partie de l'activité, mais les fonctions d'IA s'intègrent de plus en plus aux navigateurs, aux logiciels de productivité, aux plateformes de réunion, aux environnements de développement et à bien d'autres services.
Les équipes de sécurité devraient donc raisonner en termes d'actions et de flux de données. Les bonnes questions sont notamment : des employés téléversent-ils des fichiers sensibles vers des services non approuvés, saisissent-ils des renseignements personnels ou confidentiels dans des requêtes d'IA, ou connectent-ils des applications d'IA tierces à des comptes de l'entreprise ?
L'objectif n'est pas de lire chaque conversation. La surveillance doit rester proportionnée et conçue en fonction du risque organisationnel, des attentes en matière de vie privée et des besoins légitimes de sécurité.
Offrez aux employés une voie approuvée
Le moyen le plus efficace de réduire l'IA fantôme consiste souvent à rendre l'option la plus sûre plus facile à utiliser.
Les employés devraient savoir quels outils d'IA sont approuvés, quelle information ils peuvent soumettre, quels types de renseignements sont restreints et à qui s'adresser pour essayer un nouveau service. Les processus d'approbation doivent aussi être assez pratiques pour que personne ne se sente obligé de les contourner.
Les organisations peuvent soutenir cette démarche par de courtes formations, des exemples clairs, des outils d'entreprise approuvés et une procédure simple pour demander de nouvelles applications d'IA.
L'IA fantôme est en définitive un signal. Elle montre où les employés voient de la valeur dans l'IA, mais où la gouvernance, l'outillage ou la formation n'ont pas suivi la façon dont les gens travaillent réellement.
Les équipes de sécurité n'ont pas besoin d'éliminer du jour au lendemain chaque expérimentation non autorisée. Un meilleur point de départ consiste à gagner en visibilité, à comprendre pourquoi les employés utilisent certains outils, à protéger les données sensibles et à offrir des solutions approuvées qui répondent au même besoin.
C'est sur ce dernier point que le contrôle doit se situer. Une fois qu'une requête a été soumise à un outil public, elle ne peut plus être rappelée : le moment utile est donc celui qui précède immédiatement l'envoi. C'est le principe sur lequel repose Sanitized AI : le contenu sensible est détecté et caviardé avant que la requête n'atteigne l'outil d'IA, et l'employé reçoit une explication en langage clair de ce qui a été signalé pendant qu'il travaille encore. Le quasi-incident devient un moment de formation, et la voie approuvée devient la plus simple.
La question à laquelle il vaut la peine de répondre ce trimestre n'est pas de savoir combien d'outils d'IA vous avez bloqués. C'est de savoir si vous pourriez nommer ceux que vos équipes ont utilisés la semaine dernière, et dire ce qui est parti avec eux. Si vous souhaitez voir concrètement à quoi ressemble cette visibilité, demandez une démonstration.