Una empleada abre una herramienta de IA gratuita para resumir un documento antes de una reunión. Otro usa un asistente de programación que TI nunca revisó. Alguien más añade un bot de IA a sus reuniones porque le ahorra tiempo tomando notas. Ninguno intenta saltarse la seguridad. Simplemente eligen las herramientas que les facilitan el trabajo.
Esa es la idea básica de la IA en la sombra: empleados que usan herramientas de inteligencia artificial para trabajar sin que la organización las haya aprobado, gestionado o, a veces, sin siquiera saber de su existencia.
La preocupación no es que toda herramienta de IA no aprobada sea peligrosa. La preocupación es que los equipos de seguridad y privacidad no pueden gestionar adecuadamente riesgos que no ven.
La IA en la sombra es, ante todo, un problema de visibilidad
La IA en la sombra está muy relacionada con la TI en la sombra, es decir, la tecnología que se usa fuera de los procesos habituales de aprobación y gestión. El UK National Cyber Security Centre señala expresamente que la TI en la sombra puede incluir tecnologías de IA usadas sin permiso, lo que suele llamarse IA en la sombra. También apunta que este comportamiento no suele ser malintencionado. Los empleados recurren a herramientas no oficiales porque las opciones aprobadas no existen, son lentas o no ofrecen la funcionalidad que necesitan.
Esa distinción importa, porque una empresa que trate la IA en la sombra como una simple falta del empleado puede pasar por alto por qué existe ese comportamiento.
Un desarrollador puede pegar código en un chatbot público porque resolver el problema por los canales internos tarda demasiado. Una jefa de proyecto puede conectar un servicio de transcripción con IA a sus reuniones porque nadie ha explicado con claridad si está permitido. El problema de seguridad empieza cuando esas herramientas quedan fuera de los controles en los que la organización confía habitualmente.
El primer riesgo es no saber adónde van los datos de la empresa
Las herramientas de IA pueden recibir información del negocio a través de instrucciones, archivos subidos, integraciones y funciones automatizadas de reuniones o flujos de trabajo.
Piense en un empleado que sube una hoja de cálculo para pedir a una IA que identifique tendencias. Puede que solo le interesen unas pocas columnas, pero el archivo también puede contener nombres de clientes, direcciones de correo, cifras de ventas, notas internas o identificadores de cuenta. Si la herramienta no se ha revisado, la organización quizá no sepa cómo se procesa, almacena, conserva o consulta esa información.
El National Cyber Security Centre advierte de que los servicios no gestionados dificultan saber dónde se procesan los datos de la organización o dónde acaban. Su guía sobre grandes modelos de lenguaje públicos también aconseja no incluir información sensible en las consultas cuando su divulgación crearía un problema.
Esto no significa que cada instrucción a una IA provoque una fuga de datos. Significa que las preguntas que una organización haría normalmente sobre un proveedor quizá no se hayan hecho nunca.
La IA en la sombra también abre huecos en la gobernanza
Una empresa puede tener una política de IA, una lista de proveedores aprobados, reglas de clasificación de datos y un proceso de respuesta a incidentes. Esos controles solo funcionan cuando los empleados usan sistemas que quedan dentro de su alcance.
Si un departamento adopta discretamente un nuevo servicio de IA, los equipos de seguridad pueden no saber quién tiene acceso, qué datos se envían o si el servicio ha cambiado sus condiciones.
El Generative Artificial Intelligence Profile del NIST recomienda mantener un inventario de sistemas de IA generativa y contemplar cuestiones como la procedencia de los datos, la supervisión humana, los datos sensibles, los modelos subyacentes y los métodos de acceso.
Un inventario suena administrativo, pero resuelve un problema práctico. No se puede decidir qué sistemas de IA exigen controles más estrictos hasta saber cuáles está usando realmente la gente.
Prohibir la IA no elimina necesariamente la IA en la sombra
Una prohibición general puede parecer la respuesta más sencilla. En la práctica, puede empujar la actividad de IA aún más lejos de la vista.
Los empleados adoptan tecnología no oficial porque tienen una tarea real que completar. Si el proceso aprobado no ofrece una alternativa razonable, algunos encontrarán igualmente otra herramienta.
Una respuesta mejor empieza por entender la demanda. ¿Qué equipos usan IA? ¿Qué tareas intentan resolver? ¿Qué herramientas son populares y por qué las eligen los empleados?
Algunas herramientas merecerán aprobación formal. Otras habrá que bloquearlas porque sus prácticas de datos o sus controles de seguridad no cumplen los requisitos de la organización. Ciertos casos de uso solo serán aceptables si el empleado retira antes la información sensible.
Eso genera una orientación mucho más útil que una regla que se limita a decir «no use IA».
Busque el comportamiento, no solo una lista de sitios web
La IA en la sombra cambia deprisa. Una lista de dominios de chatbots bloqueados detectará parte de la actividad, pero las funciones de IA están cada vez más integradas en navegadores, aplicaciones de productividad, software de reuniones, entornos de programación y otros servicios.
Los equipos de seguridad deberían pensar por tanto en acciones y flujos de datos. Preguntas útiles: ¿los empleados suben archivos sensibles a servicios no aprobados?, ¿introducen información personal o confidencial en instrucciones de IA?, ¿conectan aplicaciones de IA de terceros a cuentas corporativas?
El objetivo no es leer todas las conversaciones de los empleados. La supervisión debe ser proporcionada y diseñada en torno al riesgo de la organización, las expectativas de privacidad y las necesidades legítimas de seguridad.
Dé a los empleados un camino aprobado
La forma más eficaz de reducir la IA en la sombra suele ser hacer que la opción más segura sea la más fácil de usar.
Los empleados deben saber qué herramientas de IA están aprobadas, qué información pueden enviar, qué tipos de información están restringidos y a quién dirigirse cuando quieran probar un servicio nuevo. Los procesos de aprobación también deben ser lo bastante prácticos como para que nadie sienta que debe esquivarlos.
Las organizaciones pueden apoyar esto con formación breve, ejemplos claros, herramientas corporativas aprobadas y un procedimiento sencillo para solicitar nuevas aplicaciones de IA.
La IA en la sombra es, en el fondo, una señal. Muestra dónde los empleados ven valor en la IA, pero también dónde la gobernanza, las herramientas o la formación no han seguido el ritmo de cómo trabaja la gente en realidad.
Los equipos de seguridad no necesitan eliminar de la noche a la mañana cada experimento no autorizado. Un mejor punto de partida es ganar visibilidad, entender por qué los empleados usan determinadas herramientas, proteger los datos sensibles y ofrecer alternativas aprobadas que cubran la misma necesidad.
Ahí es donde debe situarse el control. Una vez que una instrucción se ha enviado a una herramienta pública, ya no puede recuperarse, así que el momento útil es justo el anterior al envío. Ese es el principio sobre el que se construye Sanitized AI: el contenido sensible se detecta y se redacta antes de que la instrucción llegue a la herramienta de IA, y el empleado recibe una explicación en lenguaje claro de lo detectado mientras sigue trabajando. El casi incidente se convierte en un momento de formación, y el camino aprobado pasa a ser el fácil.
La pregunta que merece respuesta este trimestre no es cuántas herramientas de IA ha bloqueado. Es si podría nombrar las que sus equipos usaron la semana pasada y decir qué se fue con ellas. Si quiere ver en la práctica cómo es esa visibilidad, solicite una demostración.