La IA generativa ha cambiado lo que puede significar la pérdida de datos dentro de una empresa. Un empleado ya no necesita subir una hoja de cálculo a un sitio desconocido para compartir archivos para generar riesgo. Puede pegar un registro de cliente, un fragmento de código fuente, una cláusula de contrato o una previsión financiera interna en un asistente de IA porque quiere ayuda para terminar una tarea legítima.
Ahí es donde la prevención de pérdida de datos en la IA se vuelve útil. La prevención de pérdida de datos (DLP) es el conjunto de controles que se usa para identificar información sensible y reducir la probabilidad de que se comparta, suba, copie o transmita a un lugar al que no debería llegar. Cuando los empleados usan IA generativa, la DLP debe tener en cuenta los prompts, los archivos subidos, la actividad del navegador, las aplicaciones conectadas y, a veces, las respuestas del modelo.
El objetivo no es impedir que los empleados usen la IA. Los equipos de seguridad necesitan una forma de distinguir el trabajo cotidiano de las situaciones en las que los datos que se comparten generan un riesgo innecesario.
Empieza por los datos, no por la herramienta de IA
Los equipos de seguridad pueden concentrarse fácilmente en qué aplicaciones de IA están usando los empleados. Esa visibilidad importa, pero no responde a la pregunta más importante: ¿qué información está saliendo realmente de la organización?
Un buen programa de DLP para IA empieza por definir los datos que requieren protección. Eso podría incluir información de identificación personal, registros de clientes, datos de pago, información de empleados, código fuente, credenciales, documentos legales, propiedad intelectual o planes de negocio confidenciales.
OWASP enumera la información personal, los datos financieros, los registros médicos, las credenciales de seguridad, los documentos legales y los datos empresariales confidenciales entre los tipos de información sensible que pueden quedar expuestos a través de los sistemas de LLM. Recomienda controles como la sanitización de datos, la validación de entradas, los controles de acceso y las restricciones sobre las fuentes de datos disponibles para los sistemas de IA.
Una vez que esas categorías están claras, los equipos de seguridad pueden decidir qué debe bloquearse, qué debe generar una advertencia y qué puede permitirse cuando existen las salvaguardas adecuadas.
Observa las vías por las que la información entra en los sistemas de IA
Escribir directamente en un chatbot es solo una de las vías.
Los empleados pueden subir PDF, hojas de cálculo, capturas de pantalla, transcripciones de reuniones, archivos de código o carpetas enteras. Las funciones de IA también pueden estar integradas en navegadores, suites de productividad, plataformas de atención al cliente, herramientas de programación y otro software que los empleados ya utilizan.
Esto importa porque una política centrada únicamente en copiar y pegar texto puede dejar grandes brechas. Los equipos de seguridad deberían mapear las principales formas en que los empleados pueden enviar información de la empresa a servicios de IA y determinar cuáles de esas vías son visibles para los controles existentes.
El Generative AI Profile de NIST trata la privacidad de los datos y la seguridad de la información como riesgos que deben considerarse en todo el uso de sistemas de IA generativa. El marco también anima a las organizaciones a documentar los usos previstos, los usuarios, las fuentes de datos y el contexto en el que operará un sistema de IA.
Para un equipo de seguridad, eso se traduce en un inventario práctico: qué herramientas de IA están aprobadas, cuáles simplemente se están usando, qué tipos de información manejan los empleados y cómo esa información puede llegar a cada herramienta.
Bloquearlo todo suele ser una mala estrategia de DLP
Una regla de DLP que bloquee cada prompt que contenga un nombre o un número puede parecer segura, pero puede volverse inutilizable rápidamente. Los empleados encuentran nombres, referencias de cuentas, fechas y otros datos comunes en su trabajo rutinario. Si el sistema interrumpe constantemente actividades inofensivas, es más probable que la gente ignore las advertencias o busque otra manera de completar la tarea.
En cambio, los controles deberían reflejar el contexto y la sensibilidad.
Un prompt que contiene el nombre de un directivo público es distinto de un prompt que contiene el nombre de un cliente combinado con un número de cuenta y un historial de transacciones. Un ejemplo de código corto es distinto de un repositorio propietario completo. Un comunicado de prensa público es distinto de un plan de adquisición no anunciado.
Aquí es donde la clasificación se vuelve especialmente importante. Los equipos de seguridad deberían pensar en combinaciones de datos, destino, usuario, acción y contexto de negocio en lugar de basarse en una única coincidencia de palabra clave.
Decide cuándo advertir, redactar o bloquear
No toda acción de riesgo requiere la misma respuesta.
Una advertencia puede funcionar bien cuando un empleado quizá no se dé cuenta de que un prompt contiene información sensible. La redacción puede ser útil cuando la tarea aún puede completarse después de eliminar elementos como nombres, direcciones de correo, identificadores o credenciales. El bloqueo es más apropiado cuando la información es altamente sensible o el destino no está aprobado.
Por ejemplo, imagina que un empleado pega un ticket de soporte en una herramienta de IA y el ticket incluye la dirección de correo, el número de teléfono y el identificador de cuenta de un cliente. En lugar de bloquear toda la tarea, un control podría identificar esos campos y permitir que el empleado continúe tras eliminarlos.
La mejor respuesta depende de la tolerancia al riesgo de la organización, de sus obligaciones regulatorias y del propósito real del caso de uso de la IA.
Mide si los controles están ayudando
La DLP para IA debería producir información útil para el equipo de seguridad, no simplemente más alertas.
Haz un seguimiento de qué servicios de IA usan los empleados, qué categorías de datos sensibles se detectan, dónde ocurren las infracciones con más frecuencia, con qué frecuencia los usuarios ignoran las advertencias y qué equipos se topan repetidamente con el mismo problema de política. Estos patrones pueden revelar dónde los empleados necesitan mejor orientación o dónde un flujo de trabajo de IA aprobado sería más seguro que las excepciones repetidas.
NIST describe la gestión de riesgos de la IA como una actividad continua y no como una revisión puntual. Ese enfoque es especialmente relevante para la IA generativa, porque las herramientas, las integraciones, el comportamiento de los empleados y los controles disponibles siguen cambiando.
Un programa práctico de prevención de pérdida de datos en la IA combina, por tanto, visibilidad, clasificación de datos, aplicación proporcionada de las medidas y educación de los empleados. Los equipos de seguridad no necesitan inspeccionar cada prompt inofensivo. Necesitan suficiente contexto para identificar los momentos en que la información sensible está a punto de cruzar un límite que la organización no pretendía cruzar.
La razón por la que la aplicación de las medidas tiene que ocurrir antes del envío es sencilla: una vez que un prompt llega a un servicio de IA, no se puede retirar. Una advertencia que se activa después de que el registro del cliente ya se ha enviado es el registro de un incidente, no un control. Este es el principio sobre el que está construido Sanitized AI. Detecta información sensible en un prompt y la redacta antes de que el envío salga de las manos del empleado, de modo que la tarea igual se completa sin que el número de cuenta, la credencial o la cláusula de contrato crucen un límite que la organización nunca pretendió cruzar.
Este trimestre, elige un flujo de trabajo de IA de alto volumen del que tus equipos ya dependen, como agentes de soporte que resumen tickets o ingenieros que pegan código, y mapea exactamente qué categorías de datos fluyen por él y dónde pueden verlos tus controles existentes. Ese único inventario te dirá si necesitas mejor orientación, un flujo de trabajo aprobado o una aplicación de medidas que actúe antes de que se envíe el prompt. Si quieres ver cómo funciona la redacción antes del envío en tus propios escenarios, solicita una demo.