Los empleados suelen usar ChatGPT para tareas perfectamente razonables: pulir un correo electrónico, resumir una reunión, revisar código, redactar una propuesta o explicar un concepto técnico. El problema de privacidad empieza cuando la solicitud también contiene información que el empleado nunca debió enviar fuera de un entorno empresarial aprobado.
La prevención de pérdida de datos, o DLP (Data Loss Prevention), está diseñada para reducir ese riesgo. En el contexto de ChatGPT, la DLP consiste en identificar la información sensible antes o durante su envío y aplicar la respuesta adecuada. Según la situación, esa respuesta puede ser una advertencia, una redacción de datos, el bloqueo del envío o su autorización conforme a una política aprobada.
Un buen programa de DLP no debería tratar cada solicitud a ChatGPT como sospechosa. Debería ayudar a los empleados a usar la IA de forma productiva y, al mismo tiempo, evitar que la información cruce un límite que la organización no pretendía.
Empieza por definir qué no se debe compartir
Antes de que una empresa pueda evitar que los datos sensibles lleguen a ChatGPT, debe decidir qué se considera sensible.
Eso suele incluir información como registros de clientes, información de identificación personal, información financiera, datos de empleados, credenciales, código fuente, documentos legales, propiedad intelectual y planes de negocio confidenciales. OWASP identifica específicamente categorías como información personal, detalles financieros, historiales médicos, credenciales, documentos legales y datos empresariales confidenciales como información sensible que puede generar riesgos en las aplicaciones de modelos de lenguaje de gran tamaño (LLM).
Lo importante es traducir categorías amplias en reglas que los empleados puedan entender de verdad. Decirle al personal que no introduzca "información confidencial" deja margen para la interpretación. Una política más clara podría indicar que los números de cuenta de clientes, los resultados financieros no publicados, las contraseñas, las claves de API, los registros de empleados y los contratos confidenciales no deben introducirse en herramientas de IA no aprobadas.
Cuanto más específicos sean los ejemplos, más fácil será que tanto los empleados como los controles de DLP tomen decisiones coherentes.
Averigua qué versión de ChatGPT usan tus empleados
No todas las cuentas de ChatGPT se gestionan de la misma manera.
OpenAI indica que las entradas y salidas de ChatGPT Business y ChatGPT Enterprise no se usan de forma predeterminada para entrenar sus modelos. Las cuentas de trabajo administradas también pueden estar sujetas a controles organizativos sobre el acceso a los datos, la retención, la auditoría y otras políticas. Los espacios de trabajo personales se rigen por otros términos y configuraciones.
Esta distinción importa porque un empleado que usa una cuenta personal para trabajo de la empresa puede estar operando fuera de los controles que la organización pretendía aplicar.
Un primer paso práctico es definir qué entornos de ChatGPT están aprobados para el trabajo. Los equipos de seguridad también deben saber si los empleados pueden alternar entre cuentas personales y administradas, si se permite la carga de archivos y qué controles administrativos hay disponibles en el espacio de trabajo aprobado.
La DLP resulta mucho más difícil cuando la organización no sabe adónde envían la información sus empleados.
Mira más allá del texto copiado
La información sensible no entra en ChatGPT solo a través de una solicitud escrita.
Los empleados pueden subir documentos, hojas de cálculo, imágenes, archivos de código y otros materiales. Un documento subido para resumirlo puede contener mucha más información de la que el empleado pretendía compartir. Una hoja de cálculo usada para responder una sola pregunta también puede incluir nombres, números de cuenta, salarios o previsiones internas en otras columnas.
Por eso los controles de DLP deberían considerar tanto el texto de las solicitudes como las cargas de archivos siempre que sea posible.
El mismo principio se aplica al código copiado. Un desarrollador puede querer ayuda para depurar una sola función, pero incluir sin querer una clave de API, un nombre de host interno, un identificador de cliente o lógica propietaria en el código circundante.
Antes de que la información llegue a un servicio de IA, la organización debería preguntarse si todo el envío es necesario para la tarea.
Elige la respuesta adecuada para cada nivel de riesgo
Bloquear cada solicitud que contenga un posible término sensible rara vez es práctico. Genera falsos positivos y puede frustrar a los empleados que intentan completar un trabajo legítimo.
Un mejor enfoque es usar distintas respuestas según el tipo de datos y el contexto.
Una situación de bajo riesgo podría activar una advertencia educativa. Por ejemplo, si un empleado incluye el correo electrónico de un cliente al pedirle a ChatGPT que mejore una respuesta de soporte, el sistema podría recordarle que elimine los identificadores innecesarios.
Una situación de mayor riesgo podría justificar una redacción automática de datos. Los nombres, números de cuenta, correos electrónicos u otros identificadores podrían eliminarse cuando la tarea no dependa de ellos.
Cierta información debería bloquearse sin más hacia destinos no aprobados. Las contraseñas, las claves privadas, los registros altamente restringidos o la información estratégica sensible son ejemplos en los que una advertencia puede no ofrecer protección suficiente.
El objetivo es crear fricción donde resulte útil, en lugar de dificultar cada interacción con la IA.
Ofrece a los empleados una alternativa más segura
La DLP funciona mejor cuando los empleados entienden qué hacer después de un bloqueo.
Si un control de seguridad detiene una solicitud sin explicación, el empleado puede probar otro sitio de IA, usar un dispositivo personal o buscar otra solución alternativa. En cambio, el mensaje debería explicar qué tipo de información se detectó y ofrecer un siguiente paso seguro.
Eso puede significar eliminar detalles identificativos, usar una cuenta administrada y aprobada de ChatGPT, sustituir los datos reales de clientes por datos de ejemplo o preguntar al equipo de seguridad si un caso de uso concreto puede aprobarse.
Así la DLP pasa de ser una barrera a convertirse en una forma de formación en tiempo real.
Revisa lo que te dicen tus alertas de DLP
Las alertas repetidas pueden revelar más que las infracciones de política aisladas.
Si un departamento intenta subir con frecuencia registros de clientes para resumirlos, puede tratarse de un flujo de trabajo legítimo que necesita una solución aprobada más segura. Si los desarrolladores activan repetidamente detecciones de credenciales, la organización puede necesitar mejores prácticas de gestión de secretos o una guía más clara para la programación asistida por IA.
El propósito de la DLP no es simplemente recopilar infracciones. Los datos deberían ayudar a los equipos de seguridad y privacidad a entender cómo usan realmente la IA los empleados y dónde las políticas existentes no coinciden con el trabajo real.
La DLP para ChatGPT es más eficaz cuando combina reglas de datos claras, entornos de IA aprobados, controles técnicos adecuados y orientación práctica para los empleados. El objetivo no es mantener la información sensible alejada de la IA prohibiendo herramientas útiles. Es asegurarse de que los empleados puedan beneficiarse de ChatGPT sin enviar por accidente datos a un lugar al que la empresa nunca quiso que llegaran.
El problema de fondo de la DLP es el momento: una solicitud enviada no se puede retirar. Un registro de cliente pegado en una petición para pulir una respuesta, una hoja de cálculo subida para responder una sola pregunta, una clave de API olvidada dentro de un fragmento de código: en cuanto el empleado pulsa Intro, la información ya ha llegado a ChatGPT. Este es el principio sobre el que se construye Sanitized Ai: detectar y redactar los datos sensibles, como identificadores de clientes, credenciales y detalles empresariales confidenciales, antes de que la solicitud llegue a la herramienta, de modo que los empleados conserven el beneficio del asistente sin la exposición.
Este trimestre, elige el caso de uso de ChatGPT del que más dependen tus equipos y repasa cómo se realiza realmente la tarea frente a tus reglas de datos. Haz una lista de los identificadores, las credenciales y los tipos de archivo que podrían eliminarse sin cambiar la respuesta, y convierte esa eliminación en la opción predeterminada de esa tarea en lugar de una excepción. Si quieres ver cómo se pueden detectar los datos sensibles antes del envío y no después, solicita una demostración y repasemos juntos tu propio flujo de trabajo.