Las firmas de auditoría dependen cada vez más de herramientas de IA de terceros para investigación, revisión de documentos, redacción, análisis y otras tareas profesionales. El proveedor puede ofrecer la interfaz, mientras que otra empresa proporciona el modelo, la infraestructura en la nube o el almacenamiento de datos que hay detrás.
Eso convierte la diligencia debida sobre proveedores en una parte importante de la gobernanza de la IA. El objetivo no es simplemente preguntar si un proveedor es "seguro". Las firmas de auditoría necesitan entender qué hace la herramienta con la información del cliente, qué tan fiable es para el uso previsto, qué terceros están involucrados y qué ocurre cuando el producto cambia.
1. ¿Qué es exactamente lo que autorizamos al proveedor a hacer?
Empiece por el caso de uso en lugar de por el nombre del proveedor.
¿La herramienta resumirá guías contables públicas, procesará papeles de trabajo de auditoría, analizará transacciones de clientes, redactará documentación de encargos o se conectará a un repositorio interno? Un producto que resulta aceptable para investigación pública puede requerir controles mucho más estrictos antes de recibir datos confidenciales de un encargo.
El personal del PCAOB informó que las firmas con las que se pusieron en contacto usaban la IA generativa principalmente para actividades administrativas y de investigación, mientras que muchas también estaban considerando usos en la planificación y ejecución de auditorías. Las firmas también destacaron la necesidad de una supervisión sólida en torno a la privacidad y la seguridad de los datos.
La aprobación debe indicar qué usos están permitidos, qué categorías de datos se admiten y qué usos requieren una revisión adicional.
2. ¿Qué ocurre con las instrucciones, los archivos y los resultados?
Pida al proveedor que explique el ciclo de vida completo de los datos.
Algunas preguntas útiles incluyen:
- ¿Se conservan las instrucciones y los archivos cargados?
- ¿Durante cuánto tiempo se conservan?
- ¿Se utiliza el contenido del cliente para entrenar o mejorar los modelos?
- ¿Puede configurarse la retención?
- ¿Dónde se procesa y almacena la información?
- ¿Quién puede acceder a ella?
- ¿Qué ocurre cuando se eliminan los datos o finaliza el contrato?
La guía tecnológica actual del IESBA enfatiza que la confidencialidad se aplica a lo largo de todo el ciclo de vida de los datos, incluyendo la recopilación, el uso, la transferencia, el almacenamiento, la difusión y la destrucción lícita. También señala que usar datos de clientes para fines como el entrenamiento de modelos de IA requiere la autorización correspondiente.
El contrato de la firma debe coincidir con las respuestas del proveedor.
3. ¿Qué terceros hay detrás del producto?
La empresa que vende el producto puede no ser la única organización que procesa los datos de la firma de auditoría.
Pregunte qué proveedores de modelos, plataformas en la nube, subencargados y otros terceros participan en el servicio. Determine qué información recibe cada parte y si el proveedor notificará a la firma cuando cambien subencargados importantes.
El Generative AI Profile del NIST identifica las integraciones de IA generativa de terceros como un área que requiere una gestión de riesgos adicional y está diseñado para ayudar a las organizaciones a gestionar los riesgos asociados con productos y servicios de IA generativa.
La pregunta práctica es si se comprende la cadena de suministro completa lo suficientemente bien para los datos de clientes previstos.
4. ¿Cómo ha probado el proveedor la fiabilidad?
Los controles de seguridad no hacen que los resultados de la IA sean fiables.
Pregunte cómo evalúa el proveedor la precisión, las limitaciones conocidas, los modos de fallo y los cambios entre versiones de modelos. Solicite evidencia relevante para el caso de uso real en lugar de basarse únicamente en afirmaciones sobre pruebas de referencia amplias.
Si el sistema asistirá en trabajo profesional, determine si los resultados pueden rastrearse hasta la información de origen y verificarse de forma independiente.
El IESBA establece que los profesionales de la contabilidad que utilizan resultados de tecnología deben evaluar la idoneidad para el propósito, comprender las limitaciones y los supuestos, valorar la calidad de los datos y el posible sesgo, y determinar el grado adecuado de confianza. La responsabilidad profesional sigue recayendo en el contador.
5. ¿Qué controles de seguridad y de acceso están disponibles?
Revise los controles que importan en el entorno de la firma.
Estos pueden incluir inicio de sesión único, autenticación multifactor, permisos basados en roles, registros de auditoría, controles administrativos, aprovisionamiento de usuarios, cifrado y restricciones sobre las integraciones.
Pregunte si la firma puede impedir que los empleados habiliten conectores o funciones no aprobados. Un sistema conectado a un repositorio de documentos puede exponer bastante más información que el mismo producto utilizado solo mediante instrucciones manuales.
El principio debe ser el de mínimo privilegio: la herramienta de IA recibe solo el acceso necesario para la tarea aprobada.
6. ¿Cómo gestiona el proveedor los incidentes?
Pregunte qué ocurre cuando algo sale mal.
¿Con qué rapidez notificará el proveedor a la firma sobre un incidente de seguridad? ¿Qué información proporcionará? ¿Puede identificar qué datos de clientes se vieron afectados? ¿Hay registros útiles disponibles para la investigación?
El proceso de respuesta a incidentes de la firma depende en parte de qué evidencia pueda proporcionar el proveedor. Los compromisos de notificación imprecisos pueden no ser suficientes para un flujo de trabajo de auditoría de alto riesgo.
7. ¿Cómo se comunican los cambios importantes del producto?
Los productos de IA pueden cambiar rápidamente después de la aprobación.
Un proveedor puede reemplazar el modelo subyacente, introducir memoria persistente, añadir capacidades de agente, cambiar las prácticas de retención o conectarse a nuevos servicios. El Technology Quality Management Workstream del IAASB está examinando cómo aplican las firmas las normas de gestión de calidad a la IA y a otras tecnologías emergentes utilizadas en encargos de auditoría y aseguramiento.
Las mesas redondas globales del IAASB también han destacado la gobernanza y la gestión de riesgos como cuestiones importantes a medida que las herramientas habilitadas por IA se integran más en el trabajo profesional.
Pregunte qué cambios desencadenan una notificación al cliente y si la firma puede retrasar o desactivar nuevas funciones hasta que se revisen.
La aprobación no debe volverse permanente simplemente porque el proveedor superó la diligencia debida una vez.
8. ¿Qué ocurre cuando termina la relación?
Pregunte si la firma puede exportar los registros necesarios, cómo se eliminan los datos de clientes, si permanecen copias de seguridad, cuánto tiempo persisten las copias residuales y cómo se eliminan las integraciones y el acceso de los usuarios.
El contrato debe establecer qué ocurre con la información del cliente y de la firma cuando se cancela el servicio.
Convierta las respuestas en una decisión de aprobación
Un cuestionario para proveedores solo es útil si las respuestas influyen en la decisión.
Para cada herramienta de IA propuesta, documente el uso previsto, los datos involucrados, los principales riesgos, los controles del proveedor, las protecciones contractuales, los controles requeridos de la firma, el responsable de la aprobación y los desencadenantes de reevaluación.
Una herramienta de investigación de bajo riesgo puede requerir un proceso más ligero. Un sistema que procesa papeles de trabajo confidenciales o influye en los procedimientos de auditoría debe recibir una revisión técnica, de privacidad, de gestión de calidad y legal más profunda.
La diligencia debida sobre proveedores de IA para auditores consiste, en última instancia, en saber qué hay entre el equipo del encargo y la tecnología. Si la firma comprende adónde van los datos, quién los maneja, cómo se prueba el sistema, qué controles existen y cómo se gestionan los cambios, puede tomar una decisión razonada sobre el lugar que la herramienta ocupa en el trabajo de auditoría.
La diligencia debida sobre proveedores establece los límites de una herramienta aprobada, pero no puede supervisar cada instrucción que un equipo de encargo envía bajo presión de plazos. Una vez que un papel de trabajo o el detalle de una transacción confidencial de un cliente se envía a una herramienta de IA, no puede recuperarse, sin importar lo que prometan los ajustes de retención del proveedor. Este es el principio sobre el que se ha construido Sanitized Ai: los datos sensibles del encargo deben detectarse y redactarse antes de que una instrucción llegue siquiera a la herramienta, de modo que las respuestas que un proveedor da sobre retención y subencargados rijan, para empezar, información mucho menos confidencial.
Este trimestre, tome una herramienta de IA aprobada y recorra de principio a fin un flujo de trabajo de auditoría real, anotando exactamente qué categorías de datos de clientes podría pegar o cargar un miembro del equipo antes de que entre en vigor cualquier control del proveedor. Ese ejercicio suele mostrar dónde dejan de importar las respuestas de la diligencia debida y dónde un control previo al envío tiene que soportar el peso. Si desea ver cómo funciona ese control con sus propios casos de uso de auditoría, solicite una demostración.