Gobernanza de agentes de IA: seguridad y auditoría para equipos de riesgo

Última actualización: septiembre de 2026

En resumen

Un agente necesita una gobernanza que un modelo no requiere por tres motivos: tiene permisos, realiza acciones y mantiene el contexto a lo largo de varios pasos. Un modelo genera una puntuación sobre la que actúa otro sistema; un agente es el sistema que actúa. Todo lo realmente nuevo sobre su gobernanza parte de ahí, y el camino para desbloquear una revisión de seguridad es presentarse con el documento o evidencia concreta que responda a cada límite operativo, no con una política teórica.

¿Qué es la gobernanza de agentes de IA?

La gobernanza de agentes de IA es el conjunto de límites y registros que hacen comprensible el comportamiento de un agente antes de que actúe y reconstruible después de haber actuado. Los límites definen qué puede leer el agente, qué puede hacer de forma autónoma y qué debe derivar a un humano. Los registros determinan qué vio, qué concluyó y quién asumió la responsabilidad del resultado.

Si estás leyendo esto, es probable que tu situación sea muy concreta: la prueba de concepto funciona, los resultados son buenos y la revisión de seguridad lleva tres semanas estancada. Rara vez se debe a que el agente sea inseguro. Suele ser porque nadie ha puesto por escrito los cinco puntos clave que un revisor necesita comprobar, presentados en el formato que espera verlos.

Esos cinco límites constituyen la esencia de esta página: acceso a datos, acciones permitidas, derivación a humanos, límites del modelo y responsabilidad.

Por qué gobernar un agente no es lo mismo que gobernar un modelo

La mayoría de las entidades que leen esto ya cuentan con un marco de gestión de riesgos de modelos (MRM), y la primera pregunta lógica es cuánto de ese marco se puede aprovechar.

Se aprovecha bastante. La disciplina de validación sirve. Los hábitos de documentación sirven. El seguimiento continuo del rendimiento sirve. Las pruebas de contraste también sirven. Si cuentas con un área madura de riesgo de modelos, no partes de cero y nadie debería decirte lo contrario.

Lo que no se puede trasladar directamente es todo lo que surge de tres diferencias clave:

• Un agente tiene permisos. Un modelo no tiene privilegios de acceso. Recibe variables y devuelve un número. Un agente consulta sistemas directamente, y alguien debe definir con exactitud cuáles.

• Un agente realiza acciones. Una puntuación no puede cerrar una alerta, solicitar un documento ni enviar un informe. Un agente sí puede, y el conjunto de acciones que puede ejecutar sin supervisión humana es una decisión que alguien debe tomar de forma explícita.

• Un agente mantiene el contexto entre pasos. Un modelo evalúa cada caso de forma independiente. Un agente acumula estado, lo que significa que su comportamiento en el cuarto paso depende de lo ocurrido en el primero; reconstruir una decisión implica rehacer toda una secuencia, no una única inferencia aislada.

Ningún marco tradicional de riesgo de modelos indica qué puede hacer un agente por su cuenta, porque una puntuación no tiene permisos ni capacidad de actuar. Esa es la brecha que la gobernanza debe cubrir, y es bastante más acotada de lo que sugiere la idea de que «ahora todo es diferente».

Los cinco límites que se exigirán en una revisión

Vincular cada límite con la evidencia concreta que lo respalda suele ser el eslabón perdido. Un resumen teórico de gobernanza explica que los agentes necesitan control. Una revisión técnica exige saber qué documento archivar en el expediente. Esta tabla es exactamente lo que necesitas llevar bajo el brazo.

Dónde se definen realmente los límites

Los límites no son un ejercicio normativo que se hace después de la implantación. En la práctica, el orden lógico es: mapear los datos y esquemas de la entidad, configurar sus umbrales y políticas, y luego establecer los flujos de trabajo y permisos.

Ese orden es fundamental. Los permisos y colas de trabajo se definen al desplegar el agente, no como un parche improvisado cuando la segunda línea de defensa pone pegas. Un modelo de gobernanza añadido a posteriori suele ser la causa de que las revisiones se bloqueen, ya que obliga a deducir las reglas a partir del comportamiento en vez de leerlas directamente de una configuración clara.

Esto también responde a la duda más habitual de las entidades: ¿puede integrarse con nuestros sistemas de riesgo actuales? Los umbrales y las políticas son tuyos. El agente opera dentro de los límites que define la propia entidad, lo que significa que la gobernanza no es un paquete cerrado que entrega un proveedor con su producto: es algo que se materializa en la propia implantación.

El esquema de despliegue también influye, ya que determina quién es el responsable de cada control. Los agentes de Oscilar pueden funcionar como una capa independiente sobre la infraestructura existente o integrados en una plataforma unificada, y el reparto de responsabilidades varía en cada caso. Esta integración se aborda en detalle en cómo incorporar agentes de IA sin sustituir tu entorno de riesgos.

Qué dice la normativa actualmente

Aquí es donde la mayoría de textos sobre gobernanza aluden vagamente a un «marco regulatorio en evolución» y pasan a otra cosa. El panorama actual es mucho más concreto y útil que eso.

Las directrices actualizadas de gestión de riesgo de modelos en EE. UU. excluyen de forma explícita de su ámbito a la IA generativa y basada en agentes. El comunicado de la OCC señala que «los modelos de IA generativa y de IA basada en agentes son novedosos y evolucionan con rapidez. Por tanto, quedan fuera del alcance de esta guía». Esto proviene del comunicado de prensa NR 2026-29 de la OCC, publicado el 17 de abril de 2026, junto con las pautas del Boletín OCC 2026-13.

Por otro lado, la OCC, la Reserva Federal y la FDIC tienen previsto publicar una consulta formal (RFI) sobre la gestión del riesgo de modelos en general, evaluando el uso bancario de la IA —incluida la generativa y la de agentes— en particular. A fecha de redacción, aún no se ha publicado, no hay periodo de alegaciones abierto y no es una consulta exclusiva sobre IA basada en agentes.

La conclusión clave: esta exclusión elimina una lista de verificación formal, pero no quita ni una sola de las preguntas del auditor. Nadie le ha dicho a una entidad que pueda desentenderse de cómo se prueba, monitoriza o supervisa humanamente un agente. Simplemente han evitado, por ahora, definir exactamente el método. La exigencia sigue ahí aunque falte el manual detallado, una situación más exigente que seguir una normativa cerrada; por eso las evidencias de la tabla anterior tienen mucho más peso que un simple ejercicio de correspondencia normativa.

La guía SR 11-7 sigue siendo la referencia adecuada para enfocar este asunto. Es el estándar bajo el que operan las entidades y la plataforma de Oscilar está pensada para alinearse con él: registro de auditoría completo por decisión con razonamiento almacenado, supervisión humana desde el diseño y control de sesgos y desviaciones. Es una pauta de diseño, no una certificación oficial, un matiz que conviene dejar claro ante la segunda línea de defensa.

El registro de auditoría y qué debe incluir

Decir «tenemos un registro de auditoría» no resuelve una revisión técnica. La cuestión de fondo es si ese registro permite reconstruir una decisión paso a paso y si una persona puede interpretarlo con facilidad.

La estructura más práctica consta de dos capas. Por un lado, un registro de datos sin procesar, donde cada motivo de rechazo y cada resultado se vincula con la información de origen. Por otro, una vista adaptada a partir de ese registro: fichas de casos claras para analistas, en lugar de registros técnicos difíciles de leer.

Hacen falta dos capas porque el revisor planteará dos preguntas. ¿Puedes demostrarlo? se responde con el registro de datos sin procesar. ¿Puede tu equipo leerlo y entenderlo fácilmente? se responde con la vista adaptada. Casi todas las respuestas se quedan en la primera, pero la segunda es la que confirma si el control funciona en el día a día o solo sobre el papel.

Qué debe contener el registro de cada decisión:

• Los datos que recibió el agente

• El razonamiento que guardó

• La acción que ejecutó

• El modelo y la versión que produjeron el resultado

• El analista que lo revisó, aprobó o modificó

El motivo de plantearlo así no es por mero orden. Se trata de poder defender con solidez cualquier decisión tomada, y la supervisión humana es el mecanismo real que lo hace posible, no un simple argumento comercial. Conviene señalar la distancia que separa esto del discurso sobre agentes que «resuelven todo de forma autónoma». En un debate sobre gobernanza, presumir de autonomía total suele jugar en tu contra.

Este mismo registro estructurado es de donde se nutren las evaluaciones y ajustes posteriores, ya que cada dato mostrado en un caso está asociado a su decisión. Esta capacidad se explica con detalle en cómo evaluar un agente de riesgo de IA antes de llevarlo a producción.

Quién asume la responsabilidad del resultado

En casi todas las revisiones bloqueadas surge una variante de esta pregunta, y suele ser el verdadero obstáculo por encima de cualquier traba técnica.

La responsabilidad recae sobre el tipo de decisión, no sobre cada decisión individual. Nadie valida cada alerta una por una, ni ninguna normativa lo exige. Alguien debe ser el responsable de la regla que resuelve una categoría de alertas, y esa titularidad es exactamente lo que busca el revisor.

Conviene definir claramente tres funciones antes de la revisión, ya que son las que siempre se van a preguntar:

• Quién es responsable de la política: los umbrales y las acciones autorizadas.

• Quién es responsable del modelo: su validación y su rendimiento continuado.

• Quién es responsable de las excepciones: los casos que se derivan y las decisiones que se corrigen manualmente.

Dicho sin rodeos: «lo decidió el agente» no es una respuesta admisible para un revisor, ni debería serlo para la entidad. La supervisión humana es, ante todo, un diseño de responsabilidades antes que una interfaz de usuario.

Monitorización de un agente en producción

La exigencia de supervisión continua es real y es donde más se nota el vacío normativo: los auditores preguntarán cómo garantizas que el agente sigue funcionando bien, y hoy ningún reglamento marca el estándar exacto.

La respuesta adecuada pasa por una monitorización que controle la desviación de datos, de variables y de conceptos, midiendo los indicadores de rendimiento clave por segmento. La segmentación es fundamental: un agente puede mantener un rendimiento global estable mientras falla gravemente en un colectivo concreto.

La dificultad añadida de un agente es que tiene más puntos expuestos a desviaciones que un modelo clásico. Sus fuentes de datos pueden variar, sus herramientas pueden cambiar y la población sobre la que actúa puede evolucionar; todo de forma independiente y con síntomas distintos. Este tema requiere un análisis propio, disponible en monitorización de desviaciones en agentes de IA para riesgo.

Qué documentación llevar a la revisión

La pregunta más acertada sobre trazabilidad nos la planteó un banco durante una sesión técnica de prueba de concepto. No preguntaron si se registraban las decisiones de producción, sino si existían registros de auditoría de las pruebas previas.

La respuesta es que existen dos registros independientes. Pero lo relevante es la pregunta, mucho más perspicaz de lo habitual. Quien revisa no solo busca pruebas de lo que decidió el agente una vez en marcha; quiere constancia de lo realizado durante las pruebas, porque una política refleja intenciones, pero un registro de pruebas demuestra realidades. La distancia entre «diseñamos este control» y «pusimos a prueba este control» es justo donde se encallan las autorizaciones.

Por tanto, la lista de comprobación con la que debes presentarte coincide con los cinco límites:

1. Acceso a datos: alcance documentado y trazabilidad del origen.

2. Acciones permitidas: catálogo explícito de acciones, con denegación por defecto del resto.

3. Derivación: política clara, umbrales y pruebas de su cumplimiento.

4. Límites del modelo: registro del modelo y versión para cada decisión tomada.

5. Responsabilidad: responsable asignado por tipo de decisión.

6. Evidencias de pruebas: qué tests se ejecutaron antes del lanzamiento y qué resultados arrojaron.

Nada de esto es extraordinario. Se trata sobre todo de formalizar por escrito decisiones tomadas durante el despliegue; por eso las entidades que superan antes las auditorías son las que definen permisos y flujos de trabajo durante la puesta en marcha, en lugar de improvisarlos después.

La gobernanza no es un peaje por implementar un agente: es lo que garantiza que el proyecto sea viable y sostenible.

Preguntas frecuentes

¿Qué es la gobernanza de agentes de IA?

Es el conjunto de límites y registros que hacen comprensible el comportamiento de un agente antes de que actúe y reconstruible después. Los límites definen qué puede consultar, qué puede hacer de forma autónoma y qué debe derivar a un analista; los registros recogen qué vio, qué decidió, qué modelo generó el resultado y quién asumió la responsabilidad.

¿Cómo se gestiona la gobernanza de agentes de IA en el sector financiero?

Definiendo cinco límites clave con su correspondiente evidencia: alcance documentado de acceso a datos, catálogo estricto de acciones con bloqueo por defecto, política de derivación con umbrales contrastados, registro de modelo y versión por decisión, y un responsable definido por categoría de decisión. En entidades reguladas, esto complementa el marco de riesgo de modelos existente en lugar de sustituirlo.

¿Puede la gobernanza de agentes convivir con los sistemas de riesgo actuales de una entidad?

Sí, y los límites deben ser propios de la institución. Los umbrales y políticas se configuran durante la implantación y no vienen impuestos por el proveedor. El proceso habitual consiste en mapear datos y esquemas, definir umbrales y reglas, y establecer permisos y flujos de trabajo. Los agentes pueden actuar como una capa sobre la infraestructura existente o en una plataforma integrada, lo que define el reparto de responsabilidades.

¿Qué controles de gobernanza requiere la IA basada en agentes?

Alcance de acceso a datos con trazabilidad, conjunto explícito de acciones autorizadas, política de derivación con umbrales, registro de modelo y versión por decisión, responsabilidades asignadas por tipo de decisión, auditoría en dos capas y monitorización continua de desviaciones con métricas segmentadas.

¿Cubren las guías de gestión de riesgo de modelos a los agentes de IA?

Actualmente no, al menos en EE. UU. Las directrices revisadas excluyen explícitamente a la IA generativa y basada en agentes: la nota NR 2026-29 de la OCC (17 de abril de 2026) indica que estos modelos «quedan fuera del alcance de esta guía». La OCC, la Reserva Federal y la FDIC prevén emitir una consulta pública sobre riesgo de modelos y el uso bancario de la IA, pero aún no se ha publicado ni tiene plazo de alegaciones. Las preguntas habituales de los auditores sobre pruebas, monitorización y control humano se mantienen intactas.

¿Quién responde cuando actúa un agente de IA?

Una persona identificada, responsable del tipo de decisión y no de cada caso concreto. Antes de una revisión conviene fijar tres roles: responsable de la política, responsable del modelo y responsable de las excepciones. «Lo decidió el agente» nunca es una respuesta aceptable.

¿Cómo se regulan la supervisión humana, la auditabilidad y el rendimiento del agente?

La supervisión humana se regula con políticas de derivación, umbrales de control y responsables asignados por categoría. La auditabilidad, mediante un registro en dos niveles: datos brutos vinculados a cada decisión y una vista clara para el analista. El rendimiento se controla mediante seguimiento de desviaciones en datos, variables y conceptos, con indicadores medidos por segmento.