Governança de Agentes de IA: Segurança e Auditoria para Equipes de Risco

Última atualização: setembro de 2026

TL;DR

Um agente precisa de uma governança que um modelo não necessita, por três motivos: tem permissões, executa ações e mantém o contexto ao longo das etapas. Um modelo gera uma pontuação sobre a qual outro sistema atua; um agente é o sistema que atua. Tudo o que é realmente novo sobre governar um agente decorre disso — e a forma de desbloquear uma análise de segurança é comparecer com o recurso que responde a cada dúvida de limites, não com um documento de políticas.

O que é a governança de agentes de IA?

A governança de agentes de IA é o conjunto de limites e registos que tornam o comportamento de um agente compreensível antes de atuar e reconstruível depois de atuar. Os limites definem o que o agente pode ler, o que pode fazer de forma autónoma e o que deve encaminhar para validação humana. Os registos determinam o que viu, o que concluiu e quem assumiu a responsabilidade pelo resultado.

Se está a ler isto, a situação é provavelmente específica: a prova de conceito funciona, os resultados são bons e a análise de segurança não avança há três semanas. Isto raramente acontece por o agente não ser seguro. Acontece, geralmente, porque ninguém redigiu as cinco coisas que um revisor precisa de ver, da forma como precisa de as ver.

Esses cinco limites constituem a essência desta página: acesso a dados, ações permitidas, encaminhamento para validação, limites do modelo e responsabilização.

Por que governar um agente não é o mesmo que governar um modelo

A maioria das instituições que lê isto já utiliza uma estrutura de gestão de risco de modelos, e a primeira pergunta útil é saber quanto dela se aproveita.

Aproveita-se bastante. O rigor de validação mantém-se. Os hábitos de documentação mantêm-se. A monitorização contínua de desempenho mantém-se. A comparação com modelos desafiadores mantém-se. Se tem uma área madura de risco de modelos, não está a começar do zero e ninguém lhe deve dizer o contrário.

O que não se transfere é tudo o que decorre de três diferenças:

• Um agente detém permissões. Um modelo não tem direitos de acesso. Recebe variáveis e devolve um número. Um agente lê sistemas, e algo tem de definir quais.

• Um agente executa ações. Uma pontuação não pode fechar um alerta, solicitar um documento ou submeter um relatório. Um agente pode, e o conjunto de tarefas que pode realizar sem intervenção humana é uma decisão que alguém tem de tomar explicitamente.

• Um agente mantém o contexto entre etapas. Um modelo pontua cada caso de forma independente. Um agente acumula estado, o que significa que o seu comportamento no quarto passo depende do que aconteceu no primeiro — e reconstituir uma decisão implica reconstituir uma sequência, e não apenas uma única inferência.

Nada numa estrutura de risco de modelos lhe diz o que um agente pode fazer de forma autónoma, porque uma pontuação não tem permissões e não pode atuar. Essa é a lacuna que a governança tem de preencher, e é mais simples do que a ideia de que "agora tudo é diferente" faz parecer.

Os cinco limites sobre os quais uma análise incidirá

Associar cada limite ao elemento que o satisfaz é o que costuma faltar. Uma visão geral de governança explica que os agentes precisam de supervisão. Uma análise precisa de saber que documento deve constar no processo. A tabela acima é aquilo que deve ter em mãos para apresentar.

Onde os limites são realmente definidos

Os limites não são um exercício teórico realizado após a implementação. Na prática, a sequência é: mapear os dados e esquemas da instituição, configurar as suas políticas e regras de limite e, em seguida, estabelecer filas de trabalho e permissões.

Essa ordem é o ponto fulcral. As permissões e filas de trabalho são estabelecidas durante a preparação do agente — não integradas à pressa quando a segunda linha de defesa levanta objeções. Um modelo de governança improvisado após o lançamento é, quase sempre, o que bloqueia as análises, porque tem de ser deduzido a partir do comportamento em vez de ser lido a partir de uma configuração.

Isto também responde à questão que as instituições colocam com mais frequência: isto funciona com os sistemas de risco que já temos? As regras de limite e as políticas são suas. O agente opera dentro dos limites definidos pela instituição, o que significa que a governança não é algo que um fornecedor lhe entrega juntamente com um produto — é algo que a implementação reflete.

O formato da implementação também é importante aqui, pois altera quem controla o quê. Os agentes da Oscilar podem funcionar como uma camada independente sobre a infraestrutura existente ou como parte de uma plataforma unificada, e a divisão de responsabilidades varia entre os dois cenários. A questão da integração é devidamente abordada no artigo sobre adicionar agentes de IA sem substituir o seu ecossistema de risco.

O que as regras atuais realmente dizem

É aqui que a maioria dos artigos sobre governança fala vagamente sobre "regulamentação em evolução" e muda de assunto. O cenário atual é mais concreto e útil do que isso.

As orientações atualizadas de gestão de risco de modelos dos EUA excluem explicitamente a IA generativa e os agentes de IA do seu âmbito. O comunicado do OCC refere que "os modelos de IA generativa e de IA baseada em agentes são inovadores e evoluem rapidamente. Como tal, não se inserem no âmbito destas orientações." Isto provém do comunicado de imprensa do OCC NR 2026-29, emitido a 17 de abril de 2026, com orientações relacionadas no Boletim do OCC 2026-13.

Paralelamente, o OCC, a Reserva Federal e a FDIC planeiam publicar um pedido de informações sobre a gestão de risco de modelos em geral, considerando a utilização de IA pelos bancos — incluindo IA generativa e agentes de IA — em particular. Até à data de redação deste artigo, nada foi publicado, não há período de consulta e não se trata de um pedido de informações exclusivo sobre agentes de IA.

A interpretação crucial: esta exclusão remove uma lista de verificação sem eliminar nenhuma das perguntas dos reguladores. Ninguém disse a uma instituição que pode deixar de se preocupar em como um agente é testado, monitorizado ou mantido sob supervisão humana. Apenas optaram, para já, por não definir detalhadamente como o fazer. A obrigação mantém-se e o método imposto está ausente, o que é uma situação mais complexa do que ter um conjunto de regras estritas — e é por isso que os elementos da tabela acima importam mais do que um simples mapeamento de conformidade.

A norma SR 11-7 continua a ser o enquadramento adequado para refletir sobre este tema. É uma expetativa com a qual as instituições operam, e a plataforma da Oscilar foi desenhada para a cumprir: registo de auditoria completo por decisão com o raciocínio armazenado, supervisão humana por conceção e monitorização de desvios e enviesamento. Trata-se de uma intenção de desenho, não de uma certificação, e vale a pena manter essa distinção em qualquer conversa com a segunda linha.

O registo de auditoria e o que deve conter

Dizer "temos um registo de auditoria" não é resposta suficiente numa análise. A verdadeira questão é saber se o registo permite reconstruir uma decisão e se uma pessoa o consegue ler.

A arquitetura mais útil tem dois níveis: um registo em bruto, no qual cada motivo de recusa e cada resultado está associado aos dados subjacentes; e uma visualização estruturada a partir desse registo — relatórios claros para os analistas, e não apenas ficheiros técnicos de registo do sistema.

Dois níveis, porque um revisor faz duas perguntas. A pergunta Consegue provar? é respondida pelo registo em bruto. A pergunta O seu analista consegue realmente ler isto? é respondida pela visualização estruturada. A maioria das respostas contempla apenas a primeira questão, mas é a segunda que determina se o controlo é efetivo na operação diária e não apenas no papel.

O que deve constar no registo, por decisão:

• Os dados de entrada que o agente consultou

• O raciocínio que guardou

• A ação que executou

• O modelo e a versão que geraram o resultado

• A pessoa que reviu, aprovou ou reverteu a decisão

O motivo para estruturar o processo desta forma não é mero capricho organizacional. Precisa de estar em posição de justificar qualquer decisão tomada — e a supervisão humana é o mecanismo que torna essa justificação possível, não apenas um argumento para apresentações. É importante notar o quão longe isto está do discurso sobre agentes que "resolvem tarefas de forma automática". Numa conversa sobre governança, alegar autonomia total joga contra si.

Este mesmo registo estruturado é também a base para futuras avaliações e ajustes, visto que cada dado apresentado num caso está associado à respetiva decisão. Esta característica é aprofundada em como avaliar um agente de risco de IA antes de passar a produção.

Quem é responsável pelo resultado

O roteiro para a maioria das análises de agentes que acabam paradas inclui uma variação desta questão, sendo este, habitualmente, o verdadeiro obstáculo e não qualquer controlo técnico.

A responsabilização aplica-se a uma categoria de decisão, não a uma decisão individual. Ninguém valida manualmente todos os alertas, e nenhuma estrutura regulatória o exige. Alguém deve ser responsável pela política que trata essa categoria de alertas, e é essa titularidade que o revisor procura encontrar.

Vale a pena definir explicitamente três funções antes da análise, pois serão alvo de perguntas:

• Quem é responsável pela política — as regras de limite e as ações permitidas

• Quem é responsável pelo modelo — a sua validação e desempenho contínuo

• Quem é responsável pelas exceções — os casos que requerem validação e as decisões revertidas

Sendo diretos: dizer que "o agente decidiu" não é uma resposta aceitável para um revisor, nem algo que uma instituição deva querer. A supervisão humana é, antes de tudo, uma definição de responsabilidade e só depois uma funcionalidade de interface.

Monitorizar um agente em produção

A obrigação contínua é real e é aqui que o vazio regulamentar mais se faz sentir — os auditores vão perguntar como sabe se o agente continua a funcionar bem, e nenhum regulamento define atualmente a resposta.

A capacidade que deve evidenciar é uma monitorização que abranja o desvio de dados, de variáveis e de conceito, com indicadores de desempenho de resultados avaliados por segmento. O segmento é determinante: um agente pode manter o desempenho global estável enquanto piora significativamente para um grupo específico.

A complexidade própria dos agentes é que estes têm mais pontos sujeitos a desvios do que um modelo tradicional. Os seus dados de entrada podem mudar, as suas ferramentas podem mudar e a população sobre a qual atua pode mudar, tudo de forma independente e com sintomas distintos. O tema merece uma análise dedicada, abordada em detalhe no artigo sobre monitorização de desvios em agentes de risco de IA.

O que levar para a análise

A pergunta mais perspicaz sobre auditabilidade foi-nos feita por um banco durante uma sessão de desenvolvimento de prova de conceito. Não perguntaram se as decisões em produção ficavam registadas. Perguntaram se existiam registos de auditoria para os testes efetuados.

A resposta é que existem dois registos distintos. Mas o ponto interessante é a pergunta em si, por ser mais astuta do que a maioria dos materiais de governança antecipa. Um revisor não quer apenas provas do que o agente decidiu depois de estar ativo. Quer o registo do que foi feito durante os testes — porque um documento de política prova a intenção, mas um registo de testes prova a prática. A distância entre "desenhámos este controlo" e "executámos este controlo" é precisamente onde uma análise estagna.

Assim, a lista a apresentar corresponde diretamente aos cinco limites:

1. Acesso a dados — o âmbito documentado e a respetiva rastreabilidade

2. Ações permitidas — o conjunto explícito de ações, com bloqueio por defeito para tudo o resto

3. Encaminhamento para validação — a política, os limites e as evidências da sua aplicação

4. Limites do modelo — o registo do modelo e da versão associado a cada decisão

5. Responsabilização — o responsável identificado por categoria de decisão

6. Mais o histórico de testes — o que foi executado antes do lançamento e os resultados obtidos

Nada disto é fora do comum. Trata-se, essencialmente, de formalizar por escrito decisões tomadas implicitamente durante a implementação. É por isso que as instituições que avançam mais depressa nas análises são as que definiram permissões e filas de trabalho durante a configuração do agente, e não depois.

A governança não é uma penalização pela implementação de um agente. É o que torna a sua implementação sustentável.

Perguntas frequentes

O que é a governança de agentes de IA?

A governança de agentes de IA é o conjunto de limites e registos que tornam o comportamento de um agente compreensível antes de atuar e reconstituível após a ação. Os limites abrangem o que o agente pode ler, o que pode fazer de forma autónoma e o que deve encaminhar para validação; os registos definem o que viu, o que concluiu, que modelo gerou a resposta e quem foi o responsável pelo resultado.

Como se governam agentes de IA nos serviços financeiros?

Definindo cinco limites e mantendo um recurso documental para cada: âmbito documentado de acesso a dados, conjunto explícito de ações permitidas com bloqueio por defeito fora dele, política de encaminhamento com limites aplicados, registo de modelo e versão por decisão e um responsável indicado por categoria de decisão. Numa instituição regulada, estes elementos integram-se no processo de risco de modelos existente em vez de o substituir.

A governança de agentes de risco de IA é compatível com os sistemas de risco existentes numa instituição?

Sim, e os limites devem ser da própria instituição. As regras de limite e as políticas são configuradas durante a implementação em vez de serem herdadas de um fornecedor, e a sequência habitual consiste em mapear dados e esquemas, configurar limites e políticas e, em seguida, estabelecer filas de trabalho e permissões. Os agentes podem operar como uma camada autónoma sobre a infraestrutura existente ou como parte de uma plataforma unificada, o que altera a responsabilidade de cada controlo.

Que controlos de governança são necessários para agentes de IA?

Âmbito de acesso a dados com rastreabilidade, lista explícita de ações permitidas, política de encaminhamento com limites definidos, registo do modelo e versão por decisão, responsabilização identificada por categoria de decisão, registo de auditoria em dois níveis e monitorização contínua de desvios com indicadores de resultados por segmento.

As diretrizes de gestão de risco de modelos abrangem agentes de IA?

Atualmente não, nos EUA. As orientações atualizadas de gestão de risco de modelos excluem explicitamente a IA generativa e os agentes de IA do seu âmbito — o comunicado NR 2026-29 do OCC, de 17 de abril de 2026, afirma que tais modelos "não estão no âmbito destas orientações". O OCC, a Reserva Federal e a FDIC tencionam lançar um pedido de esclarecimentos sobre a gestão de risco de modelos em geral e a utilização de IA pelos bancos em particular, mas nada foi publicado e não existe um período de consulta aberto. As exigências dos reguladores relativas a testes, monitorização e supervisão humana mantêm-se inalteradas.

Quem é responsável quando um agente de IA executa uma ação?

Uma pessoa identificada, responsável pela categoria de decisão e não por cada decisão em concreto. Devem ser definidas três funções de responsabilidade antes de qualquer análise: quem responde pela política, quem responde pelo modelo e quem responde pelas exceções. Dizer que "a decisão foi do agente" não é uma resposta aceitável.

Como são governados a revisão humana, a auditabilidade e o desempenho do agente?

A revisão humana é governada por uma política de encaminhamento com limites aplicados e responsabilidade atribuída por categoria de decisão. A auditabilidade é assegurada por um registo em dois níveis — um registo bruto por decisão associado aos respetivos dados e uma visualização compreensível para analistas derivada do mesmo. O desempenho é controlado através de monitorização de desvios de dados, variáveis e conceitos, avaliando indicadores de desempenho por segmento.