Agent Governance 🛰️

Disciplina emergente de governança focada em controlar, auditar e restringir agentes autônomos de IA dentro de redes corporativas. Diferente da governança de LLMs (focada em políticas de uso de chatbots), agent governance lida com orquestração, contenção e accountability sistema-a-sistema.

Por que IAM tradicional não serve

Sistemas de Identity and Access Management foram projetados para credenciais humanas ou comunicação estática app-to-app. Agentes autônomos são dinâmicos: encadeiam tarefas sequencialmente, formulando novos requests com base no output de ações anteriores. Um agente pode solicitar acesso a um ERP no meio de uma tarefa — e software de segurança tradicional não consegue distinguir se é comportamento hostil ou operação legítima.

Princípios-chave

1. Agentes como entidades distintas — não são usuários nem aplicações; precisam de identidade própria no sistema
2. Permissões time-bound e scope-limited — tokens de acesso curtos e narrowly defined, em vez de API keys permanentes com alto privilégio
3. Detecção de violação de escopo — se um agente de resumo de emails tenta baixar banco de clientes, acesso revogado automaticamente
4. Blast radius containment — limitar dano potencial se um modelo open-source se comportar de forma imprevisível
5. Registry centralizado — puxar deployments externos para um registro onde compliance pode auditar comportamento e fluxos de dados

Agent Firewall

Conceito emergente: um "firewall" específico para agentes que mapeia relações entre intenção humana, execução de máquina e dados corporativos. Caminhando para se tornar item padrão de budget de TI.

Fase regulatória

• Reguladores globais examinando como empresas monitoram sistemas automatizados
• Oversight verificável caminhando para obrigação legal
• Primeira fase foi políticas de uso para chatbots; segunda fase é governança de agentes autônomos

Nota: síntese conceitual sobre governança de agentes de IA.