A AWS publicou um artigo detalhado sobre um dos maiores desafios da adoção de agentes de IA nas empresas: como dar mais autonomia sem perder o controle. A resposta é o conceito Trust in Depth.

O problema da aprovação humana

Líderes empresariais querem que agentes de IA façam mais, mas não confiam que vão acertar sempre. A solução comum — aprovar tudo manualmente — não escala. À medida que o volume de trabalho cresce, a fadiga de revisão se instala e os revisores param de pegar o que realmente importa.

Quatro camadas de confiança

Inspirado no conceito clássico de Defense in Depth, o Trust in Depth propõe quatro camadas independentes:

  • Scope (Escopo) — Antes de rodar: definir o que o agente pode fazer, quais ferramentas acessar e o que nunca deve fazer
  • Know (Identidade) — Saber quem autorizou cada agente e rastrear cada ação
  • Bound (Limites) — Durante a execução: garantir que as ações permaneçam dentro das regras, mesmo se o agente for manipulado
  • Observe (Observação) — Depois de cada execução: reconstruir o que o agente fez e por quê

Automated reasoning na prática

Para regras que podem ser definidas com precisão, a AWS usa automated reasoning — lógica matemática que verifica se uma regra vale em todos os cenários possíveis, não apenas nos testes. A AWS já aplica essa tecnologia em produção há mais de uma década em serviços como IAM, S3 Block Public Access e VPC Reachability Analyzer.

Ferramentas do ecossistema AWS

O artigo destaca várias ferramentas que compõem o Trust in Depth:

  • Kiro — sistema de codificação agentic que transforma intenções em requisitos estruturados
  • Strands — toolkit open source para definir e operar agentes
  • Amazon Bedrock AgentCore — governança com políticas em linguagem natural verificadas por automated reasoning
  • AWS Agent Registry — catálogo gerenciado de agentes, MCP servers e ferramentas
  • Strands Box — sandbox open source que impõe limites de fora das instruções do agente
  • Amazon CloudWatch Omni — observabilidade com traces e avaliadores de qualidade

Para quem está construindo soluções com agentes de IA, a Mytech oferece consultoria especializada em Inteligência Artificial para garantir uma implementação segura e governada.