A Microsoft introduziu um novo kit de ferramentas de código aberto focado na segurança em tempo de execução para impor uma governança mais rigorosa sobre os agentes de IA corporativos.
O kit de ferramentas é construído em torno da segurança em tempo de execução, abordando preocupações de que os modelos de linguagem modernos não estão mais limitados a funções consultivas, mas estão executando ativamente código e interagindo com sistemas internos. Salvaguardas tradicionais, como verificações estáticas de código e varreduras pré-implantação, têm dificuldade em acompanhar esses comportamentos dinâmicos.
Implantações anteriores de IA focavam principalmente em copilotos com acesso restrito e somente leitura, mantendo os humanos no comando da execução. Esse modelo está mudando. As empresas estão agora integrando sistemas de agentes capazes de tomar ações independentes em APIs, ambientes de nuvem e pipelines de desenvolvimento.
Em tais configurações, um agente de IA poderia analisar um e-mail, gerar um script e implantá-lo em um servidor sem intervenção humana. Uma instrução falha ou uma injeção de prompt poderia levar a alterações indesejadas no banco de dados ou à exposição de informações sensíveis. O novo kit de ferramentas aborda esse risco monitorando as ações à medida que ocorrem e intervindo em tempo real, em vez de depender de controles predefinidos.
O sistema foca em como os agentes de IA interagem com ferramentas externas. Quando um modelo precisa realizar uma ação além de seu processamento interno, como consultar um sistema corporativo, ele gera um comando direcionado a essa ferramenta.
A Microsoft insere uma camada de aplicação de políticas entre o modelo e a rede corporativa. Cada solicitação de saída é interceptada e avaliada contra regras de governança predefinidas antes da execução. Se uma ação violar a política, por exemplo, um agente tentando iniciar uma transação apesar de ter acesso limitado a somente leitura, a solicitação é bloqueada e registrada para revisão.
Essa abordagem cria uma trilha auditável de decisões, eliminando a necessidade de os desenvolvedores incorporarem restrições de segurança em cada prompt ou fluxo de trabalho. A governança se afasta da lógica da aplicação e passa para controles em nível de infraestrutura.
A estrutura também atua como um buffer para sistemas legados, muitos dos quais não foram projetados para lidar com entradas imprevisíveis geradas por máquinas. Ao filtrar e validar solicitações antes que elas cheguem aos sistemas centrais, ela limita o risco representado por comportamentos de IA comprometidos ou mal direcionados.
A decisão da Microsoft de lançar o kit de ferramentas como código aberto se alinha às práticas de desenvolvimento atuais. Equipes que constroem fluxos de trabalho de IA frequentemente dependem de uma mistura de ferramentas e modelos de terceiros. Uma solução proprietária poderia ser contornada em favor de alternativas mais rápidas. A disponibilidade aberta permite que os controles se integrem em ambientes variados, incluindo sistemas que usam modelos de concorrentes como a Anthropic.
Isso também abre as portas para que empresas de cibersegurança construam camadas adicionais de monitoramento e resposta sobre a estrutura, ajudando a estabelecer uma base comum para a segurança de operações impulsionadas por IA.
A segurança é apenas uma parte do desafio. Agentes autônomos também introduzem riscos financeiros e operacionais, particularmente através do uso descontrolado de APIs.
Esses sistemas operam em ciclos contínuos, realizando chamadas repetidas para serviços externos. Sem limites, mesmo uma tarefa simples poderia desencadear milhares de consultas a bancos de dados pagos ou APIs, elevando rapidamente os custos. Em casos extremos, agentes mal configurados podem entrar em ciclos recursivos que consomem grandes quantidades de recursos computacionais em pouco tempo.
O kit de ferramentas permite que as organizações definam limites rigorosos para o uso de tokens e a frequência de solicitações. Ao controlar a frequência com que um agente pode atuar dentro de um determinado período, as empresas podem gerenciar melhor os gastos e prevenir processos descontrolados.
A supervisão em tempo de execução também apoia os requisitos de conformidade, fornecendo controles mensuráveis e logs de auditoria claros. A responsabilidade está se deslocando dos provedores de modelos para os sistemas que executam decisões em ambientes do mundo real.
A implementação de tais estruturas de governança exigirá coordenação entre as equipes de engenharia, jurídica e de segurança. À medida que os sistemas de IA assumem papéis mais autônomos, a infraestrutura que gerencia seu comportamento está se tornando central para uma implantação segura.
O lançamento ocorre juntamente com o investimento contínuo em infraestrutura de IA. A Microsoft recentemente delineou planos para comprometer US$ 10 bilhões no Japão nos próximos quatro anos, focando em data centers e sistemas de suporte.
O anúncio seguiu conversas entre o Presidente da Microsoft, Brad Smith, e a Primeira-Ministra japonesa Sanae Takaichi em Tóquio. Smith descreveu o investimento como uma “resposta à crescente necessidade do Japão por serviços de nuvem e IA”.
A empresa está trabalhando com o SoftBank Group e a Sakura Internet para expandir a infraestrutura doméstica. O compromisso mais recente baseia-se em um plano de US$ 2,9 bilhões anunciado em 2024, visando fortalecer as capacidades de IA e a resiliência cibernética no país.
