A Microsoft anunciou na segunda-feira novos controles para monitorar e restringir agentes de IA (inteligência artificial) potencialmente descontrolados em ambientes corporativos, argumentando que as organizações devem tratar esses agentes como ameaças internas, e não como softwares de confiança.
Os recursos ampliam o Project Perception, sistema de segurança baseado em agentes lançado pela Microsoft em julho. Inicialmente, o Perception foi apresentado como uma defesa contra ataques com IA vindos de fora, mas agora passa a ser aplicado aos agentes que as próprias empresas executam internamente.
Hayete Gallot, vice-presidente executiva de Segurança da Microsoft, afirmou que as empresas tendem a confiar por padrão nos agentes que implantam. Ela alertou que os modelos de ponta são treinados para obter resultados e não são construídos em torno das normas ou do julgamento das organizações. “Esses agentes são frequentemente superprivilegiados, têm acesso a dados, ferramentas e sistemas, e podem executar ações e tomar decisões em processos críticos”, escreveu Gallot.
Nadim Abdo, vice-presidente corporativo de identidade e acesso à rede da Microsoft, esclareceu o rótulo de ameaça interna. “Isso não significa que os agentes sejam inerentemente maliciosos. Significa que são ferramentas capazes, às quais usuários podem conceder acesso a sistemas importantes. Eles podem cometer erros, ser manipulados ou ser comprometidos”, explicou.
Um dos novos recursos, o Dynamic Permissions, concede aos agentes nenhuma permissão ou o mínimo necessário no início. O acesso é então concedido por tarefa e expira ou diminui conforme a tarefa muda ou termina, enquanto ações de alto impacto exigem revisão humana.
O Dynamic Agent Risk atribui a cada agente uma pontuação de risco continuamente atualizada, com base na atividade do agente e em sinais de identidade, dados, dispositivos finais (endpoint), nuvem, rede e ambiente de execução (runtime). A pontuação considera a configuração de segurança do agente, os recursos ao seu alcance, o tamanho do dano que ele poderia causar caso algo dê errado e se ele está se desviando do que o usuário ou a organização pretendia.
O Dynamic Conditional Access, que traz o Entra Conditional Access para os agentes, age sobre essas mudanças de risco. Em vez de simplesmente permitir ou bloquear um agente, ele pode reduzir suas permissões, permitir apenas leitura sem escrita, limitar os dados e recursos de rede que ele pode acessar ou exigir que uma pessoa aprove ações consequentes. Se o risco subir o suficiente, o ambiente de execução do agente pode ser isolado ou sua execução interrompida.
Para viabilizar isso em escala, a Microsoft está introduzindo Playbooks e uma equipe de Guardian Agents no Project Perception. Humanos definem as regras e os limites de aprovação, os Playbooks especificam o que a resposta de segurança deve alcançar, e os Guardian Agents a executam, investigando por que o risco de um agente mudou e sugerindo ou aplicando a contenção.
A Microsoft também amplia a descoberta para mais 35 tipos de agentes locais, elevando o total compatível para 60, incluindo Claude Code, OpenAI Codex e GitHub Copilot.
