Microsoft alerta sobre risco de agentes de IA como ameaças internas em empresas

A Microsoft lançou novos recursos de segurança voltados para proteger empresas contra os riscos crescentes associados ao uso de agentes de inteligência artificial. Entre as novidades está o Guardian Agents, uma ferramenta projetada para monitorar os agentes de IA utilizados dentro das organizações. A funcionalidade faz parte do Project Perception, iniciativa da empresa lançada em junho com foco em simular e prevenir ataques cibernéticos impulsionados por modelos avançados de IA.

Inicialmente, o Project Perception foi criado para simular ameaças externas, com equipes de agentes que atuam como invasores, detectores e corretores de vulnerabilidades. No entanto, o foco mudou após alertas do CEO Satya Nadella sobre o perigo interno representado pelos próprios agentes de IA empregados pelas empresas. Em postagem pessoal, Nadella afirmou que não se pode delegar responsabilidade total a fornecedores de modelos, mesmo que deem garantias de segurança.

Hayete Gallot, chefe de segurança corporativa da Microsoft, reforçou essa visão ao declarar que modelos avançados, independentemente de sua origem, não podem ser confiáveis. Segundo ela, isso não ocorre por má intenção ou vulnerabilidade a invasões, mas porque esses modelos são treinados para cumprir tarefas, não para seguir normas organizacionais ou julgamentos éticos. Além disso, muitos têm acesso irrestrito a dados sensíveis e sistemas críticos.

Diante disso, a Microsoft está promovendo soluções próprias, como o Guardian Agents e recursos de detecção no Microsoft Defender, capaz de identificar até 60 tipos diferentes de agentes trazidos por funcionários, incluindo Claude Code, Codex e OpenClaw. A empresa também implementou controles dinâmicos de permissão e exigência de aprovação humana para decisões de risco. A lógica é semelhante à independência de auditores: o monitoramento deve ser separado do fornecedor dos agentes.

Essa abordagem está ganhando tração no setor. A Microsoft é membro fundador da Open Agent Safety Platform, iniciativa da Nvidia apoiada por mais de 100 empresas, que prevê ambientes seguros e mecanismos de interrupção de agentes. A empresa também lançou os novos Surface Laptop Ultra, equipados com chips da Nvidia e controles nativos de segurança para agentes, reforçando seu posicionamento no mercado emergente de segurança em IA.