Ameaça interna agentes de IA: o alerta da Microsoft

Você liberou um agente de IA para acessar o ERP da empresa e resolver tarefas sozinho. A ferramenta promete segurança, mas começa a tomar decisões fora do padrão esperado e acessa dados de um projeto confidencial. Como garantir que o próprio agente contratado não vire um risco ao negócio?

A ameaça interna agentes de IA acontece quando sistemas autônomos, com acesso a dados sensíveis e poder de executar ações, se comportam de forma imprevisível e fogem do controle da empresa. Segundo o techcrunch.com, a Microsoft anunciou na segunda-feira, 19 de outubro de 2026, que modelos de IA avançados não podem ser confiáveis e comparou esses agentes a funcionários rebeldes dentro da organização.

O que a Microsoft anunciou sobre agentes de IA?

A Microsoft lançou recursos de segurança corporativa focados em conter riscos de agentes de IA, com destaque para o Guardian Agents. Esse recurso monitora os agentes de IA que a empresa utiliza e faz parte do Project Perception, produto apresentado em junho para combater modelos de hackers como Mythos da Anthropic e Daybreak da OpenAI.

O Project Perception surgiu com times de segurança virtuais: um time vermelho simulando ataques, um time azul detectando as falhas e um time verde corrigindo as vulnerabilidades. A premissa original era proteger a empresa de invasões externas. Agora, o foco mudou para o inimigo interno: os próprios agentes de IA que a empresa contratou e opera.

Por que modelos de IA não podem ser confiáveis?

Modelos de IA avançados são imprevisíveis por natureza, pois são treinados para cumprir tarefas, não para seguir normas organizacionais. Satya Nadella, CEO da Microsoft, alertou em seu blog pessoal que as empresas precisam parar de confiar nos provedores de modelos de IA. Para ele, garantias de segurança dos laboratórios de IA não isentam a empresa de sua responsabilidade. Hayete Gallot, líder da área de segurança da Microsoft, foi direta ao anunciar o Guardian Agents: modelos avançados não podem ser confiáveis, independentemente de sua origem.

A razão é a imprevisibilidade. Quando recebem acesso a dados sensíveis e ferramentas de missão crítica, o risco de uma ação fora do padrão cresce muito. A solução proposta pela Microsoft é separar a oferta de inteligência da autoridade sobre ela. O software que monitora o agente precisa ser independente do fornecedor do agente, assim como auditores independentes devem ser separados das organizações que auditam.

Como detectar e limitar o acesso dos agentes?

A Microsoft adicionou ao Microsoft Defender um recurso de detecção de agentes, que identifica até 60 tipos de agentes que funcionários trazem para o ambiente de trabalho, incluindo Claude Code, Codex e OpenClaw. A empresa também lançou funções que limitam o acesso dos agentes a dados e sistemas, ajustam permissões de forma dinâmica conforme a tarefa e exigem aprovação humana quando o agente toma decisões arriscadas.

A ideia do agente como ameaça interna ganha tração na indústria. A Microsoft é membro fundador da Open Agent Safety Platform da Nvidia, com apoio de mais de 100 empresas de tecnologia. A plataforma isola agentes em ambientes seguros e pode monitorar e parar comportamentos via hardware, funcionando como um botão de desligamento de emergência. A Microsoft também anunciou novos PCs Surface Laptop Ultra com chips da Nvidia e controles de agentes embutidos.

O que isso muda para as empresas brasileiras?

O alerta da Microsoft confirma o que nós, da Carper, vemos na prática: delegar poder de decisão a um agente de IA sem governança é o mesmo que dar as chaves do cofre a um estagiário no primeiro dia de trabalho. O risco real é a ação mal calculada do seu próprio sistema. Um agente de IA conectado aos dados da empresa pode causar danos reais se acessar informações protegidas pela LGPD de forma indevida ou disparar um e-mail comercial errado para a base de clientes.

Provedores de tecnologia vão vender monitoramento como serviço, mas a autoridade sobre o que o agente faz precisa ficar dentro da sua empresa. Você não pode terceirizar a responsabilidade de uma decisão autônoma para o fornecedor do modelo. A governança de IA nas empresas precisa definir limites claros de acesso e regras de aprovação humana para qualquer ação que envolva dados sensíveis ou financeiros. A segurança em aplicações com IA exige camadas de proteção independentes do fornecedor do modelo.

Como proteger sua empresa de ameaças internas de IA?

A proteção contra a imprevisibilidade dos agentes segue um processo direto de controle e monitoramento.

1. Inventarie os agentes em uso: mapeie todos os agentes de IA que operam no seu ambiente, incluindo ferramentas não oficiais trazidas por funcionários.
2. Defina limites de acesso: conceda ao agente apenas o acesso estrito aos dados necessários para a tarefa específica, sem privilégios amplos.
3. Implemente aprovação humana: configure a exigência de validação humana para decisões que envolvam valores financeiros, dados de clientes ou envio de comunicações externas.
4. Separe inteligência de autoridade: use um sistema de monitoramento independente do fornecedor do modelo para auditar as ações dos agentes.
5. Crie um botão de desligamento: estabeleça um processo rápido para suspender as atividades de um agente caso ele apresente comportamento fora do padrão esperado.

Sua empresa precisa definir regras claras antes de liberar agentes de IA em processos críticos. Converse com a equipe da Carper para estruturar a governança e o monitoramento dos seus agentes de IA com segurança e resultado.