Saltar para o conteúdo
MCIT Falar connosco
Voltar

Novidades Cibersegurança

Cibersegurança e Proteção de Dados

Microsoft passa a tratar agentes de IA como ameaças internas e exige aprovação humana para acções de risco

A Microsoft lançou os Guardian Agents para vigiar os agentes de IA que as empresas usam e acrescentou ao Defender a detecção de agentes e o controlo de permissões. Um estudo da Arrakis Security mostra que 76% dos agentes activos não correm há 60 dias mas mantêm o acesso.

5 min de leitura Mundo

A Microsoft apresentou um conjunto de funcionalidades de segurança que partem de uma ideia pouco habitual num fornecedor de IA: os agentes que uma empresa instala e paga devem ser vigiados como se fossem um funcionário em quem não se pode confiar por completo. No sector da segurança, chama-se a isto uma ameaça interna.

O que foi anunciado

A peça central são os Guardian Agents, agentes cuja função é monitorizar os outros agentes de IA em uso na empresa. Fazem parte do Project Perception, que a Microsoft lançou em Junho com três tipos de agentes: um que ataca como um pirata informático, outro que detecta esses ataques e avalia as falhas encontradas, e um terceiro que as corrige. Esse produto foi pensado para ameaças vindas de fora. Os Guardian Agents viram-se para dentro.

Ao mesmo tempo, o Microsoft Defender ganhou novas capacidades:

  • detecção de até 60 tipos de agentes que os colaboradores levam para o trabalho, entre eles o Claude Code, o Codex e o OpenClaw;
  • limites ao acesso dos agentes a dados e sistemas;
  • permissões ajustadas de forma dinâmica à tarefa em curso;
  • pedido de aprovação humana quando um agente parece estar a tomar decisões de risco.

Porque a Microsoft desconfia dos modelos

O presidente executivo, Satya Nadella, escreveu no seu blogue que as empresas não devem confiar apenas nas garantias de segurança dadas pelos fornecedores de modelos. Defende sistemas separados, fora do controlo desses fornecedores, para vigiar o que os agentes fazem. Na sua formulação, é preciso separar quem fornece a inteligência de quem tem autoridade sobre ela.

A responsável pela área de segurança, Hayete Gallot, foi mais directa: os modelos mais avançados, venham de onde vierem, não merecem confiança. Não por serem maliciosos, mas por serem imprevisíveis. Foram treinados para cumprir tarefas, não para seguir as normas e o critério de uma organização, e muitas vezes recebem acesso amplo a dados e ferramentas.

Há um interesse comercial evidente. A Microsoft investiu na OpenAI e na Anthropic e desenvolve os seus próprios modelos, mas quer que as empresas comprem a segurança dos agentes ao fornecedor de cloud e não a quem os cria. O TechCrunch nota, ainda assim, que o raciocínio faz sentido: tal como um auditor deve ser independente de quem audita, o software que vigia os agentes deve ser independente de quem os fornece.

A ideia está a espalhar-se. A Microsoft foi membro fundador da Open Agent Safety Platform da Nvidia, apoiada por mais de 100 outras empresas, que isola agentes em ambientes seguros e permite travá-los ao nível do hardware.

Os agentes que ninguém desligou

Um relatório da Arrakis Security, que analisou milhares de agentes em ambientes de produção de clientes durante 12 semanas, mostra a dimensão do problema. Cerca de 76% dos agentes activos não tinham corrido nos últimos 60 dias e 44% não corriam há 180 dias, mas continuavam com credenciais e ligações aos sistemas da empresa. Segundo o presidente executivo da Arrakis, Tal Baron, quando um agente deixa de ser usado ninguém remove nada, porque na maioria das empresas ninguém é dono dele.

Os números seguintes agravam o quadro. Quase 23% dos agentes tinham pelo menos um gatilho sem protecção, e cerca de um quarto dos agentes inactivos podia ser accionado a partir de fora da organização. Setenta por cento estavam ligados a pelo menos um serviço sensível, e quase nenhum desses tinha protecção contra fuga de dados verificada nessa ligação. Dezanove por cento usavam chaves de acesso que nunca expiram, guardadas na própria configuração. No total, 82% dos agentes tinham pelo menos uma exposição registada.

Em números

76%Agentes activos que não corriam há 60 dias e mantinham acesso

O que significa para a sua empresa?

Se a sua empresa já usa agentes de IA, ou se os colaboradores instalam ferramentas como o Claude Code ou o Codex por conta própria, é provável que existam agentes com acesso a dados que ninguém está a acompanhar. Os dados da Arrakis sugerem que o risco maior não está nos agentes que trabalham todos os dias, mas nos que foram criados para um projecto, deixaram de ser usados e ficaram com as chaves.

O anúncio da Microsoft dá a quem já trabalha com o Defender ferramentas concretas para ver que agentes existem e limitar o que podem fazer. Mas a mensagem de fundo vale para qualquer fornecedor: a responsabilidade pelo que um agente faz em nome da empresa é da empresa, não de quem fornece o modelo.

O que recomendamos

Comece por um inventário: que agentes existem, quem os criou, a que sistemas e dados acedem e quando correram pela última vez. Atribua um responsável a cada um. Os que não correm há mais de 60 dias e não têm um calendário que o justifique devem ser desactivados e as respectivas credenciais revogadas. Substitua chaves de acesso sem prazo de validade por credenciais que expiram e verifique se algum agente pode ser accionado de fora por um endereço sem autenticação.

Para os agentes que ficam, reduza as permissões ao mínimo necessário para a tarefa e defina que acções exigem aprovação de uma pessoa, sobretudo as que alteram ou enviam dados sensíveis para fora. Se já tem o Microsoft Defender, avalie as novas funções de detecção e controlo de agentes antes de procurar outra ferramenta. Se precisar de apoio para fazer este levantamento, a MCIT pode ajudar a organizá-lo, mas o primeiro passo, saber que agentes existem, pode ser dado internamente já esta semana.

Falar connosco

Artigo preparado com apoio de inteligência artificial, revisto e aprovado por Marco Cerruti, MCIT.

Newsletter

As Novidades no seu email, à sexta-feira.

Um email por semana com as notícias que contam para a sua empresa. Sem publicidade, e anula quando quiser.

Precisa de tecnologia feita à medida?

Uma conversa de trinta minutos costuma chegar para perceber se fazemos sentido para o seu caso.

Falar connosco