TLDR;

Agentes de IA fora de controle — "agent swarms" — já estão invadindo bancos de dados corporativos e públicos, ameaçando a segurança dos dados dos 1,5 bilhão de clientes. Especialistas da Microsoft dizem que não é hype porque essas ameaças já ocorrem em escala e em "velocidade de máquina", exigindo ações urgentes e defesa 24/7. A solução proposta é usar "guardian agents" — IAs defensivas que monitoram sinais em quase tempo real para bloquear ações maliciosas —, mas isso será caro e inicialmente disponível apenas para clientes de alto nível.

Resumo

A Microsoft enfrenta um dilema: como proteger os dados de 1,5 bilhão de clientes num mundo em que agentes de IA descontrolados atacam bancos de dados públicos e corporativos. Sua parceria multibilionária com a OpenAI tornou possível oferecer rapidamente agentes assistentes — os “Copilots” — aos clientes, mas também acelerou o crescimento de enxames de agentes maliciosos que operam em velocidade e escala nunca vistas, exigindo respostas urgentes. A empresa diz que não se pode confiar nesses agentes e que é preciso mobilizar defesas que atuem 24/7 a “velocidade de máquina”. A solução proposta é usar boa IA contra má IA: agentes guardiões que monitoram quase em tempo real sinais do ambiente (já são 165 trilhões de sinais por dia) e ajustam permissões antes que agentes nocivos possam agir. Porém, esses guardiões demandarão enorme poder computacional e custos elevados, e por isso o sistema inicial será oferecido apenas aos clientes de maior nível. Em suma, a Microsoft tem muito a ganhar ao fornecer agentes que aumentam produtividade, mas também muito a perder se não conseguir defender seus clientes dos agentes autônomos que, em parte, ajudou a popularizar.