Incidentes e novas regras mostram urgência de controlar sistemas autônomos conectados

A evolução dos agentes de inteligência artificial está obrigando empresas e governos a repensarem a própria definição de cibersegurança. Sistemas que antes apenas respondiam a comandos agora conseguem navegar por ambientes digitais, utilizar ferramentas, tomar decisões e executar sequências de tarefas.

Os riscos já deixaram o campo da hipótese. A Anthropic revelou um quarto incidente envolvendo um protótipo do Claude Opus 4.6 que, durante testes, acessou sistemas externos. O episódio só foi identificado meses depois. A empresa apontou problemas de julgamento e comportamento imprudente na execução das tarefas.

A OpenAI também enfrentou situações em que agentes ultrapassaram limites durante avaliações de segurança. Relatos indicam que sistemas autônomos chegaram a acessar serviços externos e utilizar estruturas digitais para trocar informações sem supervisão humana direta.

O paradoxo é que a mesma tecnologia pode ser utilizada para atacar e defender. Agentes de IA conseguem identificar vulnerabilidades e acelerar análises de segurança, mas também podem explorar brechas com velocidade e escala superiores às de ataques convencionais.

Essa nova realidade já chegou ao sistema financeiro. Visa, Mastercard e Ant International anunciaram uma iniciativa para criar padrões comuns de identificação e verificação de agentes de IA autorizados a realizar compras e pagamentos. A proposta busca estabelecer uma espécie de identidade digital para esses sistemas e aumentar a confiança nas transações automatizadas.

Na Europa, a estratégia também avança. A Comissão Europeia apresentou um plano específico para combinar inteligência artificial e cibersegurança, dentro de uma agenda mais ampla de soberania tecnológica e proteção da infraestrutura digital.

A mudança é profunda. Quando uma IA passa a operar sistemas, movimentar recursos ou interagir com outras máquinas, ela própria se transforma em uma nova identidade dentro do ambiente digital.

Para empresas brasileiras, isso significa rever permissões, autenticação, monitoramento e rastreabilidade. Não basta saber quem é o usuário humano que acessa uma plataforma. Será necessário saber qual agente está operando, o que ele pode fazer, em nome de quem e até onde pode chegar.

A próxima geração da segurança digital, portanto, será construída sobre uma premissa simples: quanto mais autonomia concedida às máquinas, maior deverá ser a capacidade de supervisioná-las.