Microsoft, Google e pesquisadores alertam: Agentes de IA podem 'alucinar' e evaporar seu dinheiro sem responsabilidade

Um cenário de pesadelo financeiro está se tornando possível: você pede a um agente de inteligência artificial para converter US$ 10.000 em dólares canadenses, mas o sistema interpreta mal os comandos, faz uma aposta alavancada não autorizada e seu capital evapora. A pergunta crucial que surge, e para a qual ainda não há resposta, é: quem é o responsável? Quem devolve o dinheiro? Atualmente, ninguém. Esta lacuna de responsabilidade é apontada por um grupo de pesquisadores de peso como a vulnerabilidade definidora da era dos agentes de IA financeiros.

A gravidade do risco levou especialistas da Microsoft Research, da Universidade Columbia, do Google DeepMind, do Virtuals Protocol e da startup T54 Labs a publicar, em 8 de abril, uma proposta concreta para enfrentar o problema. Eles desenvolveram uma nova estrutura abrangente de proteção financeira, chamada Agentic Risk Standard (ARS). O padrão, que é de código aberto e está disponível no GitHub via T54 Labs, tem um objetivo claro: fazer pelos agentes de IA o que a custódia de ativos, os seguros e as câmaras de compensação fazem pelas transações financeiras tradicionais. É uma tentativa de criar regras do jogo antes que os prejuízos se multipliquem.

A proposta surge em um momento de crescente alerta sobre os riscos sistêmicos da IA para o setor financeiro, como evidenciado por recentes advertências do Fundo Monetário Internacional (FMI). A ausência de um marco regulatório e de mecanismos de compensação para erros ou 'alucinações' de agentes autônomos cria uma zona de perigo para investidores e para a estabilidade do mercado. A implementação de um padrão como o ARS representaria um primeiro passo crítico para atribuir responsabilidades, estabelecer garantias e, em última análise, proteger o capital dos usuários contra falhas catastróficas de sistemas automatizados que agem com autonomia indevida.