Quando o Secretário do Tesouro, Scott Bessent, e o Presidente do Federal Reserve, Jay Powellreuniram os chefes executivos das principais instituições bancárias dos EUA no início deste mês para discutir o modelo mais recente da Anthropic, Mythos, sinalizaram uma mudança na forma como a inteligência artificial está sendo compreendida nas finanças. Esse não foi um encontro sobre inovação, mas um alerta: modelos capazes de identificar e explorar vulnerabilidades podem representar um risco significativo para a infraestrutura financeira essencial.
Essa preocupação é justificável. Contudo, o foco permanece restrito.
Nos últimos anos, em discussões com instituições financeiras de destaque, percebi como a preocupação aumenta rapidamente assim que os usos adversos da IA são compreendidos. Entretanto, a transformação em ação continua lenta e desigual. Grande parte da atenção atual está voltada para o risco cibernético. Esse é um perigo sério. Mas não é o único, nem o mais imediato.
Além dos riscos destacados pelo Mythos, uma ameaça paralela já está se desenrolando em larga escala. Esta não depende de novos modelos fronteiriços, mas de capacidades de IA que já estão amplamente disponíveis. E, ao contrário dos ataques cibernéticos, que requerem acesso a sistemas, essa ameaça opera visando as pessoas.
Não é Apenas a Sofisticação que Mudou — É a Economia
A inteligência artificial tornou a fraude dramaticamente mais barata, mais fácil de executar e muito mais escalável. O que antes exigia tempo e coordenação agora pode ser automatizado e implantado em escala industrial. Sistemas de IA podem gerar milhares de mensagens, vozes e vídeos convincentes em segundos, cada um adaptado a um indivíduo específico. Isso não é um avanço incremental. É estrutural.
A fraude mudou de uma atividade manual para uma dirigida por máquinas. Campanhas de engenharia social hiper-personalizadas, frequentemente impulsionadas por agentes de IA, agora operam em múltiplos canais, jurisdições e identidades. Elas se passam por executivos, consultores ou membros da família com uma credibilidade crescente, criando urgência e induzindo transferências autorizadas.
Nesses cenários, o sistema não é invadido. Ele é contornado.
O Sistema Não é Hackeado. O Cliente é Convencido.
Os clientes não são necessariamente hackeados. Eles são convencidos. E, uma vez que as transações são autorizadas, as salvaguardas existentes costumam ser ineficazes. Verificações biométricas podem ser derrotadas por deepfakes. O monitoramento baseado em regras está calibrado para detectar fraudadores humanos, não redes coordenadas de agentes de IA operando em velocidade de máquina.
Isso cria um tipo de risco fundamentalmente diferente.
Diferentemente dos ataques cibernéticos, que tendem a ser episódicos e visíveis, a fraude potencializada por IA opera como um vazamento contínuo e distribuído de fundos em milhões de transações. É uma ameaça sorrateira: mais fácil de executar, mais rápida de escalar e muitas vezes invisível até que as perdas se tornem significativas. A trajetória aponta para trilhões de dólares em perdas nos próximos anos.
O Risco Não é Apenas Financeiro
Se o público passar a acreditar que as instituições financeiras não podem proteger os clientes de manipulação e fraude, a confiança no sistema será corroída. As consequências se estenderão além das perdas. O atrito aumentará, os clientes hesitarão e a confiança na capacidade dos bancos de proteger o dinheiro pode enfraquecer de maneiras tão prejudiciais quanto as ameaças cibernéticas.
Esta não é uma ameaça maior do que o risco cibernético. É uma ameaça paralela. E merece atenção semelhante.
Uma Redesign da Defesa, Não uma Correção Incremental
A maioria das instituições ainda depende de dados fragmentados, monitoramento legado e análise liderada por humanos que não conseguem acompanhar as ameaças adaptativas e dirigidas por IA. Uma resposta significativa exige um redesign arquitetônico: detecção em tempo real, nativa de IA; integração de fraudes, AML e sinais comportamentais; e a capacidade de intervir no ponto da transação, incluindo em pagamentos autorizados.
Isso também requer uma mudança de defesa isolada para coordenada. Campanhas de fraude visam clientes em várias instituições simultaneamente, enquanto os controles permanecem isolados. Uma resposta eficaz depende de identificar padrões e campanhas em tempo real. Considerações sobre privacidade e competição continuam importantes, mas não podem mais justificar lacunas estruturais. Tecnologias que preservam a privacidade oferecem um caminho a seguir, permitindo que as instituições compartilhem sinais sem expor dados sensíveis.
Em paralelo, as instituições precisam adotar uma abordagem de “Defesa IA”: usar IA para se defender contra ameaças dirigidas por IA. As linhas de defesa exclusivamente humanas não conseguem escalar. Sistemas nativos de IA devem apoiar a detecção e resposta mais rápidas sob supervisão humana.
Os Reguladores Também Precisam se Reunir sobre Isso — Antes que a Catástrofe Chegue
A lição do momento Mythos não é apenas que a IA pode romper sistemas. É que o sistema financeiro já está sendo explorado de uma maneira que é menos visível, mais escalável e potencialmente tão corrosiva.
Se o sistema financeiro não responder rapidamente, as consequências serão severas: aumento das perdas, aumento do atrito e uma significativa erosão da confiança pública.
Os reguladores devem convocar líderes financeiros seniores sobre este assunto também, como um risco paralelo de IA, antes que uma catástrofe que já está ao alcance de agentes mal-intencionados se materialize plenamente. O sistema financeiro, o setor de tecnologia e os formuladores de políticas devem agora reconhecer a escala dessa vulnerabilidade e agir com muito mais urgência.
As opiniões expressas nas peças de comentário do Fortune.com são exclusivamente as visões de seus autores e não refletem necessariamente as opiniões e crenças da Fortune.
