LLM na prevenção de fraudes e gestão de risco: tecnologias, expectativas e limitações no mundo real

A inteligência artificial continua a transformar o cenário tecnológico em um ritmo sem precedentes. Uma de suas direções mais influentes — os modelos generativos e os modelos de linguagem em larga escala (LLMs) — já está transformando busca, desenvolvimento de software, mídia e serviços direcionados ao cliente. Na gestão de risco digital, essas tecnologias começam a aumentar a produtividade dos analistas, acelerar investigações e melhorar a compreensão de padrões complexos de fraude. Uma nova fase da IA abre caminho para avanços significativos.

A IA já gera valor concreto na prevenção de fraudes e na gestão de risco. Isso vai além de modelos individuais e envolve todo o ecossistema: processamento de dados, automação de processos, eficiência dos analistas e velocidade de investigação. A IA permite que organizações processem grandes volumes de informação mais rapidamente, identifiquem padrões e melhorem a qualidade das decisões.

Ao mesmo tempo, é importante distinguir entre o avanço mais amplo da IA e o foco atual do mercado em modelos generativos e LLMs. Hoje, os LLMs se tornaram uma tendência tecnológica central e frequentemente são percebidos como uma solução universal para uma ampla variedade de casos de uso. No entanto, no contexto da gestão de risco, essas expectativas exigem uma perspectiva mais pragmática e equilibrada.

O valor real dos LLMs hoje está principalmente em aumentar a produtividade humana, automatizar tarefas complexas e trabalhar com dados não estruturados — e não em tomar decisões de risco diretamente ou assumir responsabilidade por elas. Ao analisar seu papel na prevenção de fraudes, é essencial separar aplicações práticas das expectativas do mercado.

Também é importante reconhecer que sistemas de gestão de risco são construídos com base em processos auditáveis, infraestrutura, dados e, de forma crítica, sinais e variáveis de risco explicáveis. Requisitos de interpretabilidade, controle e validação estatística reprodutível moldam a arquitetura desses sistemas.

Hype dos LLMs vs. a realidade da gestão de risco

Uma forte onda de entusiasmo tecnológico se formou em torno dos LLMs. Nos últimos dois anos, a IA se consolidou como uma das principais narrativas da indústria de tecnologia. Quase toda nova solução — de plataformas de atendimento ao cliente a sistemas de segurança — é posicionada como baseada em IA. Os modelos generativos se tornaram um símbolo de progresso tecnológico, e as expectativas frequentemente superam as capacidades reais.

A indústria de prevenção de fraudes não é exceção. Com o avanço de ferramentas como ChatGPT, Claude, DeepSeek, Grok e Gemini, cresce a percepção de que essas tecnologias podem detectar fraudes automaticamente com precisão quase perfeita ao analisar grandes volumes de dados. Essa narrativa é amplamente reforçada pelo mercado.

No entanto, a arquitetura dos sistemas de gestão de risco é fundamentalmente diferente. Em seu núcleo estão sinais e variáveis que descrevem o comportamento do usuário, as características do dispositivo e o contexto da transação. Eles formam a camada de informação sobre a qual os modelos analíticos operam.

A criação de novas variáveis de alta qualidade é um desafio de engenharia especializado. Essas variáveis podem capturar comportamento do dispositivo, infraestrutura de rede, padrões de usuários virtuais, presença de malware ou sinais agregados de atividade. Sem essa camada, até mesmo o modelo mais avançado tem valor prático limitado.

Historicamente, o avanço na prevenção de fraudes não foi impulsionado apenas por novos modelos, mas principalmente pelo surgimento e pela qualidade de novas variáveis informativas. São essas variáveis que permitem distinguir com mais precisão entre comportamentos legítimos e fraudulentos.

Modelos generativos e o problema da explicabilidade

Modelos generativos, incluindo sistemas do tipo GPT, são treinados com grandes volumes de dados textuais e otimizados para trabalhar com informações não estruturadas.

A gestão de risco, por outro lado, depende de variáveis estruturadas, relações estatísticas rigorosas e dados de entrada de alta qualidade. Modelos generativos não produzem automaticamente variáveis de risco validadas e estatisticamente relevantes, nem garantem o nível de qualidade e confiabilidade dos dados necessário para decisões financeiras.

As decisões em sistemas financeiros precisam ser explicáveis — tanto por exigências regulatórias quanto por necessidades operacionais. Bancos e empresas fintech operam em ambientes regulados, onde é essencial entender os fatores por trás de cada decisão.

Modelos modernos de redes neurais (incluindo, entre outros, os LLMs) geram representações latentes dos dados — camadas e embeddings (representações vetoriais) — sem expor a estrutura original. Essas representações permitem generalização, mas frequentemente são opacas e difíceis de interpretar. Quando usadas como base para decisões, explicar sua lógica se torna extremamente desafiador, exceto em abordagens emergentes como redes KN.

Isso leva a uma limitação fundamental: reguladores exigem variáveis e metodologias que possam ser testadas, validadas, interpretadas e auditadas. Representações opacas não atendem a esses requisitos, o que limita significativamente sua aplicação em sistemas de gestão de risco.

Onde os LLMs geram valor real na gestão de risco

Apesar dessas limitações, modelos generativos podem gerar valor significativo dentro da infraestrutura de análise antifraude. Seu papel principal não é a tomada de decisão, mas ganhos mensuráveis de produtividade e velocidade ao lidar com grandes volumes de informação em investigações complexas.

Em equipes modernas de fraude, analistas, engenheiros e profissionais de risco processam diariamente grandes volumes de dados: logs, transações, descrições de casos, documentação técnica e inteligência externa sobre novos esquemas de fraude. Nesse contexto, os LLMs atuam como ferramentas avançadas de produtividade.

Hoje, os principais casos de uso incluem:

• acelerar investigações manuais por meio da agregação automatizada de casos, logs e históricos de transações;
• auxiliar analistas na pesquisa de novos esquemas de fraude e na recuperação de informações relevantes com base em padrões predefinidos;
• gerar relatórios analíticos e documentação com base em templates estruturados;
• processar dados não estruturados, como comunicações de usuários;
• apoiar fluxos de trabalho de engenharia, incluindo geração de código, testes e documentação.

Nesses cenários, os LLMs funcionam como multiplicadores de capacidade para equipes operacionais.

Limitações fundamentais dos LLMs na gestão de risco e prevenção de fraudes

Apesar dos avanços rápidos, existem limitações estruturais que tornam o uso de LLMs na gestão de risco muito mais complexo do que frequentemente se apresenta.

1. Qualidade e confiabilidade dos dados

Os LLMs são treinados principalmente com dados de código aberto, que são inerentemente heterogêneos e podem conter informações incompletas, desatualizadas ou incorretas. Como resultado, os modelos podem gerar respostas plausíveis, porém incorretas — conhecidas como alucinações (respostas plausíveis, porém incorretas).

Embora isso seja aceitável em muitos casos de uso voltados ao consumidor, na gestão de risco representa um problema crítico, já que as decisões afetam diretamente operações financeiras e o acesso dos usuários.

2. Alucinações sistêmicas

Além de erros isolados, alucinações sistêmicas podem representar riscos significativos. Os LLMs se baseiam em arquiteturas de aproximação com mecanismos probabilísticos de previsão de tokens e não oferecem controle de erro no nível exigido para sistemas críticos.

Atualmente, esses modelos não garantem convergência em probabilidade nem controle de erro suficiente para limitar riscos e evitar falhas sistêmicas. Além disso, trabalhar com distribuições não padrão — como aquelas com caudas pesadas ou eventos raros, comuns em sistemas antifraude — é particularmente complexo em arquiteturas neurais e exige um redesenho significativo das abordagens tradicionais.

Diante dessas limitações, esses riscos precisam ser gerenciados por meio de supervisão humana ou métodos baseados em estatística aplicada e probabilidade, o que impacta tanto o custo quanto a velocidade das decisões.

3. Assimetria entre defesa e capacidades de fraude

Os avanços tecnológicos fortalecem tanto os sistemas defensivos quanto os atacantes. A acessibilidade de ferramentas LLM reduz significativamente a barreira para ataques cibernéticos sofisticados.

Grupos de fraude já utilizam essas tecnologias para automatizar campanhas de phishing, gerar código malicioso, criar cenários de engenharia social e escalar operações. Em muitos casos, a evolução dessas ferramentas ocorre mais rapidamente do que a capacidade de adaptação dos sistemas defensivos.

Isso cria uma assimetria fundamental: atacantes operam com velocidade e experimentação, enquanto sistemas antifraude precisam cumprir requisitos rigorosos de precisão, conformidade e auditabilidade.

4. Responsabilidade nas decisões de risco

Instituições financeiras assumem responsabilidade legal e operacional pelas decisões tomadas por seus sistemas de risco. Ações como bloqueio de transações ou negação de serviços precisam ser justificáveis e explicáveis.

Em diferentes jurisdições, estruturas regulatórias impõem requisitos rigorosos às tecnologias de prevenção de fraudes e gestão de risco, frequentemente incluindo certificações de qualidade, segurança e governança.

Os LLMs ainda não oferecem o nível de previsibilidade e reprodutibilidade necessário. Mesmo pequenas taxas de erro tornam-se inaceitáveis em escala.

5. Riscos de segurança

A integração de LLMs em infraestruturas financeiras introduz novas categorias de risco, incluindo vazamento de dados, ataques de prompt injection, manipulação de modelos, vulnerabilidades embutidas e influência externa sobre as respostas.

Em ambientes que processam transações financeiras, dados de identidade e sinais de fraude, esses riscos exigem estratégias de implementação extremamente rigorosas.

6. Restrições econômicas

Sistemas antifraude modernos operam sob alta demanda, processando milhões de eventos em tempo real. A aplicação de LLMs nesses ambientes pode aumentar significativamente os custos.

A avaliação de um único evento pode exigir de milhares a mais de um milhão de tokens, dependendo do volume de dados. Isso torna a avaliação de risco baseada em LLM economicamente ineficiente em escala.

Para que os LLMs se tornem viáveis operacionalmente, o custo computacional precisaria ser reduzido em uma ordem de grandeza — potencialmente entre 10 e 50 vezes por requisição.

7. Desempenho e latência

Ambientes de alta demanda exigem o processamento de milhares a milhões de requisições por segundo, com tempos de resposta geralmente abaixo de um segundo.

Sistemas atuais baseados em LLM frequentemente operam com latências que variam de segundos a minutos, mesmo sob cargas moderadas. Alcançar o desempenho necessário exigiria investimentos significativos em infraestrutura, aumentando ainda mais os custos operacionais.

O futuro dos LLMs na gestão de risco

Nos próximos anos, a IA generativa se tornará uma parte integrante das ferramentas de fraude e gestão de risco. Seu papel principal será aumentar a produtividade dos analistas, acelerar o processamento de dados e melhorar o trabalho com informações não estruturadas.

Dadas as limitações estruturais dos LLMs, a demanda tende a crescer em três áreas principais:

• soluções LLM específicas, leves e implementáveis (on-premise), com código auditável e dados de treinamento controlados;
• frameworks LLM de código aberto e personalizáveis (incluindo arquiteturas RAG), que permitam adaptação mais segura a requisitos regulatórios e de controle de dados;
• uso de LLMs como componentes dentro de sistemas de IA mais amplos, onde automatizam processos complexos cujo custo supera significativamente o custo de sua implementação.