Eddy Fathi

Por Que Criamos um Modelo Base para Dados Tabulares e Deixamos os Embeddings de Lado

Publicado

Publicado

Eddy Fathi
Conteúdos

Compartilhe este artigo

Na maior parte da última década, se você precisava de um modelo de aprendizado de máquina para detecção de fraudes, AML ou crédito que se sustentasse em produção, você treinava uma árvore com gradient boosting. O XGBoost não venceu porque a pesquisa não tinha nada melhor. Venceu porque nada mais igualava seu custo, sua velocidade e sua facilidade de explicação. O deep learning exigia treinamento caro em GPUs, tinha uma inferência mais lenta e deixava as equipes de risco defendendo um modelo que a maioria via como uma caixa-preta. Isso o manteve nas mãos de equipes avançadas de ciência de dados dispostas a fazer o trabalho necessário para fazê-lo funcionar em produção. Nós somos uma dessas equipes, mas, para a maior parte do setor, o XGBoost se tornou o padrão.

A Oscilar construiu sua prática de modelagem com base nessa abordagem, de forma intencional. Para cada cliente e cada tipo de risco, criamos um modelo dedicado, treinado com os próprios dados do cliente e ajustado por um cientista de dados aos seus padrões de fraude, produtos e apetite ao risco. Um modelo ajustado aos dados de um cliente supera um modelo genérico criado para todos e, embora esse desempenho seja o objetivo, o contraponto é o esforço. Cada modelo leva semanas de trabalho de ciência de dados para ser construído, precisa ser retreinado para acompanhar novos rótulos, e cada novo cliente ou tipo de risco adiciona mais um modelo para manter.

Então, nossa equipe de ciência de dados fez uma pergunta diferente:  

Poderíamos manter o desempenho de um modelo personalizado, nos mantermos atualizados com cada resultado confirmado e ainda explicar cada decisão como o XGBoost faz, mas sem construir e retreinar um novo modelo a cada vez?

Esse é o modelo de fundação tabular que construímos. Cada previsão ainda é moldada pelos próprios dados e rótulos do cliente. A personalização acontece no contexto do modelo no momento da decisão, em vez de exigir semanas de treinamento.

Esta publicação aborda como pensamos sobre isso, incluindo o que é um modelo de fundação tabular, as três maneiras pelas quais o setor está aplicando modelos de fundação ao risco e por que escolhemos esta opção.

O que é um modelo de fundação tabular?

Um modelo de fundação tabular é pré-treinado em grandes volumes de dados estruturados em linhas e colunas, permitindo fazer previsões em uma nova tabela sem ter visto esses dados antes ou ter sido treinado neles. Em vez de retreinar com os dados de cada cliente, ele lê exemplos rotulados e a transação recebida como contexto no momento da decisão, retornando uma pontuação diretamente.

"Modelo de fundação" virou sinônimo de chatbots, mas os grandes modelos de linguagem (LLMs) são apenas uma família. A ideia fundamental é mais ampla, assim como a arquitetura. A maioria dos modelos de fundação, incluindo os LLMs, é baseada em transformers, e os transformers vêm em diferentes formatos.

O nosso é um transformer criado para tabelas. Em vez de ler palavras em uma frase, ele lê linhas e colunas e usa atenção para ponderar quais exemplos e variáveis anteriores são mais relevantes para a transação em análise. Você pré-treina o modelo uma única vez em uma base de dados ampla e variada para que ele aprenda padrões gerais e, depois, ele consegue lidar com novas tarefas sem precisar ser treinado do zero.


Quando você faz uma pergunta a um LLM, ele não retreina com a sua pergunta. Ele lê o seu prompt e responde. Um modelo de fundação tabular faz o mesmo com linhas e colunas. O "prompt" é o histórico rotulado de um cliente: transações, solicitações, contas e os resultados confirmados para elas. A resposta é uma pontuação de risco.

A entrada não contém texto livre, portanto o modelo não tem sobre o que alucinar. Ele lê os mesmos dados estruturados que nossos modelos já utilizam. Também é um modelo diferente dos LLMs por trás do nosso Copilot de IA e agentes. Nós mesmos hospedamos o modelo de risco, sem nenhuma API de terceiros no caminho da decisão.

Três maneiras de aplicar modelos de fundação à tomada de decisão de fraude e risco

O setor tem adotado basicamente três abordagens.

1. Embeddings inseridos em outro modelo. Esse é o caminho seguido por arquiteturas como TabBert, FATA-Trans e TransTab. Cada transação se torna um vetor de alta dimensão, e esse vetor vai para um classificador, como o XGBoost, ao lado dos atributos existentes. Isso pode trazer melhorias, mas também adiciona um segundo modelo. A decisão passa a depender de centenas de dimensões inexplicáveis, e gerar esses vetores em tempo real é custoso. 

2. Modelos de fundação relacionais.  O KumoRFM é o mais conhecido por essa abordagem. A vantagem é a capacidade de ler muitas tabelas ao mesmo tempo, eliminando a engenharia de atributos. No entanto, há desvantagens significativas. Esses modelos sofrem com altos custos de computação, retreinamento diário e exigem um modelo destilado para atender à latência. Eles também geram embeddings em vez de pontuações diretas, portanto um modelo downstream ainda toma a decisão, e qualquer alteração no esquema afeta todas as etapas do pipeline. As mudanças levam pelo menos um dia para entrar em vigor, o que significa que o modelo não é tão ágil quanto as alternativas — especialmente em um cenário de fraudes que muda em segundos. Por fim, os modelos relacionais não são explicáveis, uma característica essencial em casos de uso de AML e crédito.

3. Modelos de fundação tabulares. Eles atuam em uma tabela e geram a pontuação diretamente. O treinamento ocorre como parte da inferência. Exemplos conhecidos no mercado são o TabPFN e o TabICL. 

Escolhemos a terceira abordagem e queremos ser claros sobre os custos dessa escolha. Um modelo tabular não elimina a engenharia de atributos, por isso automatizamos esse trabalho. Ele também não atende nativamente à latência em tempo real exigida pela detecção de fraudes, e reduzi-la para menos de 100 milissegundos exigiu um esforço significativo de engenharia. Estávamos dispostos a fazer esse trabalho pelos benefícios que a abordagem oferece em troca.

Benefícios da abordagem com modelo de fundação tabular

Existem cinco benefícios principais ao usar um modelo de fundação tabular em vez de outras abordagens:

  • O treinamento ocorre na inferência. Cada rótulo confirmado orienta a próxima decisão, sem retreinamento noturno e sem esperar pelo próximo ciclo do modelo. Essa é a característica que transforma a operação de uma equipe de risco.

  • Pontuação direta. Um único modelo toma a decisão. Nenhum classificador de segundo estágio fica por trás dele.

  • As explicações funcionam como hoje. As atribuições de atributos SHAP e os códigos de motivo funcionam como no XGBoost, para que auditores e órgãos reguladores analisem os mesmos relatórios com que já estão acostumados. Se um processo de conformidade exigir o formato tradicional, podemos destilar a solução em um modelo padrão do XGBoost.

  • Os atributos mudam em segundos. Adicionar, remover ou alterar um atributo não exige reconstruir o modelo. Assim que os dados que chegam ao modelo mudam, ele já está pronto.

  • Um modelo cobre fraude, AML, crédito e risco comportamental e de dispositivo. Aprimoramos e mantemos um único ativo em vez de uma frota crescente de modelos sob medida. O tempo de desenvolvimento cai de semanas para dias.


Como é o desempenho

Os resultados variam conforme o conjunto de dados e o caso de uso. Em nossos testes, o modelo de fundação tabular aumentou a taxa de recuperação (recall) entre 35% e 65% para a mesma taxa de impacto em alguns conjuntos de dados: ele detecta mais fraudes sem bloquear mais clientes legítimos. Em outros, ele tem desempenho similar ao XGBoost. Mesmo nesses casos, você obtém essa precisão com um único modelo compartilhado que atualiza seu contexto em segundos, sem precisar esperar por um retreinamento.


Ele se destaca mais claramente quando os rótulos são escassos. Um modelo XGBoost individual precisa de um histórico longo rotulado para ser confiável. Já o modelo tabular parte do que aprendeu no pré-treinamento, permitindo que um conjunto menor de casos confirmados tenha um impacto muito maior.

Com o que o modelo é treinado

O modelo é pré-treinado offline com padrões de fraude do setor e cenários de ataque sintéticos, preparados inclusive para padrões que ninguém rotulou ainda. No momento da decisão, os casos confirmados do cliente entram como contexto.

Os dados e rótulos de cada cliente são usados apenas para as previsões daquele cliente. Eles nunca influenciam os resultados de outras empresas.

O modelo ainda precisa de rótulos. Para alguns casos de uso (ACH, AML, depósito com cartão e sinais de dispositivo e comportamento), temos versões ajustadas que funcionam perfeitamente desde o primeiro dia. Em todos os outros casos, o valor cresce à medida que os resultados confirmados retornam rapidamente. Equipes com poucos dados rotulados ainda têm ótimos resultados, pois é aí que a vantagem do modelo sobre o XGBoost é maior.

Modelos de fundação tabulares x modelos de consórcio

Os modelos de consórcio agrupam dados rotulados de vários participantes e treinam um único modelo para um único caso de uso. Eles funcionam de imediato, o que é seu principal atrativo. Mas também demoram para atualizar, tendem a favorecer os maiores participantes, dependem do próximo ciclo de treinamento para qualquer mudança de atributo e conhecem apenas os padrões que seus membros já viram.

É assim que vemos os modelos de consórcio: são uma versão mais restrita de um modelo de fundação. Um consórcio reúne dados de seus membros, treina uma vez e precisa esperar o próximo ciclo para aprender algo novo. Além disso, cobre apenas um caso de uso. O modelo de fundação tabular, por sua vez, lê os dados rotulados diretamente no momento da decisão.

Com os rótulos certos em seu contexto, ele faz o mesmo que um modelo de consórcio faria e, ao trocar o contexto, pode assumir uma tarefa diferente. Novos rótulos já contam na decisão seguinte. É por isso que chamamos o modelo de consórcio de um modelo de fundação cujo contexto não pode ser alterado. Como o contexto de cada cliente é composto por seus próprios dados e rótulos, nada disso exige o compartilhamento de informações com outras empresas.


O modelo não é o diferencial competitivo

Não tentamos superar os grandes laboratórios de IA em escala bruta de treinamento, e nem precisamos. A pesquisa sobre modelos de fundação tabulares é aberta. O que define se um modelo funciona em um ambiente real de risco é a estrutura ao redor: quais dados ele vê, a rapidez da resposta, a clareza das explicações e como ele é monitorado e implementado.

É aí que nossa equipe de ciência de dados investe seu tempo. Sem a necessidade de treinar modelos individuais por cliente, o principal fator de desempenho é o que chamamos de engenharia contínua de contexto tabular: decidir o que o modelo analisa a cada decisão. É uma disciplina recente e onde planejamos continuar nos destacando.

O que isso muda para as equipes de risco

  • Modelos mais rápidos. Criar um modelo hoje leva semanas em vez de meses, e nosso objetivo é chegar a uma semana para lançar um endpoint pronto para pontuar transações em produção.

  • Decisões sempre atualizadas. O modelo aprende hoje com as fraudes confirmadas hoje, não após o próximo retreino. Atualizamos o contexto em segundos (5,8 segundos, para ser exato) sem interromper a pontuação em tempo real.

  • A mesma trilha de auditoria. Você mantém os mesmos códigos de motivo e atribuições de atributos, e a mesma resposta clara quando um regulador fizer perguntas.

  • Uma base mais sólida para agentes de IA. Os agentes investigam, redigem históricos de casos e sugerem regras, enquanto o modelo e suas regras tomam as decisões. Como o modelo gera códigos de motivo, tanto seus analistas quanto seus agentes conseguem explicar exatamente o que aconteceu.


Onde estamos

Nossos esforços valeram a pena. O projeto nos deu um modelo com excelente desempenho que realiza pontuação em tempo real, em vez de depender de atualizações diárias de embeddings. Nossos clientes de serviços gerenciados contra fraudes já usam isso em produção, e estamos trabalhando com os demais para migrá-los para o modelo de fundação. Com nossa abordagem de modelo tabular, alcançamos velocidade e alto desempenho. Quanto aos custos: nenhuma GPU é tão cara quanto um cientista de dados experiente. 

Fique atento ao nosso próximo webinar, onde Saurabh Bajaj e Eddy Fathi apresentarão essa abordagem ao vivo, incluindo uma demonstração interativa de como o modelo fundamenta suas decisões.

Perguntas frequentes

O que é um modelo de fundação tabular?

É um modelo pré-treinado em grandes volumes de dados estruturados em linhas e colunas que faz previsões em uma nova tabela sem precisar ser treinado do zero. Ele lê o histórico rotulado de um cliente como contexto no momento da decisão e retorna uma pontuação de risco diretamente.

Qual é a diferença entre um modelo de fundação tabular e o XGBoost?

Um modelo XGBoost é geralmente treinado para um cliente e um tipo de risco específico, precisando ser retreinado à medida que novos rótulos chegam. O modelo tabular atende a vários clientes e tipos de risco, e cada rótulo confirmado orienta a decisão seguinte sem necessidade de retreino. As explicações continuam as mesmas: atribuições de atributos SHAP e códigos de motivo.

Reguladores e auditores podem revisar as decisões?

Sim. Ele gera os mesmos relatórios de atributos SHAP e códigos de motivo do XGBoost. Se um processo de conformidade exigir o formato tradicional, o modelo pode ser destilado em um modelo XGBoost padrão.

O modelo de fundação tabular é um modelo de linguagem grande (LLM)?

Não. Ele lê apenas dados estruturados, sem texto livre, portanto não tem sobre o que alucinar. A própria Oscilar hospeda o modelo, sem APIs de terceiros no processo de decisão.

Os dados de um cliente afetam as pontuações de outro?

Não. Os dados e rótulos de cada cliente são utilizados exclusivamente nas previsões daquele próprio cliente.

Eddy Fathi

Responsável pela Ciência de Dados

Continue lendo