A Coinbase (COIN) afirmou que seu agente de IA de prevenção a golpes impediu que cerca de US$ 4,7 milhões em fundos de clientes chegassem aos golpistas que usaram um deepfake de Elon Musk para promover uma falsa distribuição de criptomoedas da Tesla, bloqueando aproximadamente 91% do dinheiro que os clientes tentaram enviar. A exchange descreveu o incidente em uma publicação de blog na terça-feira, parte de uma série semanal sobre proteção ao consumidor. Segundo ela, o sistema funcionou “sem intervenção humana”.

Esses dois números implicam que os clientes tentaram enviar cerca de US$ 5,2 milhões, e que aproximadamente US$ 460 mil ainda saíram de suas contas. A Coinbase não informou quanto chegou aos golpistas.

Uma transmissão ao vivo que não era real

O golpe ocorreu durante a demonstração do “carro voador” da Tesla. Os golpistas montaram uma transmissão ao vivo no YouTube que parecia a transmissão real, com um deepfake de Musk, endereços de carteira na tela e um código QR. A transmissão prometia dobrar qualquer criptomoeda enviada a ela, e mais de meio milhão de pessoas assistiram, segundo a Coinbase.

Ao longo de cerca de duas horas, centenas de clientes da Coinbase tentaram enviar milhões de dólares para os endereços exibidos na tela. Muitos eram usuários de longa data. A Coinbase não informou quando a transmissão falsa foi ao ar nem quais moedas os clientes tentaram enviar.

A empresa enfatizou que sua plataforma não foi violada. “Ninguém foi hackeado”, escreveu a Coinbase. “Nenhuma conta da Coinbase foi invadida, nenhuma senha foi roubada, nenhuma credencial foi obtida por phishing.” É isso que torna o fraude de sorteios difícil de deter, já que a maioria das defesas procura atividades que o titular da conta não autorizou, e, neste caso, os próprios clientes fizeram login e pressionaram confirmar.

“Nossos sistemas conseguem ver sinais de risco em tempo real. Não conseguem ver a intenção”, dizia a publicação.

Como o agente funciona

A Coinbase afirmou que sua defesa tem três partes. Modelos de aprendizado de máquina primeiro pontuam as transferências de saída em tempo real, observando padrões de sorteios, falsificação de marca e endereços de carteira recém-criados. O objetivo, escreveu a empresa, é “detectar o perigo, não o cliente”. Quando uma transferência é sinalizada, um agente específico para golpes assume, buscando contexto, nomeando o padrão do golpe, explicando como funcionam os esquemas de sorteio e fazendo perguntas destinadas a desmontar a história.

Cada resposta é pontuada quanto à confiança antes de o cliente vê-la, para que o sistema saiba quando uma situação exige mais atrito. O agente nunca havia sido treinado nesse tipo de golpe, disse a Coinbase. Sorteios com deepfakes vinculados ao lançamento de um produto ao vivo não estavam em seus dados de treinamento.

“Ainda assim, reconheceu o formato do esquema”, escreveu a empresa, apontando para a promessa de multiplicar os fundos, o prazo de um evento ao vivo e uma transferência que não poderia ser revertida.

Falsificações mais baratas

A Coinbase afirmou que os deepfakes mudaram a economia do golpe. Montar algo assim uma vez exigia “uma equipe, um estúdio e semanas”, escreveu. “Agora basta um horário de transmissão ao vivo e um modelo.” A empresa disse que está ampliando a análise por IA de envios de risco para todos os tipos de golpe, não apenas os de grande visibilidade, e também está usando IA para rotular novos casos de golpe, para que seus modelos aprendam com os ataques em horas, em vez de semanas.

A engenharia social tem sido um problema constante para os clientes da Coinbase. Em setembro, um homem do Brooklyn foi condenado a 12 anos de prisão por um golpe de phishing de US$ 16 milhões na Coinbase. Nesta semana, clientes da Trezor relataram ligações fraudulentas após uma violação na parceira de logística da fabricante de carteiras físicas ter exposto 27.000 pedidos.

A publicação surgiu no mesmo dia em que a Coinbase lançou um plugin do ChatGPT para negociar bitcoin, ações e derivativos, que exige que os usuários aprovem cada ordem. A Coinbase encerrou a publicação com uma lista de coisas que nunca fará, incluindo prometer dobrar, triplicar ou multiplicar as criptomoedas que os clientes enviarem.

“Ninguém legítimo vai dobrar suas criptomoedas”, escreveu a empresa.