Coinbase (COIN) a déclaré que son agent de prévention des arnaques basé sur l'IA a empêché environ 4,7 millions de dollars de fonds de clients d'atteindre les escrocs qui utilisaient un deepfake d'Elon Musk pour promouvoir un faux tirage de cryptomonnaies Tesla, bloquant ainsi près de 91 % des fonds que les clients tentaient d'envoyer. La plateforme d'échange a décrit l'incident dans un article de blog publié mardi, dans le cadre d'une série hebdomadaire sur la protection des consommateurs. Elle a indiqué que le système avait fonctionné « sans intervention humaine ».

Ces deux chiffres impliquent que les clients ont tenté d'envoyer environ 5,2 millions de dollars, et qu'environ 460 000 dollars ont tout de même quitté leurs comptes. Coinbase n'a pas précisé combien de fonds ont atteint les escrocs.

Une diffusion en direct qui n'était pas réelle

L'arnaque s'est déroulée pendant la démonstration de la « voiture volante » de Tesla. Les escrocs ont mis en place une diffusion en direct sur YouTube qui ressemblait à la véritable émission, avec un deepfake de Musk, des adresses de portefeuille à l'écran et un code QR. La diffusion promettait de doubler toute cryptomonnaie envoyée, et plus d'un demi-million de personnes l'ont regardée, selon Coinbase.

En l'espace d'environ deux heures, des centaines de clients de Coinbase ont tenté d'envoyer des millions de dollars vers les adresses affichées à l'écran. Beaucoup étaient des utilisateurs de longue date. Coinbase n'a pas précisé quand le faux flux avait été diffusé ni quelles cryptomonnaies les clients avaient tenté d'envoyer.

L'entreprise a souligné que sa plateforme n'avait pas été compromise. « Personne n'a été piraté », a écrit Coinbase. « Aucun compte Coinbase n'a été forcé, aucun mot de passe n'a été volé, aucun identifiant n'a été hameçonné. » C'est précisément ce qui rend la fraude aux giveaways difficile à enrayer : la plupart des défenses recherchent des activités non autorisées par le titulaire du compte, or ici les clients se sont connectés et ont appuyé eux-mêmes sur confirmer.

« Nos systèmes peuvent détecter des signaux de risque en temps réel. Ils ne peuvent pas voir l'intention », indique le billet.

Comment fonctionne l'agent

Coinbase a indiqué que sa défense repose sur trois volets. Des modèles d'apprentissage automatique évaluent d'abord en temps réel les envois sortants, en recherchant des schémas de type « giveaway », l'usurpation de marque et les adresses de portefeuille nouvellement créées. L'objectif, a écrit l'entreprise, est « de détecter le danger, pas le client ». Lorsqu'un envoi est signalé, un agent spécialisé dans les arnaques prend le relais : il recherche le contexte, identifie le schéma d'arnaque, explique le fonctionnement des stratagèmes de type « giveaway » et pose des questions destinées à faire s'effondrer le récit.

Chaque réponse est évaluée selon un score de confiance avant d'être présentée au client, afin que le système sache quand une situation nécessite davantage de friction. L'agent n'avait jamais été entraîné sur ce type d'escroquerie, a précisé Coinbase. Les « giveaways » en deepfake liés au lancement d'un produit en direct ne figuraient pas dans ses données d'entraînement.

« Il a malgré tout reconnu la forme du stratagème », a écrit l'entreprise, en pointant la promesse de multiplier les fonds, l'échéance d'un événement en direct et un transfert impossible à annuler.

Des faux moins coûteux

Coinbase a déclaré que les deepfakes ont changé l'économie de l'arnaque. Monter une opération de ce genre prenait autrefois « une équipe, un studio et des semaines », écrit-elle. « Aujourd'hui, il suffit d'un créneau de diffusion en direct et d'un modèle. » L'entreprise indique qu'elle étend l'examen par IA des envois à risque à tous les types d'arnaques, et pas seulement aux plus médiatisées, et qu'elle utilise aussi l'IA pour étiqueter les nouveaux cas d'arnaque afin que ses modèles apprennent des attaques en quelques heures plutôt qu'en quelques semaines.

L'ingénierie sociale est un problème récurrent pour les clients de Coinbase. En septembre, un homme de Brooklyn a été condamné à 12 ans de prison pour une arnaque d'hameçonnage de 16 millions de dollars visant Coinbase. Cette semaine, des clients de Trezor ont signalé des appels frauduleux après qu'une faille chez le partenaire d'expédition du fabricant de portefeuilles matériels a exposé 27 000 commandes.

La publication est parue le jour même où Coinbase a lancé un plugin ChatGPT pour le trading de bitcoin, d'actions et de produits dérivés, qui exige des utilisateurs qu'ils approuvent chaque ordre. Coinbase a conclu la publication par une liste de choses qu'elle ne fera jamais, notamment promettre de doubler, tripler ou multiplier les cryptomonnaies que les clients envoient.

« Aucune entité légitime ne doublera vos cryptomonnaies », a écrit l'entreprise.