コインベース、AIがディープフェイクのイーロン・マスク詐欺で470万ドルを阻止したと発表

Bitcoin Magazine コインベース、AIがディープフェイクのイーロン・マスク詐欺で470万ドルを阻止したと発表 コインベースは、同社のAI詐欺防止エージェントが、顧客が送金しようとした資金のうち約470万ドル、およそ91%を、イーロン・マスクのディープフェイクを使って暗号資産の配布を持ちかける詐欺師たちの手に渡るのを阻止したと述べた。この記事「コインベース、AIがディープフェイクのイーロン・マスク詐欺で470万ドルを阻止したと発表」はBitcoin Magazineに最初に掲載されたもので、執筆者はMicah Zimmermanである。
コインベース(COIN)は、同社のAI詐欺防止エージェントが、イーロン・マスクのディープフェイクを使って偽のテスラ暗号資産配布を持ちかけた詐欺師たちに顧客資金約470万ドルが渡るのを阻止し、顧客が送金しようとした資金のおよそ91%を食い止めたと述べた。同取引所は火曜日のブログ投稿でこの件を説明したもので、消費者保護に関する週次シリーズの一環である。同社は、このシステムが「人間を介在させずに」機能したと述べた。
この2つの数字から、顧客は約520万ドルを送金しようとし、約46万ドルが依然として口座から流出したことがうかがえる。コインベースは、詐欺師にいくら渡ったかは明らかにしていない。
本物ではなかったライブ配信
この詐欺はテスラの「空飛ぶ車」のデモ中に実行された。詐欺師たちは、本物の放送に見せかけたYouTubeライブ配信を設定し、ディープフェイクのマスク氏、画面上のウォレットアドレス、QRコードを用意した。配信は送金された暗号資産を2倍にして返すと約束し、50万人以上が視聴したとコインベースは述べた。
約2時間の間に、数百人のCoinbase顧客が画面上のアドレスに数百万ドルを送ろうとした。多くは長年の利用者だった。Coinbaseは、偽の配信がいつ行われたか、顧客がどのコインを送ろうとしたかは明らかにしていない。
同社は、自社プラットフォームが侵害されたわけではないと強調した。「誰もハッキングされていない」とCoinbaseは記した。「Coinbaseアカウントへの不正侵入も、パスワードの盗難も、認証情報のフィッシングもなかった」。これこそがギブアウェイ詐欺の阻止を難しくしている理由だ。防御策の多くはアカウント保有者が承認していない活動を探すが、今回は顧客自身がログインして確認ボタンを押していたからだ。
「当社のシステムはリスク信号をリアルタイムで検知できる。しかし意図までは見えない」と同投稿は述べている。
エージェントの仕組み
コインベースによると、その防御策は3つの部分から成る。まず機械学習モデルが送金をリアルタイムでスコアリングし、ギブアウェイのパターン、ブランドのなりすまし、新規作成されたウォレットアドレスを監視する。同社は、その目的は「顧客ではなく危険を捉えることだ」と記した。送金がフラグ立てされると、詐欺専用のエージェントが引き継ぎ、文脈を調べ、詐欺のパターンを特定し、ギブアウェイ詐欺の仕組みを説明し、その話の矛盾を暴くことを意図した質問をする。
顧客が目にする前に、各返信は信頼度でスコアリングされるため、システムは状況により多くの摩擦が必要な時を把握できる。コインベースによると、このエージェントはこの種の詐欺で訓練されたことはなかった。実際の製品発表に紐づくディープフェイクのギブアウェイは、その訓練データには含まれていなかった。
「それでも同社はこの手口の形を認識した」と同社は書き、資金を増やすという約束、ライブイベントという期限、そして取り消しのできない送金を指摘した。
より安価な偽物
コインベースは、ディープフェイクがこの詐欺の経済性を変えたと述べた。かつてこのような仕掛けを準備するには「クルーとスタジオ、そして数週間」が必要だったと同社は書いた。「今ではライブ配信の枠とモデル一つで済む」。同社は、リスクの高い送金に対するAI審査を著名人を狙ったものだけでなくあらゆる種類の詐欺に拡大していると述べ、さらに新しい詐欺事例にラベルを付けるのにもAIを使っており、モデルが数週間ではなく数時間で攻撃から学習できるようにしていると付け加えた。
ソーシャルエンジニアリングはCoinbaseの顧客にとって絶え間ない問題となっている。9月には、ブルックリン在住の男が1600万ドル規模のCoinbaseフィッシング詐欺に関与したとして懲役12年の判決を受けた。今週は、ハードウェアウォレットメーカーの配送パートナーでの侵害により2万7000件の注文情報が流出した後、Trezorの顧客から詐欺電話の報告が相次いだ。
この投稿は、Coinbaseがビットコイン、株式、デリバティブの取引に対応するChatGPTプラグインを公開したのと同じ日に行われた。このプラグインでは、ユーザーがすべての注文を承認する必要がある。Coinbaseは投稿の最後に、自社が決して行わないことのリストを挙げ、その中には顧客が送金した暗号資産を2倍、3倍、あるいは増やして返すと約束することも含まれていた。
「まともな事業者なら誰も、あなたの暗号資産を2倍にはしない」と同社は記した。


