Coinbase称其AI拦截了深度伪造埃隆·马斯克骗局中的470万美元

Bitcoin Magazine Coinbase称其AI拦截了深度伪造埃隆·马斯克骗局中的470万美元 Coinbase表示,其AI防诈骗代理阻止了约470万美元、约占客户试图转出资金的91%,使其未能落入运营深度伪造埃隆·马斯克加密货币赠送骗局的诈骗分子手中。本文《Coinbase称其AI拦截了深度伪造埃隆·马斯克骗局中的470万美元》首次发表于Bitcoin Magazine,作者为Micah Zimmerman。
Coinbase(COIN)表示,其AI防诈骗代理阻止了约470万美元客户资金落入诈骗分子手中,这些诈骗分子利用深度伪造的埃隆·马斯克推销一场虚假的特斯拉加密货币赠送活动,该代理拦截了客户试图转出资金的约91%。这家交易所在周二的一篇博客文章中描述了这一事件,该文章是其消费者保护系列周报的一部分。文章称,该系统“全程无需人工介入”即可运行。
这两个数字意味着客户试图转出约520万美元,其中约46万美元仍从他们的账户中流出。Coinbase未说明有多少资金最终落入诈骗者手中。
一场并不真实的直播
这起骗局在特斯拉的“飞行汽车”演示期间进行。诈骗者搭建了一个YouTube直播,外观与真实转播相似,画面中有深度伪造的马斯克、屏幕上显示的钱包地址以及一个二维码。Coinbase表示,该直播承诺将发送给它的任何加密货币翻倍,观看人数超过50万。
在大约两个小时的时间里,数百名Coinbase客户试图向屏幕上显示的地址发送数百万美元。其中许多人是长期用户。Coinbase没有说明这场虚假直播是何时进行的,也没有说明客户试图发送的是哪些币种。
该公司强调其平台并未遭到入侵。“没有人被黑客攻击,”Coinbase写道,“没有Coinbase账户被闯入,没有密码被盗,没有凭证被钓鱼窃取。”这正是赠品诈骗难以阻止的原因:大多数防御措施寻找的是账户持有人未授权的活动,而在这里,客户是自己登录并按下确认键的。
“我们的系统可以实时看到风险信号。它们看不到意图,”该帖子写道。
该代理如何运作
Coinbase表示,其防御机制分为三部分。机器学习模型首先实时对出账转账进行评分,监测赠品骗局模式、品牌冒充以及新创建的钱包地址。该公司写道,目标是“抓住危险,而不是抓住客户”。当某笔转账被标记时,一个专门针对诈骗的代理会接管,查找上下文、指出诈骗模式、解释赠品骗局的运作方式,并提出旨在让骗局说法不攻自破的问题。
每条回复在客户看到之前都会进行置信度评分,以便系统知道何时需要增加更多阻力。Coinbase表示,该代理从未接受过此类骗局的训练。与实时产品发布相关联的深度伪造赠品骗局并不在其训练数据中。
该公司写道:“它还是识别出了这一骗局的形态”,并指出其中的承诺是让资金翻倍、以一场直播活动为截止期限,以及一笔无法撤销的转账。
更廉价的伪造
Coinbase表示,深度伪造改变了这类骗局的经济账。它写道,过去策划这样一场骗局需要“一个团队、一间演播室和数周时间”。“如今只需要一个直播时段和一个模型。”该公司表示,正在将针对高风险转账的AI审查扩展到所有类型的骗局,而不仅仅是备受关注的骗局,同时也在利用AI标注新的诈骗案例,使其模型能在数小时内而非数周内从攻击中学习。
社会工程攻击一直是Coinbase客户面临的持续问题。今年9月,一名布鲁克林男子因涉及1600万美元的Coinbase钓鱼骗局被判处12年监禁。本周,Trezor客户报告称接到诈骗电话,此前这家硬件钱包制造商的物流合作伙伴发生数据泄露,导致2.7万笔订单信息外泄。
该帖子发布当天,Coinbase刚推出了一款用于交易比特币、股票和衍生品的ChatGPT插件,该插件要求用户对每笔订单进行确认。Coinbase在帖子结尾列出了一系列它绝不会做的事情,其中包括承诺将客户发送的加密货币翻倍、增至三倍或成倍增加。
“没有任何合法机构会让你的加密货币翻倍,”该公司写道。


