Coinbase afirma que su IA bloqueó 4,7 millones de dólares en una estafa con un deepfake de Elon Musk

Bitcoin Magazine Coinbase afirma que su IA bloqueó 4,7 millones de dólares en una estafa con un deepfake de Elon Musk Coinbase dijo que su agente de IA para la prevención de estafas impidió que cerca de 4,7 millones de dólares, aproximadamente el 91% de lo que los clientes intentaron enviar, llegaran a los estafadores que operaban un sorteo de criptomonedas con un deepfake de Elon Musk. Esta publicación Coinbase afirma que su IA bloqueó 4,7 millones de dólares en una estafa con un deepfake de Elon Musk apareció por primera vez en Bitcoin Magazine y está escrita por Micah Zimmerman.
Coinbase (COIN) dijo que su agente de IA para la prevención de estafas impidió que cerca de 4,7 millones de dólares en fondos de clientes llegaran a los estafadores que usaron un deepfake de Elon Musk para promocionar un falso sorteo de criptomonedas de Tesla, bloqueando aproximadamente el 91% del dinero que los clientes intentaron enviar. El exchange describió el incidente en una publicación de blog del martes, parte de una serie semanal sobre protección al consumidor. Señaló que el sistema funcionó «sin intervención humana».
Esas dos cifras implican que los clientes intentaron enviar alrededor de 5,2 millones de dólares, y que aproximadamente 460.000 dólares aún salieron de sus cuentas. Coinbase no dijo cuánto llegó a los estafadores.
Una transmisión en vivo que no era real
La estafa se produjo durante la demostración del "coche volador" de Tesla. Los estafadores montaron una transmisión en vivo de YouTube que parecía la emisión real, con un Musk generado por deepfake, direcciones de billetera en pantalla y un código QR. La transmisión prometía duplicar cualquier criptomoneda que se le enviara, y más de medio millón de personas la vieron, según Coinbase.
Durante aproximadamente dos horas, cientos de clientes de Coinbase intentaron enviar millones de dólares a las direcciones que aparecían en pantalla. Muchos eran usuarios de larga data. Coinbase no precisó cuándo se emitió la transmisión falsa ni qué criptomonedas intentaron enviar los clientes.
La empresa subrayó que su plataforma no fue vulnerada. «Nadie fue hackeado», escribió Coinbase. «Ninguna cuenta de Coinbase fue violentada, no se robó ninguna contraseña, no se pescó ninguna credencial». Eso es lo que hace difícil detener el fraude de sorteos, ya que la mayoría de las defensas buscan actividad que el titular de la cuenta no autorizó, y en este caso los clientes iniciaron sesión y pulsaron confirmar ellos mismos.
«Nuestros sistemas pueden ver señales de riesgo en tiempo real. No pueden ver la intención», señaló la publicación.
Cómo funciona el agente
Coinbase afirmó que su defensa consta de tres partes. En primer lugar, los modelos de aprendizaje automático puntúan en tiempo real los envíos salientes, vigilando patrones de sorteos, suplantación de marca y direcciones de billetera recién creadas. El objetivo, escribió la empresa, es «detectar el peligro, no al cliente». Cuando se marca un envío, un agente especializado en fraudes toma el control, busca contexto, identifica el patrón de la estafa, explica cómo funcionan los esquemas de sorteos y formula preguntas destinadas a desmontar el relato.
Cada respuesta recibe una puntuación de confianza antes de que el cliente la vea, de modo que el sistema sabe cuándo una situación requiere más fricción. El agente nunca había sido entrenado con este tipo de estafa, según Coinbase. Los sorteos con deepfakes vinculados al lanzamiento de un producto en vivo no formaban parte de sus datos de entrenamiento.
«De todos modos reconoció la forma del esquema», escribió la empresa, señalando la promesa de multiplicar los fondos, la fecha límite de un evento en vivo y una transferencia que no podía revertirse.
Falsificaciones más baratas
Coinbase afirmó que los deepfakes han cambiado la economía de la estafa. Montar algo así una vez requería «un equipo, un estudio y semanas», escribió. «Ahora solo hace falta un espacio en una transmisión en vivo y un modelo». La empresa dijo que está ampliando la revisión con IA de los envíos de riesgo a todo tipo de estafa, no solo a las de alto perfil, y que también utiliza IA para etiquetar nuevos casos de estafa, de modo que sus modelos aprendan de los ataques en cuestión de horas en lugar de semanas.
La ingeniería social ha sido un problema constante para los clientes de Coinbase. En septiembre, un hombre de Brooklyn fue condenado a 12 años de prisión por una estafa de phishing de 16 millones de dólares en Coinbase. Esta semana, clientes de Trezor reportaron llamadas fraudulentas después de que una brecha en el socio de envíos del fabricante de monederos de hardware expusiera 27.000 pedidos.
La publicación se produjo el mismo día en que Coinbase lanzó un complemento de ChatGPT para operar con bitcoin, acciones y derivados, que requiere que los usuarios aprueben cada orden. Coinbase cerró la publicación con una lista de cosas que nunca hará, incluida la promesa de duplicar, triplicar o multiplicar las criptomonedas que envíen los clientes.
«Nadie legítimo duplicará tus criptomonedas», escribió la empresa.


