Un encargado financiero transfirió 25 millones de dólares a estafadores tras una videollamada con un CFO hecho con deepfake

• Según la policía de Hong Kong, un encargado financiero de una empresa multinacional fue engañado para transferir 25 millones de dólares a estafadores que se hicieron pasar por el director financiero (CFO) de la compañía usando tecnología deepfake
• Los estafadores engañaron al encargado financiero mediante una videoconferencia con empleados falsos recreados con deepfake
• El encargado financiero recibió un mensaje del CFO, con base en el Reino Unido, solicitando una transacción secreta y al principio sospechó de phishing, pero abandonó sus dudas al ver y escuchar en la videollamada a personas que identificó como colegas

Caso de fraude con deepfake ocurrido en Hong Kong

• La policía de Hong Kong anunció que recientemente se han producido varios casos en los que se usó tecnología deepfake para engañar a personas y robar dinero
• La policía arrestó a seis personas en relación con estos hechos
• La policía señaló que, entre julio y septiembre del año pasado, se utilizaron ocho documentos de identidad de Hong Kong reportados como perdidos para realizar 90 solicitudes de préstamo y abrir 54 cuentas bancarias
• En al menos 20 casos, deepfakes de IA imitaron a las personas de los documentos de identidad para engañar a programas de reconocimiento facial
• La estafa relacionada con el falso CFO solo fue descubierta después de que el encargado financiero lo confirmara con la sede central

Aumenta la preocupación mundial por la tecnología de inteligencia artificial

• En todo el mundo crece la preocupación por el avance de la tecnología deepfake y por las posibilidades de abuso que esto implica
• A finales de enero, imágenes pornográficas generadas por IA de la estrella pop estadounidense Taylor Swift se difundieron en redes sociales, subrayando el potencial dañino de la tecnología de inteligencia artificial
• Las imágenes de la cantante en poses sexualmente sugerentes y explícitas fueron vistas decenas de millones de veces antes de ser eliminadas de las plataformas sociales

Opinión de GN⁺

• El avance de la tecnología deepfake muestra que puede convertirse en una amenaza grave en los ámbitos social y económico. Es importante entender cómo esta tecnología puede ser usada indebidamente para fraudes y delitos
• Este artículo ayuda a aumentar la conciencia sobre los riesgos de la tecnología deepfake y subraya por qué las personas y las empresas deben prestar más atención a la seguridad
• El artículo puede servir para alertar sobre los aspectos negativos que trae el avance tecnológico y para informar la importancia de preparar medidas de respuesta frente a ello

[GN⁺]

Comentarios de Hacker News

• Muchos hoteles medianos y de gama media-alta en Estados Unidos son propiedad de personas de origen indio con el apellido Patel.

  • Es común una estafa en la que alguien con el apellido Patel llama pidiendo que se transfiera dinero por una supuesta emergencia.
  • Los empleados del hotel a veces lo creen y llegan a forzar la caja fuerte o a transferir dinero desde cuentas personales.
  • Estas estafas usan ingeniería social sin necesidad de IA ni tecnología de deepfake.

• Un factor cultural llamado "distancia de poder" puede influir en este tipo de estafas.

  • En algunas culturas, se ignoran los procedimientos y se obedecen sin cuestionar las instrucciones del superior.
  • También se han reportado situaciones similares en algunas empresas estadounidenses de tecnología de hardware.

• En Francia, hubo empleados que transfirieron dinero tras caer en llamadas de personas que se hacían pasar por el CEO, el CFO o abogados.

  • Una banda franco-israelí arrestada en 2022/2023 estafó al menos 38 millones de euros.
  • Lo hacían haciéndose pasar por el CEO, sin usar IA de deepfake.

• Existe la afirmación de que, en una videoconferencia con varios participantes, todos los participantes eran falsos.

  • Eso podría haber sido real, pero también es posible que el empleado alegara deepfakes como excusa.
  • Se plantea la pregunta de cuándo los estafadores harán videollamadas masivas a padres o abuelos fingiendo ser sus hijos para pedir dinero, y cómo podría evitarse.

• Un profesional de finanzas con base en Boston transfirió 6 millones de dólares a estafadores en 2023.

  • Hubo elementos de ingeniería social, pero no se mencionó el uso de deepfakes.
  • En el hackeo al casino MGM en 2023, se usaron deepfakes para engañar a personal de soporte técnico y hacer que se eludiera el MFA.

• Hay especulación sobre la posibilidad de que el CFO esté coludido con un experto en deepfakes para repartirse las ganancias.

  • No es algo que realmente haya ocurrido, sino un enfoque en un posible escenario futuro.

• Se vuelve a mencionar la afirmación de que, en una videoconferencia con varios participantes, todos los participantes eran falsos.

  • Esto sugiere que se necesitó una preparación considerable, como recopilar muestras de imagen y voz de cada participante.
  • Si este nivel de sofisticación ya está apareciendo, es de esperar que surjan nuevas formas de verificar a los participantes en reuniones sensibles.

• Es difícil entender cómo algo así puede ocurrir en una empresa grande.

  • Debe haber procedimientos claros y documentados para que una transacción pueda realizarse.
  • Para que una transacción sea aprobada, se necesitan varias etapas de autorización, y quien ingresa el pago debe ser distinto de quien lo aprueba.
  • Cuando se ingresa una transacción, debe pasar por una primera aprobación, y según el límite de pago, puede requerir autorizaciones adicionales.

• Se plantea curiosidad sobre el software capaz de engañar a las personas usando deepfakes.

  • Aún no se ha visto ese tipo de software, y existe la duda de si realmente hay productos capaces de engañar a la gente.

• Estas estafas parecen deberse a malos procesos dentro de la empresa.

  • Para montos grandes, una videollamada por sí sola no es suficiente.
  • Hace falta confirmación por correo electrónico, conversación por el chat corporativo y llamadas al celular con ejecutivos de alto nivel.