Las plataformas tecnológicas fallan en detener el aumento de fraude con deepfakes pese a contar con tecnología avanzada. Además, la evolución de la IA generativa impulsa el aumento de estas estafas. Si esto sigue así, aumentarán significativamente estos engaños mientras las grandes tecnológicas priorizan beneficios sobre seguridad.
Google, TikTok y Meta (propietaria de Instagram, Facebook, WhatsApp y Threads) enfrentan un aumento de las críticas por su aparente inacción frente a la proliferación de estafas mediante deepfakes en sus plataformas, a pesar de contar con algoritmos avanzados capaces de detectar contenido fraudulento. Estas plataformas continúan beneficiándose económicamente de anuncios engañosos mientras los usuarios caen víctimas de fraudes sofisticados. En Australia, un caso reciente involucró al presentador Eddie McGuire, cuya imagen fue utilizada en un deepfake que estafó a una pareja por 500.000 dólares australianos a través de un anuncio de Google. Esto llevó al propio McGuire a denunciar públicamente que las grandes tecnológicas «deberían saber más».
➡️ Te puede interesar: Curso de Experto en Victimología
Además, estas plataformas suelen eliminar el contenido fraudulento de manera reactiva, solo después de que las víctimas denuncian el delito, en lugar de implementar medidas proactivas. Meta fue demandada por el experto financiero Martin Lewis tras la circulación de un deepfake suyo en Facebook, lo que eventualmente llevó a la empresa a comprometerse a ofrecer un botón para reportar anuncios sospechosos a los usuarios del Reino Unido. Sin embargo, las herramientas publicitarias de estas plataformas siguen facilitando el trabajo de los estafadores, permitiéndoles dirigir sus mensajes engañosos a los usuarios más susceptibles.
Los deepfakes, una estafa cada vez más presente
Los deepfakes son medios sintéticos donde la apariencia de una persona se reemplaza por la de otra mediante inteligencia artificial (IA), o donde se crea una identidad sintética desde cero con IA generativa. Esta tecnología se basa en redes neuronales llamadas autoencoders y redes generativas antagónicas (GANs), que funcionan como sistemas de compresión-descompresión que aprenden a reducir imágenes faciales a sus características esenciales para luego reconstruirlas con modificaciones. Con el avance tecnológico, lo que comenzó como un simple intercambio de rostros ha evolucionado hasta convertirse en una herramienta capaz de crear videos y audios que pueden engañar incluso a expertos.
Actualmente, las estafas con deepfakes están diversificándose rápidamente. En TikTok, por ejemplo, cuentas con miles de seguidores han promocionado productos de bienestar sin respaldo científico utilizando deepfakes de supuestos expertos. Asimismo, celebridades como MrBeast, Elon Musk, presentadores de la BBC y muchas personalidades más han sido víctimas de deepfakes que promocionan estafas. Paralelamente, en el ámbito laboral, una empresa de ciberseguridad contrató involuntariamente a un ciberdelincuente norcoreano que utilizó un deepfake durante cuatro entrevistas de video y pasó verificaciones de antecedentes.
➡️ Te puede interesar: Desarticulada red que estafó millones con deepfakes de famosos
El aumento de estas estafas ha llevado al desarrollo de herramientas de detección de deepfakes, como el detector de OpenAI, capaz de identificar imágenes generadas por DALL-E 3 con una precisión del 98,8%, o Sensity AI, que ofrece detección multimodal con una precisión del 95-98%. No obstante, según la Asociación de Administradores de Valores de Norteamérica (NASAA), se prevé que las estafas relacionadas con IA y criptomonedas aumenten significativamente en el futuro, utilizando plataformas como Facebook, Instagram, Telegram y TikTok como principales vectores. En Norteamérica, se ha registrado un incremento del 1740% en fraudes con deepfakes, y se proyecta que las pérdidas facilitadas por tecnologías de IA generativa asciendan a 40.000 millones de dólares en Estados Unidos para 2027.
➡️ Si quieres adentrarte en el mundo de la Ciberseguridad y adquirir habilidades profesionales, te recomendamos los siguientes programas formativos:
