5 estafas de deepfake que las empresas deben tener en cuenta

Un nuevo informe de Forrester advierte a las empresas que estén alerta ante cinco estafas de deepfake que pueden causar estragos. Las estafas de deepfake son fraude, manipulación del precio de las acciones, reputación y marca, experiencia de los empleados y recursos humanos, y amplificación.

Deepfake es una capacidad que utiliza tecnología de inteligencia artificial para crear contenido de video y audio sintético que podría ser utilizado para suplantar a alguien, según Jeff Pollard, autor del informe y vicepresidente y analista principal de Forrester, quien lo explicó a Newsmatic.

La diferencia entre deepfake y la inteligencia artificial generativa es que, con esta última, se escribe una solicitud para hacer una pregunta y devuelve una respuesta de manera probabilística, explicó Pollard. Deepfake "usa IA... pero está diseñado para producir contenido de video o audio en lugar de respuestas escritas que devuelve un modelo de lenguaje grande".

Estafas de deepfake dirigidas a las empresas

Estas son las cinco estafas de deepfake detalladas por Forrester.

Fraude

Las tecnologías de deepfake pueden clonar rostros y voces, y estas técnicas se utilizan para autenticar y autorizar actividades, según Forrester.

Las 3 tecnologías emergentes que prometen un retorno de inversión en menos de dos años

"Usar la tecnología de deepfake para clonar e impersonar a una persona llevará a transacciones financieras fraudulentas que victimizarán a las personas, pero también ocurrirá en las empresas", señaló el informe.

Un ejemplo de fraude sería suplantar a un alto ejecutivo para autorizar transferencias de fondos a criminales.

"Este escenario ya existe hoy en día y aumentará en frecuencia pronto", advirtió el informe.

Pollard llamó a esto el tipo de deepfake más prevalente "...porque tiene el camino más corto hacia la monetización".

Manipulación del precio de las acciones

Eventos importantes pueden hacer que el precio de las acciones fluctúe, como cuando un ejecutivo conocido abandona una empresa de capital abierto. Un deepfake de este tipo de anuncio podría hacer que las acciones experimenten una breve caída de precios, lo que podría tener un efecto dominó en la compensación de los empleados y la capacidad de la empresa para recibir financiamiento, según el informe de Forrester.

Reputación y marca

Es muy fácil crear una publicación falsa en las redes sociales de "...un prominente ejecutivo usando lenguaje ofensivo, insultando a clientes, culpando a socios y inventando información sobre tus productos o servicios", dijo Pollard. Este escenario crea una pesadilla para los equipos de relaciones públicas y las juntas directivas, y el informe señaló que "... hoy en día es demasiado fácil crear artificialmente este escenario".

Las lecciones de gestión de proyectos de construcción que pueden aplicarse a los proyectos de TI

Esto podría dañar la marca de la empresa, agregó Pollard, y "... francamente, es casi imposible de prevenir".

Experiencia de los empleados y recursos humanos

Otro escenario "dañino" es cuando un empleado crea un deepfake utilizando contenido pornográfico no consensuado con el parecido de otro empleado y lo difunde. Esto puede causar estragos en la salud mental del empleado y amenazar su carrera, y "...casi siempre terminará en litigio", indica el informe.

La motivación es que alguien piensa que es gracioso o busca venganza, dijo Pollard. Es la estafa que más asusta a las empresas porque es "...la más preocupante o perniciosa a largo plazo, ya que es la más difícil de prevenir", dijo. "Va en contra de cualquier comportamiento convencional del empleado".

Amplificación

Los deepfakes pueden usarse para difundir otro contenido de deepfake. Forrester comparó esto con los bots que diseminan contenido, "...pero en lugar de darles a esos bots nombres de usuario e historias de publicaciones, les damos rostros y emociones", dijo el informe. Esos deepfakes también podrían usarse para crear reacciones a un deepfake original diseñado para dañar la marca de una empresa, por lo que potencialmente es visto por una audiencia más amplia.

Mejores defensas de las organizaciones contra los deepfakes

Pollard reiteró que no se pueden prevenir los deepfakes, que pueden crearse fácilmente descargando un podcast, por ejemplo, y luego clonando la voz de una persona para hacerla decir algo que en realidad no dijo.

"Hay instrucciones paso a paso para que cualquiera haga esto (la capacidad de clonar la voz de una persona) técnicamente", señaló. Pero una de las defensas contra esto "...es no decir y hacer cosas horribles".

El gobierno federal se abre al software de código abierto: ¡una gran noticia para todos!

Además, si la empresa tiene un historial confiable, auténtico, confiable y transparente, "...será difícil que las personas crean de repente que eres tan horrible como un video podría hacerte parecer", dijo. "Pero si tienes un historial de no preocuparte por la privacidad, no es difícil hacer un video de un ejecutivo..." diciendo algo perjudicial.

Existen herramientas que ofrecen integridad, verificación y rastreabilidad para indicar que algo no es sintético, agregó Pollard, como FakeCatcher de Intel. "Observa... el flujo sanguíneo en los píxeles del video para descubrir lo que alguien estaba pensando cuando se grabó esto".

Pero Pollard emitió una nota de pesimismo sobre las herramientas de detección, diciendo que "...evolucionan y luego los adversarios las eluden y luego tienen que evolucionar de nuevo. Es la antigua historia de la ciberseguridad".

Destacó que los deepfakes no desaparecerán, por lo que las organizaciones deben pensar de manera proactiva sobre la posibilidad de convertirse en un objetivo. Los deepfakes ocurrirán, dijo.

"No hagas que la primera vez que pienses en esto sea cuando suceda. Quieres ensayar esto y comprenderlo para saber exactamente qué hacer cuando suceda", dijo. "No importa si es verdad, importa si se cree lo suficiente como para que lo comparta".

Y un recordatorio final de Pollard: "Esto es Internet. Todo perdura para siempre".

Las 12 habilidades esenciales que debe tener un técnico de soporte

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre CXO, allí encontraras muchos artículos similares a 5 estafas de deepfake que las empresas deben tener en cuenta , tenemos lo ultimo en tecnología 2023.