La lucha cibernética: IA contra IA en la nueva era del phishing

Los compromisos de correo electrónico empresarial, que el año pasado superaron al ransomware como principal vector de ataque motivado financieramente y amenazante para las organizaciones, es probable que se vuelvan más difíciles de rastrear. Nuevas investigaciones de Abnormal Security sugieren que los atacantes están utilizando IA generativa para crear correos electrónicos de phishing, incluidos ataques de suplantación de proveedores del tipo que Abnormal detectó a principios de este año por el actor apodado Firebrick Ostricth.

Según Abnormal, mediante el uso de ChatGPT y otros modelos de lenguaje grandes, los atacantes pueden crear mensajes de ingeniería social que no presentan señales de advertencia, como problemas de formato, sintaxis atípica, gramática incorrecta, puntuación, ortografía y direcciones de correo electrónico.

La empresa utilizó sus propios modelos de IA para determinar que ciertos correos electrónicos enviados a sus clientes, que más tarde se identificaron como ataques de phishing, probablemente fueron generados por IA, según Dan Shiebler, jefe de aprendizaje automático en Abnormal. "Si bien todavía estamos realizando un análisis completo para comprender el alcance de los ataques de correo electrónico generados por IA, Abnormal ha visto un aumento definitivo en el número de ataques con indicadores de IA como porcentaje de todos los ataques, especialmente en las últimas semanas", dijo.

Índice de Contenido
  1. Usando supuestas violaciones de Facebook como señuelo
  2. Podría parecer un phishing, pero podría ser un delfín
  3. Compromiso de proveedor generado por IA, fraude de facturas
  4. Se necesita uno para atrapar a otro: usar IA para detectar IA
  5. Cómo combatir los ataques de phishing de IA

Usando supuestas violaciones de Facebook como señuelo

La lucha cibernética: IA contra IA en la nueva era del phishing - Seguridad | Imagen 1 Newsmatic

Una nueva táctica señalada por Abnormal involucra el suplantación de notificaciones oficiales de Facebook informando al objetivo que ha "violado las normas de la comunidad" y que su página se ha despublicado. Luego se le pide al usuario que haga clic en un enlace y presente una apelación, lo que lleva a una página de phishing para recopilar las credenciales del usuario, lo que permite a los atacantes acceder a la página de Facebook del objetivo o venderlas en la web oscura (Figura A).

Figura A

Protección antivirus en línea: McAfee Clinic lleva la seguridad de tu PC al siguiente nivel

La lucha cibernética: IA contra IA en la nueva era del phishing - Seguridad | Imagen 2 Newsmatic

Shiebler dijo que el hecho de que el texto dentro los engaños de Facebook sea casi idéntico al lenguaje esperado de Meta for Business sugiere que los atacantes menos sofisticados podrán evitar fácilmente las trampas habituales del phishing.

"El peligro de la IA generativa en los ataques de correo electrónico es que permite a los actores de amenazas escribir contenido cada vez más sofisticado, lo que hace más probable que su objetivo sea engañado para hacer clic en un enlace o seguir sus instrucciones", dijo, agregando que la IA también se puede utilizar para crear una mayor personalización.

"Imagina si los actores de amenazas ingresaran fragmentos de la historia de correo electrónico de su víctima o contenido de perfil de LinkedIn dentro de sus consultas de ChatGPT. Los correos electrónicos comenzarán a mostrar el contexto típico, el lenguaje y el tono que espera la víctima, lo que hace que los correos de compromiso de correo electrónico sean aún más engañosos", agregó.

Podría parecer un phishing, pero podría ser un delfín

Según Abnormal, otra complicación en la detección de exploits de phishing que utilizan IA para crear correos electrónicos involucra falsos positivos. Debido a que muchos correos electrónicos legítimos se construyen a partir de plantillas que utilizan frases comunes, pueden ser identificados por IA debido a su similitud con lo que también generaría un modelo de IA, señaló Shiebler, quien dijo que los análisis dan alguna indicación de que un correo electrónico puede haber sido creado por IA. "Y utilizamos esa señal (entre miles de otras) para determinar la intención maliciosa", dijo.

Compromiso de proveedor generado por IA, fraude de facturas

Abnormal encontró casos de compromisos de correo electrónico empresarial construidos por IA generativa para suplantar a proveedores, que contienen facturas solicitando el pago a un portal de pago ilegítimo.

Cómo proteger tu computadora de los virus: métodos y consejos

En un caso que Abnormal resaltó, los atacantes suplantaron la cuenta de un empleado en la empresa objetivo y la utilizaron para enviar un correo electrónico falso al departamento de nómina para actualizar la información de depósito directo en el archivo.

Shiebler señaló que, a diferencia de los ataques de compromiso de correo electrónico empresarial tradicionales, los salvas generados por IA están escritos de manera profesional. "Están escritos con un sentido de formalidad que se esperaría en asuntos comerciales", dijo. "El abogado suplantado también es de un bufete de abogados real, un detalle que le da al correo electrónico aún más sentido de legitimidad y lo hace más propenso a engañar a su víctima", agregó.

Se necesita uno para atrapar a otro: usar IA para detectar IA

Shiebler dijo que detectar la autoría de IA implica una operación de espejo: ejecutar textos de correo electrónico generados por LLM a través de un motor de predicción de IA para analizar qué tan probable es que un sistema de IA seleccione cada palabra en un correo electrónico.

Abnormal utilizó modelos de lenguaje grandes de código abierto para analizar la probabilidad de que cada palabra en un correo electrónico se pueda predecir dado el contexto a la izquierda de la palabra. "Si las palabras en el correo electrónico tienen una probabilidad consistentemente alta (es decir, cada término está muy alineado con lo que un modelo de IA diría, más que en un texto humano), entonces clasificamos el correo electrónico como posiblemente escrito por IA", dijo. (Figura B).

Figura B

La lucha cibernética: IA contra IA en la nueva era del phishing - Seguridad | Imagen 3 Newsmatic

¡Defiéndete! Protege tu seguridad en línea contra amenazas críticas

Shiebler advirtió que, debido a que hay muchos casos legítimos en los que los empleados utilizan IA para crear contenido de correo electrónico, no es pragmático bloquear todos los correos electrónicos generados por IA por sospecha de malicia. "Como tal, el hecho de que un correo electrónico tenga indicadores de IA debe considerarse junto con muchas otras señales para indicar intención maliciosa", dijo, agregando que la empresa realiza una validación adicional a través de herramientas de detección de IA como OpenAI Detector y GPTZero.

"Los correos electrónicos legítimos pueden parecer generados por IA, como mensajes con plantillas y traducciones automáticas, lo que dificulta la detección de correos electrónicos legítimos generados por IA. Cuando nuestro sistema decide si bloquear un correo electrónico, incorpora mucha información más allá de si el correo electrónico puede haber sido generado por IA, utilizando la identidad, el comportamiento y otros indicadores relacionados", dijo.

Cómo combatir los ataques de phishing de IA

El informe de Abnormal sugiere que las organizaciones implementen soluciones basadas en IA que puedan detectar ataques generados por IA altamente sofisticados y que son casi imposibles de distinguir de los correos electrónicos legítimos. También deben ser capaces de distinguir cuando un correo electrónico generado por IA es legítimo y cuando tiene intenciones maliciosas.

"Piense en ello como una IA buena para combatir una IA mala", dijo el informe. La empresa afirmó que las mejores herramientas impulsadas por IA pueden establecer un comportamiento normal en el entorno de correo electrónico, incluidos los patrones de comunicación, estilos y relaciones típicas específicas del usuario, en lugar de simplemente buscar indicadores de compromiso típicos y cambiantes. Debido a eso, pueden detectar las anomalías que pueden indicar un posible ataque, sin importar si las anomalías fueron creadas por un ser humano o por IA.

"Las organizaciones también deben practicar una buena higiene de ciberseguridad, que incluye implementar entrenamiento continuo de concienciación de seguridad para garantizar que los empleados estén atentos a los riesgos de los compromisos de correo electrónico empresarial", dijo Sheibler. "Además, implementar tácticas como la gestión de contraseñas y la autenticación de múltiples factores asegurará que la organización pueda limitar el daño posterior en caso de que tenga éxito algún ataque", agregó.

Protege tus contraseñas con PAM: Tu aliado para la seguridad

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Seguridad, allí encontraras muchos artículos similares a La lucha cibernética: IA contra IA en la nueva era del phishing , tenemos lo ultimo en tecnología 2023.

Artículos Relacionados

Subir

Utilizamos cookies para mejorar su experiencia de navegación, mostrarle anuncios o contenidos personalizados y analizar nuestro tráfico. Al hacer clic en “Aceptar todo” usted da su consentimiento a nuestro uso de las cookies.