La inteligencia artificial generativa fue, como era de esperar, el centro de atención en Black Hat 2023, con diversos paneles y conferencias debatiendo hasta qué punto la IA puede reemplazar o fortalecer a los humanos en las operaciones de seguridad.

Kayne McGladrey, Miembro Senior del IEEE y veterano en ciberseguridad con más de 25 años de experiencia, sostiene que el elemento humano, especialmente las personas con intereses, experiencias y talentos diversos, es insustituible en la ciberseguridad. Anteriormente aspirante a actor, McGladrey ve oportunidades no solo para los técnicos, sino también para las personas creativas que puedan ocupar algunas de las muchas vacantes en las operaciones de seguridad en todo el mundo.

¿Por qué? Las personas con formación fuera de la ciencia de la computación pueden ver un conjunto completamente diferente de aspectos en el campo de la ciberseguridad.

McGladrey, CISO de campo para Hyperproof, una empresa de seguridad y gestión de riesgos, y portavoz de IEEE, habló con TechRepublic en Black Hat sobre cómo debería evolucionar la ciberseguridad con la IA generativa.

Índice:

Las 10 habilidades y contrataciones más populares de IA generativa según Upwork en 2023

• ¿Todavía estamos en la etapa "ad hoc"?
• ¿Apoyará la IA o reemplazará a los analistas SOC de nivel inicial?
• Un beneficio para los SOC cuando las cosas se ponen difíciles
• Explorando talento fuera del ámbito tecnológico para la ciberseguridad

¿Todavía estamos en la etapa "ad hoc" de la ciberseguridad?

Karl Greenberg: Jeff Moss (fundador de Black Hat) y Maria Markstedter (fundadora y directora ejecutiva de Azeria Labs) hablaron durante la conferencia magistral sobre la creciente demanda de investigadores en seguridad que sepan cómo manejar modelos de IA generativa. ¿Cómo crees que la IA afectará las perspectivas de empleo en ciberseguridad, especialmente en el nivel inicial (nivel 1)?

Kayne McGladrey: Durante los últimos tres o cuatro años, hemos estado hablando de esto, así que no es un problema nuevo. Todavía estamos muy inmersos en el ciclo de hype en torno al optimismo del potencial de la inteligencia artificial.

Karl Greenberg: ¿Incluyendo cómo reemplazará a los puestos de seguridad de nivel inicial o muchas de esas funciones?

Kayne McGladrey: ¿Las empresas que están considerando utilizar IA para reducir el número total de empleados que se dedican a la ciberseguridad? Eso es poco probable. Y la razón por la que digo esto no tiene que ver con fallas en la inteligencia artificial, en las personas o con fallas en el diseño organizacional. Tiene que ver con la economía.

En última instancia, los actores amenazantes, ya sean patrocinados, sancionados u operados por un estado-nación, o un grupo de criminales, tienen un incentivo económico para desarrollar nuevas e innovadoras formas de llevar a cabo ataques cibernéticos con el fin de obtener ganancias. Ese ciclo de innovación, junto con la diversidad en su cadena de suministro, mantendrá ocupadas a las personas en los trabajos de ciberseguridad, siempre y cuando estén dispuestas a adaptarse rápidamente a nuevas formas de participación.

Karl Greenberg: ¿Porque la IA no puede mantener el ritmo ante el constante cambio de tácticas y tecnologías?

Kayne McGladrey: Piénsalo de esta manera: si tienes un seguro para propietarios de viviendas, un seguro de automóviles o un seguro contra incendios, los actuarios de esas compañías (de seguros) conocen cuántos tipos diferentes de accidentes automovilísticos hay o cuántos tipos diferentes de incendios en casas hay. Tenemos una gran cantidad de experiencia y datos humanos para mostrar todo lo que podemos hacer para causar un determinado resultado, pero en la ciberseguridad no lo tenemos.

Muchos de nosotros podríamos creer equivocadamente que después de 25 o 50 años de datos tenemos un buen corpus, pero en realidad estamos apenas rascando la superficie en términos de las formas en que una empresa puede perder datos, procesarlos de manera incorrecta, robarlos o utilizarlos en su contra. Creo que todavía estamos en la fase ad hoc en este momento. Necesitaremos adaptar continuamente las herramientas que tenemos con las personas que tenemos para enfrentar las amenazas y riesgos a los que las empresas y la sociedad continúan enfrentándose.

¿La IA apoyará o reemplazará a los analistas SOC de nivel inicial?

Karl Greenberg: ¿Los trabajos de analista de seguridad de nivel uno serán reemplazados por máquinas? ¿Hasta qué punto las herramientas de IA generativa dificultarán la adquisición de experiencia si una máquina realiza muchas de estas tareas a través de una interfaz de lenguaje natural?

Kayne McGladrey: Las máquinas son clave para formatear los datos correctamente, tanto como cualquier otra cosa. No creo que eliminemos por completo la trayectoria profesional del nivel 1 en el Centro de Operaciones de Seguridad (SOC, por sus siglas en inglés), pero creo que las expectativas de lo que hacen como empleados realmente mejorarán. Actualmente, el analista SOC, desde el primer día, tiene una lista de verificación muy rutinaria. Deben buscar en cada señal falsa, cada señal de advertencia, esperando encontrar esa aguja en un pajar. Y es imposible. El océano se desborda en sus escritorios todos los días, y se ahogan todos los días. Nadie quiere eso.

Karl Greenberg: ...todos los correos electrónicos de phishing potenciales, la telemetría...

Kayne McGladrey: Exactamente, y tienen que investigarlos todos manualmente. Creo que la promesa de la IA es poder categorizar, tomar telemetría de otras señales y comprender qué cosas realmente vale la pena que un humano examine.

ChatGPT vs. Google Bard: Cuál es el mejor chatbot de IA para tu negocio

En este momento, la mejor estrategia que algunos actores amenazantes pueden tomar se llama "embricado" (tarpitting), donde si sabes que te enfrentarás adversarialmente con una organización, te involucrarás en múltiples vectores de amenaza al mismo tiempo. Por lo tanto, si la empresa no tiene suficientes recursos, creerá que está lidiando con un ataque de phishing, cuando en realidad está lidiando con un ataque de malware y alguien está exfiltrando datos. Debido a este enfoque de "embricado", el atacante está ocupando todos los recursos y obligando a la víctima a concentrarse en un incidente falso en lugar de enfocarse en el incidente real.

Un beneficio para los SOC cuando las cosas se ponen difíciles

Karl Greenberg: ¿Estás diciendo que este tipo de ataque es demasiado grande para un equipo SOC en términos de poder entenderlo? ¿Las herramientas de IA generativa en los SOC reducirán la efectividad del "embricado"?

Kayne McGladrey: Desde la perspectiva del equipo "blue" (equipo defensor), es el peor día de sus vidas porque están lidiando con todos estos posibles incidentes y no pueden ver la narrativa más amplia que está sucediendo. Esa es una estrategia adversarial muy efectiva y, no, no puedes simplemente contratar más gente para resolverlo, a menos que seas un gobierno y, aún así, lo tendrás difícil. Ahí es donde realmente necesitamos tener la capacidad de escalar y ser eficientes a través de la aplicación de la IA al analizar datos de entrenamiento (sobre posibles amenazas) y proporcionarlo a los seres humanos para que puedan actuar antes de comprometer recursos de manera inapropiada.

Explorando talento fuera del ámbito tecnológico para la ciberseguridad

Karl Greenberg: Cambiando de tema, lo pregunto porque otros también han señalado esto: si estuvieras contratando nuevo talento para puestos de ciberseguridad hoy en día, ¿considerarías a alguien con formación en artes liberales en lugar de informática?

Kayne McGladrey: Por supuesto. En este momento, creo que las empresas que no buscan más allá de los antecedentes laborales tradicionales, ya sea en TI o en ciberseguridad, se están perjudicando a sí mismas. ¿Por qué creemos que hay una brecha de contratación de hasta tres millones de personas? Porque el umbral está demasiado alto en los departamentos de recursos humanos. Uno de mis analistas de amenazas favoritos con los que he trabajado a lo largo de los años fue violinista de concierto. Una forma completamente diferente de abordar los casos de malware.

Karl Greenberg: ¿Estás diciendo que los candidatos de formación tradicional en informática no son suficientemente creativos?

El 40% de los líderes en análisis de datos utilizan inteligencia artificial generativa en su trabajo

Kayne McGladrey: Es que muchos de nosotros tenemos experiencias de vida muy similares. En consecuencia, con los actores amenazantes inteligentes, los estados-nación que están operando a gran escala reconocen efectivamente que este grupo socioeconómico tiene puntos ciegos y los explotarán. Muchos de nosotros pensamos de manera muy similar, lo que facilita el relacionarse con los compañeros de trabajo, pero también facilita que un actor amenazante manipule a esos defensores.

Descargo de responsabilidad: Barracuda Networks pagó mi pasaje de avión y alojamiento para Black Hat 2023.

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Inteligencia artificial, allí encontraras muchos artículos similares a , tenemos lo ultimo en tecnología 2023.