Autónomo vs. automatizado: Significado y relevancia de cada uno

Al evaluar soluciones de ciberseguridad, muchos profesionales de TI o seguridad se confunden con las definiciones de "autónomo" y "automatizado". A pesar de la creencia popular, estos términos no son sinónimos, sino que cada uno tiene un significado distintivo y separado que vale la pena establecer al analizar estrategias de seguridad.

Hablé con Scott Totman, vicepresidente de ingeniería en DivvyCloud, para discutir las diferencias entre soluciones "autónomas" y "automatizadas" y para aprender más sobre los mejores casos de uso de inteligencia artificial/aprendizaje automático (IA/ML) en ciberseguridad.

Diferencias entre "autónomo" y "automatizado"

Scott Matteson: ¿Puedes definir "autónomo" versus "automatizado"?

Scott Totman: La forma más fácil de distinguir entre "autónomo" y "automatizado" es según la cantidad de adaptación, aprendizaje y toma de decisiones que se integra en el sistema.

Los sistemas automatizados típicamente se ejecutan dentro de un conjunto bien definido de parámetros y están muy restringidos en las tareas que pueden realizar. Las decisiones tomadas o acciones realizadas por un sistema automatizado se basan en heurísticas predefinidas.

Un sistema autónomo, por otro lado, aprende y se adapta a entornos dinámicos y evoluciona a medida que el entorno que lo rodea cambia. Los datos que aprende y a los que se adapta pueden estar fuera de lo que se contempló cuando se implementó el sistema. Estos sistemas absorben y aprenden conjuntos de datos cada vez más rápidos y, eventualmente, más confiables que lo que sería razonable para un humano.

5 razones por las que necesitas usar un administrador de contraseñas

Es razonable considerar tanto los sistemas automatizados como los autónomos en un continuo. Los sistemas que originalmente eran automatizados con un conjunto bien definido de entradas y salidas pueden necesitar volverse "más inteligentes" con el tiempo a medida que cambia su uso y el entorno en el que operan. Por lo tanto, se podría tomar un sistema automatizado y construir en él algunas capacidades autónomas, extendiendo así la vida útil útil del sistema y su aplicabilidad general.

Mirándolo de otra manera, un sistema automatizado es uno que se instruye para realizar un conjunto de tareas específicas con parámetros bien entendidos que se conocen de antemano. Está construido para realizar una función específica de manera repetida y eficiente. Un sistema autónomo está asesorando y ayudando a definir cuál es la decisión o acción correcta en un entorno evolutivo y no determinista.

Scott Matteson: ¿Cuál enfoque es superior?

Scott Totman: Depende completamente del problema que se está abordando. Un sistema autónomo a menudo se considera "superior" simplemente debido a la mayor complejidad en sus capacidades de procesamiento.

Sin embargo, si se construye un sistema altamente predecible que realiza la misma función repetidamente, entonces un sistema automatizado proporcionará un valor superior porque es más simple, más fácil de mantener y requiere menos recursos para seguir funcionando. El aprovechamiento de sistemas autónomos para este tipo de soluciones podría resultar en que los sistemas "aprendan" de manera incorrecta y, por lo tanto, realicen la acción equivocada. Los sistemas autónomos serán verdaderamente superiores en entornos en los que no se puedan probar exhaustivamente todas las condiciones de antemano y necesiten adaptarse/aprender a medida que el entorno y otros insumos evolucionen con el tiempo.

Ejemplos del mundo real

Scott Matteson: ¿Cuáles son algunos ejemplos reales de cada uno?

Cómo protegerse del ataque Magecart y evitar el robo de información personal

Scott Totman: Un ejemplo de un sistema automatizado son las verificaciones de cumplimiento a nivel de infraestructura y aplicación dentro del entorno de una corporación. Estos sistemas supervisan un conjunto bien definido de normas de cumplimiento e informan a la organización cuando los sistemas no cumplen con ellas. Estos sistemas también pueden tomar acciones específicas para corregir el problema, pero esto no implica que sean autónomos.

Están configurados explícitamente para tomar una acción específica, lo que permite a la organización tener confianza en lo que está sucediendo en sus entornos. En la mayoría de los casos, estos sistemas simplemente señalan un problema para que un usuario o administrador pueda corregirlo. Se trata de una tecnología asistencial, donde ayuda a un humano a realizar su trabajo en lugar de reemplazarlo.

Un ejemplo de un sistema autónomo es la detección de intrusos en red, buscando anomalías en el tráfico de red normal. Esto incluye la detección de ataques de relleno de credenciales, en los que los hackers aprovechan credenciales válidas compradas en la web oscura para autenticarse y comprometer la información privada de un usuario en un sistema determinado o, peor aún, mover dinero de una cuenta en el caso de instituciones financieras.

Los sistemas autónomos utilizan el aprendizaje automático para distinguir el tráfico legítimo del cliente de los intentos de relleno de credenciales y bloquear el ataque intentado. Los sistemas autónomos también están comenzando a ser capaces de encontrar exploits de día cero antes de que se ejecuten. La mayoría de los exploits de día cero tienen algún tipo de signo distintivo o comportamiento mientras esperan instrucciones. Los sistemas basados en IA y ML pueden detectar firmas de baja frecuencia y baja intensidad para identificar estos exploits y, en algunos casos, desarmar el ataque antes de que ocurra.

Como analogía más simple, me gusta el ejemplo del robot aspirador Roomba como un sistema autónomo rudimentario. Su función es limpiar el suelo, sin embargo, decide dónde limpiar basándose en la retroalimentación de su entorno. A medida que se encuentra con objetos, aprende a evitarlos con el tiempo y construye un mapa del espacio que limpia. Necesita seguir aprendiendo a medida que los muebles, objetos y mascotas cambian continuamente el entorno en el que opera. Lo califico como rudimentario solo porque puede atascarse, por lo que todavía tiene más aprendizaje por hacer a medida que el modelo evoluciona.

Impacto de la Inteligencia Artificial/Aprendizaje Automático

Scott Matteson: ¿Cómo influye la Inteligencia Artificial/Aprendizaje automático?

Cómo proteger tus cuentas de G Suite contra ataques de phishing

Scott Totman: El aprendizaje automático puede tener un papel en sistemas tanto automatizados como autónomos. En los sistemas automatizados, se puede aprovechar el aprendizaje automático para manejar entornos y escenarios más complejos al tiempo que realiza la misma función y no introduce incertidumbre en la automatización.

Específicamente en los sistemas de cumplimiento, se puede aprovechar el aprendizaje automático para aumentar la inteligencia del sistema automatizado, lo que le permite minimizar la cantidad de falsos positivos y anticipar los sistemas que están a punto de incumplir. Por ejemplo, puede identificar eventos precedentes que con frecuencia provocan el incumplimiento de un sistema y otras actividades "agluas" que ponen en riesgo a un sistema dependiente. Los sistemas afectados podrían ser monitoreados más de cerca para identificar y tomar medidas más rápidamente si el sistema realmente incumple con las normas.

La IA y el aprendizaje automático son parte integral de un sistema autónomo. En ciberseguridad, una función autónoma no puede operar en un entorno en constante cambio con un número creciente de vectores de ataque sin alguna forma de inteligencia incorporada. A medida que los adversarios cambian sus ataques, estos sistemas aprenden a identificarlos, ya sea a través de datos de entrenamiento adicionales, algoritmos de aprendizaje mejorados o técnicas más avanzadas.

La IA y el aprendizaje automático jugarán un papel cada vez más importante en sistemas automatizados y autónomos en el futuro. El aumento dramático en la disponibilidad de datos a costos cada vez menores, junto con los aumentos en la capacidad de procesamiento a escala gracias a la nube, ha reducido las barreras de entrada para las tecnologías de IA y ML más que nunca. Esta tendencia se acelerará con el tiempo. Para los sistemas automatizados, el aprendizaje automático les permitirá ser más resilientes y eficientes. Para los sistemas autónomos, la IA permitirá una toma de decisiones más confiable y sofisticada.

Scott Matteson: ¿En qué casos funciona mejor?

Scott Totman: Los sistemas automatizados funcionan mejor en entornos bien definidos con funciones claras para desempeñar. Estos sistemas se pueden construir de manera eficiente y operan mucho más rápido que un humano. Un área específica en cuanto a seguridad que se me ocurre es la validación de una plantilla de infraestructura. A medida que la infraestructura se vuelve cada vez más definida por software, se necesita un proceso similar a CI/CD para validar las configuraciones. Esto se puede ver como una verificación de cumplimiento previa a la implementación para asegurarse de que la infraestructura se haya configurado correctamente y que se detecten los errores humanos.

Cómo desactivar la recopilación de datos en Office 365

Los sistemas autónomos son más efectivos en un entorno en constante evolución, como nuevos vectores de ataque y superficies de ataque cada vez mayores. Estos sistemas necesitan acceso a conjuntos de datos a partir de los cuales aprender y a nuevos algoritmos para analizar los datos de manera diferente a medida que el espacio de IA madura.

Estos sistemas conllevan un costo, ya que muchos se centran fuertemente en la I+D con inversiones en aumento a lo largo del tiempo. Debido al mayor costo y complejidad, estos sistemas son excesivos para resolver problemas que se pueden abordar fácilmente con sistemas basados en automatización. Con el tiempo, los sistemas autónomos requerirán menos datos de entrenamiento y la complejidad ya se está reduciendo mediante la combinación de proyectos de código abierto y ofertas de proveedores de servicios en la nube, pero seguirán siendo más complejos y costosos en comparación con los sistemas automatizados. En muchos casos, el valor que brindan justificará la inversión, por lo que se trata de elegir la tecnología adecuada para un problema dado.

En el futuro

Scott Matteson: ¿Hacia dónde se dirige la tendencia?

Scott Totman: Ya sea trabajando en sistemas autónomos o automatizados, la tendencia se dirige hacia la construcción de más inteligencia en los sistemas. Para los sistemas autónomos, esto implica una mejor toma de decisiones y la capacidad de manejar más complejidad. Estos sistemas absorberán una amplia gama de conjuntos de datos para informar sus operaciones y se les otorgará una autonomía creciente en las decisiones que pueden tomar. Para los sistemas automatizados, volverse más inteligentes significa ser más resilientes a los sistemas aguas arriba y aguas abajo y ser un componente más confiable en el entorno más grande en el que operan.

Cómo funciona el sistema de puntuación CVE y CVSS en Android

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Seguridad, allí encontraras muchos artículos similares a Autónomo vs. automatizado: Significado y relevancia de cada uno , tenemos lo ultimo en tecnología 2023.