Beneficios y riesgos de la inteligencia artificial generativa en la economía australiana

La IA generativa ha sido tema de conversación en el mundo empresarial y tecnológico desde la explosión de ChatGPT en el mercado a finales de 2022. En Australia, ha habido un frenético esfuerzo a nivel nacional para comprender las implicaciones para los negocios, el gobierno, la fuerza laboral y las comunidades.

Los profesionales de TI están en el centro de la tormenta. En Australia, se están equilibrando una oportunidad combinada de hasta 115 mil millones de dólares australianos (74 mil millones de dólares estadounidenses) con riesgos significativos, incluida la privacidad y seguridad de los datos. Se aconseja a los líderes de TI educar a las partes interesadas y guiarse por los objetivos comerciales a medida que crean procesos para explorar y materializar casos de uso de IA.

¿Cuáles son los beneficios potenciales de la IA para la economía australiana?

La economía australiana está bien posicionada para beneficiarse de la tecnología de IA generativa. El Consejo de Tecnología de Australia ha predicho que la IA generativa podría aportar entre 45 mil millones de dólares australianos (28.9 mil millones de dólares estadounidenses) y 115 mil millones de dólares australianos (74 mil millones de dólares estadounidenses) a la economía australiana para 2030.

En su informe "Oportunidad de la IA generativa de Australia" en colaboración con Microsoft, se predijo lo siguiente:

• Se podrían obtener hasta 80 mil millones de dólares australianos (51.5 mil millones de dólares estadounidenses) de valor a través del aumento de la productividad a medida que los trabajadores utilizan IA para algunas tareas existentes y así completar más trabajo en menos tiempo.
• Se obtendría valor adicional a través de la mayor calidad de los resultados laborales, así como de la creación de nuevos empleos y empresas, como las exportaciones de software, en toda la economía.

Se ha identificado que los sectores de la salud, manufactura, retail y servicios financieros podrían beneficiarse significativamente. Se espera que la gran cantidad de talento tecnológico existente en Australia, los niveles relativamente altos de adopción de la nube y las inversiones en infraestructura digital apoyen el crecimiento de la IA (Figura A).

ChatGPT: El chatbot de IA más rápido en la historia con 100 millones de usuarios mensuales

¿Qué riesgos conlleva la IA generativa para la economía australiana?

Uno de los riesgos mejor comprendidos de la IA generativa es la interrupción de la fuerza laboral, ya que puede requerir que un gran número de empleados aprendan nuevas habilidades o se vuelvan a capacitar. Según un informe de Deloitte titulado "Generación IA: ¿Listos o no, aquí vamos?", el 26% de los empleos ya enfrentan una interrupción "significativa e inminente":

• Se identificaron los roles de administración y operaciones como los más vulnerables a la nueva tecnología, mientras que las industrias selectas se verán afectadas en áreas como ventas, tecnología de la información, recursos humanos y talento.
• Las industrias que enfrentan niveles más altos de interrupción a corto plazo incluyen servicios financieros, tecnologías de la información y comunicación, medios de comunicación, servicios profesionales, educación y comercio mayorista.

Aparte de los riesgos existenciales, la investigación del Gobierno australiano también mencionó una serie de "riesgos contextuales y sociales" y "riesgos socioeconómicos y sociales sistémicos", que van desde el uso de IA en contextos de alto riesgo, como la salud, hasta la erosión del discurso público o una mayor desigualdad.

¿Cuáles son los riesgos y desafíos que enfrentan los usuarios empresariales de IA en Australia?

Los líderes empresariales y de TI en Australia, así como los empleados, están de acuerdo en que la implementación de herramientas de IA generativa conlleva riesgos significativos. Según una encuesta de Deloitte, el 75% de los encuestados se preocupaba por la filtración de información personal, confidencial o sensible, y una cantidad similar (73%) se preocupaba por errores o alucinaciones de hechos (Figura B). Otras preocupaciones incluyeron la incertidumbre regulatoria, la infracción de derechos de autor y el sesgo racial o de género.

El consenso parece ser que los enfoques empresariales para el uso de la IA generativa han quedado rezagados detrás de la adopción, lo que deja un "vacío" que introduce riesgos y podría frenar a las empresas para aprovechar las oportunidades. Por ejemplo, el informe de Deloitte encontró que el 70% de los empleadores aún no habían tomado medidas para prepararse a sí mismos y a sus empleados para la IA generativa, mientras que una encuesta de GetApp encontró que solo alrededor de la mitad (52%) de los empleadores tenían políticas implementadas para gobernar su uso.

Los líderes de TI también tienen sus propias preocupaciones técnicas y éticas con respecto a la IA generativa. Una encuesta de Salesforce a líderes de TI reveló que el 79% estaba preocupado por la creación de riesgos de seguridad y el 73% por el sesgo. Otras preocupaciones planteadas incluyeron:

¡Aumenta la productividad de tu empresa con Taskio

• La dificultad de integrar la IA generativa en la infraestructura tecnológica actual (60%).
• La falta de habilidades de los empleados para aprovecharla con éxito (66%).
• La falta de una estrategia de datos unificada por parte de los líderes de TI (59%).
• El aumento de la huella de carbono de la empresa debido a la IA generativa (71%).

Las empresas australianas ya están adoptando la IA generativa en alguna forma

A pesar de algunas de las preocupaciones que rodean a la IA generativa, las empresas de todos los tamaños han sido entusiastas experimentadores de herramientas de IA generativa.

Una encuesta reciente de Datacom a 318 líderes empresariales en empresas australianas con 200 o más empleados descubrió que el 72% de las empresas ya están utilizando IA en alguna forma. La encuesta también encontró que la gran mayoría espera que la IA traiga cambios significativos a su organización, con un 86% de los líderes que creen que la integración de la IA afectará las operaciones y las estructuras laborales.

Sin embargo, la adopción formal de la IA generativa ha sido más cautelosa en algunas empresas más grandes, ya que experimentan con el potencial mientras evalúan o se protegen de los riesgos. De las empresas con más de 200 empleados encuestadas por Deloitte para "Generación IA: ¿Listos o no, aquí vamos?", solo el 9.5% había adoptado oficialmente la IA en sus empresas.

Ya sea oficial o no, las empresas están utilizando IA de manera orgánica a través de sus empleados. Una encuesta encontró que dos tercios (67%) de los empleados australianos usan frecuentemente herramientas de IA generativa en el trabajo al menos algunas veces a la semana. Otra encuesta de la empresa de software Salesforce encontró que el 90% de los empleados utilizaban herramientas de IA, incluyendo un 68% que utilizaba herramientas de IA generativa.

Se espera que la IA generativa se convierta en un recurso estándar para las empresas a medida que se incorpore en los productos que utilizan. En el ámbito del marketing, por ejemplo, la empresa de software de diseño Adobe recientemente lanzó su herramienta de IA generativa productizada, Firefly, mientras que su competidor Canva ha introducido la generación de imágenes y texto, así como la traducción en sus productos (Figura C).

NVIDIA y Lenovo se asocian para ofrecer soluciones de IA generativa

¿Para qué están utilizando las empresas australianas la IA generativa?

Se han identificado numerosos casos de uso para la IA generativa. Una investigación global de McKinsey a principios de este año exploró 63 casos de uso en 16 funciones empresariales donde la aplicación de estas herramientas puede producir uno o más resultados medibles. Sin embargo, gran parte del interés inicial en la IA generativa en las organizaciones más grandes se centra en áreas como marketing y ventas, desarrollo de productos y servicios, operaciones de servicio e ingeniería de software.

En marketing y ventas, los principales casos de uso incluyen la generación de borradores de documentos o presentaciones, la personalización del marketing y el resumen de documentos. En el desarrollo de productos, la IA generativa se utiliza para identificar tendencias en las necesidades de los clientes, redactar documentos técnicos e incluso generar nuevos diseños de productos. El potencial de utilizarla en el servicio al cliente a través de chatbots es un caso de uso popular, mientras que su capacidad para escribir código se está explorando en el desarrollo de software.

Uno de los bancos más grandes de Australia, el Commonwealth Bank, es un usuario pionero de nuevas tecnologías de IA generativa. En mayo, se informó que el banco ya la utilizaba en los centros de llamadas para responder preguntas complejas encontrando respuestas en las políticas bancarias equivalentes a 4,500 documentos en tiempo real. La IA generativa también está ayudando a los 7,000 ingenieros de software del banco a escribir código, mejorar sus aplicaciones y crear ofertas más personalizadas para sus clientes.

Se ha proporcionado orientación de IA generativa para las agencias del sector público en Australia

Se ha proporcionado orientación de alto nivel a las agencias del sector público. Elaborada por la Agencia de Transformación Digital y el Departamento de Industria, Ciencia y Recursos, sugiere que las agencias solo implementen la IA de manera responsable en situaciones de bajo riesgo, teniendo en cuenta problemas conocidos como la inexactitud, la naturaleza y el sesgo potencial de los datos de entrenamiento, la privacidad y la seguridad de los datos, y la importancia de la transparencia y explicabilidad en la toma de decisiones.

Prácticamente, la orientación sugiere implementar un mecanismo de inscripción para registrar y aprobar las cuentas de usuario del personal para acceder a la IA, con los procesos de aprobación adecuados a través de CISOs y CIOs, así como establecer vías para que el personal informe excepciones. Advierte a las agencias sobre casos de uso de alto riesgo, como la implementación de salidas de códigos en sistemas gubernamentales. También sugiere que las agencias pasen a acuerdos comerciales para soluciones de IA lo antes posible.

El Gobierno australiano está tomando medidas para garantizar el uso ético de la IA generativa

El Gobierno australiano encargó la producción de un Informe de Investigación Rápida sobre IA Generativa a principios de 2023 para evaluar las oportunidades y los riesgos de los modelos de IA generativa. Esto fue seguido por la publicación de un documento de discusión pública, "AI Segura y Responsable en Australia", que invitaba a presentar opiniones y comentarios de las empresas y la comunidad.

Los impactos de la IA generativa en la sociedad y la cultura

El Gobierno también destinó 41.2 millones de dólares australianos (26.53 millones de dólares estadounidenses) para apoyar la implementación responsable de la IA en la economía nacional como parte de su presupuesto federal para 2023-2024. Esto incluyó fondos para el Centro Nacional de Inteligencia Artificial para apoyar la Red de IA Responsable, una colaboración importante destinada a elevar la práctica de la IA responsable en el sector comercial.

Además de la reciente acción urgente para prohibir el material de abuso infantil generado por IA en los resultados de los motores de búsqueda, el gobierno ha estado trabajando con partes interesadas, incluidas las empresas tecnológicas, para evaluar cómo abordar cualquier regulación de IA. Se espera que el conjunto de leyes existentes de Australia cubra muchos escenarios posibles de IA, aunque podrían existir vacíos que necesiten llenar con nueva regulación.

¿Qué deben hacer los líderes de TI para aprovechar la IA generativa?

Análisis de Gartner sugiere que el cambio continuo a lo digital en Australia impulsará una inversión creciente en tecnologías de IA generativa en 2024, con un enfoque particular en herramientas para desarrollo de software y generación de código. Sin embargo, Gartner también señala que la IA generativa y los modelos base han alcanzado el Pico de Expectativas Infladas en el Ciclo de Hype de Gartner para 2023, lo que anticipa una posible Caída de la Decepción en el futuro.

En el reciente Symposium/Xpo de Gartner en la Costa de Oro de Australia, el Analista Distinguido de Gartner, Arun Chandrasekaran, dijo a los líderes de TI que probablemente se encontrarían con "...una serie de preguntas sobre confianza, riesgo, seguridad, privacidad y ética" con la IA generativa, y que necesitarían "...equilibrar el valor comercial con los riesgos".

Chandrasekaran dijo que los líderes deberían considerar la creación de un documento en el que se describan los beneficios, riesgos, oportunidades y hoja de ruta de implementación de la IA generativa, y asegurarse de que la estrategia y los casos de uso se alineen con los objetivos comerciales, con una clara propiedad asignada y métricas comerciales para la medición.

Chandrasekaran sugirió que el departamento de TI creara "equipos especializados" que pudieran trabajar con las unidades de negocio en la generación de ideas, prototipado y demostración del valor de la IA generativa. Estos equipos también podrían ser responsables de monitorear el desarrollo de la industria y compartir valiosas lecciones aprendidas de los pilotos en toda la empresa.

Cómo desactivar Windows Copilot en Windows 11

Sin embargo, Chandrasekaran advirtió que TI también debería fomentar prácticas de IA responsable en todo momento para promover el uso ético y seguro de la IA generativa. Los empleados deben estar preparados para este período de cambios a través de la reentrenamiento de habilidades, la planificación de carrera y los recursos de apoyo emocional.

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Inteligencia artificial -, allí encontraras muchos artículos similares a Beneficios y riesgos de la inteligencia artificial generativa en la economía australiana , tenemos lo ultimo en tecnología 2023.