El Summit AI para el Bien: Explorando los riesgos y conexiones de la IA generativa

El 6 y 7 de julio, las Naciones Unidas acogieron el sexto AI for Good Global Summit anual. Durante el panel "La próxima ola de IA para el bien - hacia 2030", los expertos en inteligencia artificial generativa señalaron los riesgos que esta tecnología presenta hoy en día, cómo educar a la próxima generación sobre lo que puede hacer y cómo la comunidad global debería unirse para resolver los problemas regulatorios y sociales.

Ir a:

• Riesgos de la inteligencia artificial generativa, incluida la desinformación y el acceso desigual a los datos
• Preparando a la próxima generación para el mundo de la inteligencia artificial generativa
• Desarrollar inteligencia artificial generativa de manera segura comienza con una comunidad
• La intersección de la IA con las preocupaciones globales sobre la distribución de recursos
• El campo de la IA necesita aliviar la tensión entre la innovación y la regulación

Riesgos de la inteligencia artificial generativa, incluida la desinformación y el acceso desigual a los datos

"El mayor riesgo a corto plazo [de la inteligencia artificial generativa] es la creación deliberada de desinformación utilizando herramientas de lenguaje grandes para perturbar las democracias y los mercados", dijo Gary Marcus, empresario, ex profesor de Psicología y Ciencias Neurales de la Universidad de Nueva York y director ejecutivo del recién creado Center for Advancement of Trustworthy AI.

Marcus también ve algunas ventajas en la inteligencia artificial generativa. Propuso que la codificación automática puede reducir la carga de trabajo de los programadores sobrecargados.

Wendell Wallach, el co-director del proyecto AI and Equality dentro del Carnegie Council for Ethics and International Affairs, señaló la desigualdad entre los países ricos del hemisferio norte y los países pobres del hemisferio sur (el llamado Norte Global y Sur Global) como un problema exacerbado por la inteligencia artificial generativa. Por ejemplo, el Foro Económico Mundial publicó una publicación de blog en enero de 2023 que señala que la inteligencia artificial generativa se produce y utiliza principalmente en el Norte Global.

El impacto de la inteligencia artificial generativa en los procesos de contratación

La inteligencia artificial generativa se basa en datos de entrenamiento en una variedad de idiomas. Sin embargo, los idiomas con la mayor cantidad de hablantes generarán naturalmente la mayor cantidad de datos. Por lo tanto, las personas que hablan idiomas en los que se produce una gran cantidad de datos tienen más probabilidades de poder encontrar aplicaciones útiles para la inteligencia artificial generativa, según Marcus.

"Hay una ampliación de la desigualdad porque las personas que operan en idiomas que están bien dotados de recursos y tienen mucho dinero pueden hacer cosas que las personas que usan otros idiomas no pueden hacer", dijo.

Preparando a la próxima generación para el mundo de la inteligencia artificial generativa

Karishma Muthukumar, graduada en ciencias cognitivas de la Universidad de California, Irvine, y especialista en el uso de IA para mejorar la atención médica, señaló que los niños aprenden sobre inteligencia artificial generativa de sus compañeros o en casa, no en la escuela.

Ella propuso un plan de estudios a través del cual se podría enseñar el uso de la inteligencia artificial.

"Requerirá un diálogo intergeneracional y reunir a las mentes más brillantes para encontrar un plan de estudios que realmente funcione", dijo Muthukumar.

Desarrollar inteligencia artificial generativa de manera segura comienza con una comunidad

Muchos panelistas hablaron sobre la importancia de la comunidad y asegurarse de que todas las partes interesadas tengan voz en la conversación sobre la inteligencia artificial generativa. Esto incluye a "científicos, científicos sociales, éticos, personas de la sociedad civil", así como gobiernos y empresas, dijo Marcus.

Los empleos de IA y aprendizaje automático están en auge: informe del Foro Económico Mundial.

"Plataformas globales como la UIT [Unión Internacional de Telecomunicaciones, una agencia de la ONU] y conferencias como esta están comenzando a hacernos sentir más conectados y ayudan a la IA a ayudar a los humanos a sentirse más conectados", dijo Muthukumar.

"Espero que parte de lo que resulta de esta reunión que hemos tenido en los últimos años sea el reconocimiento de que este tema está sobre la mesa y que ese reconocimiento trascienda a nuestros líderes para que comiencen a comprender que este no es uno de esos problemas que debemos ignorar", dijo Wallach.

En cuanto a las cuestiones éticas de utilizar la inteligencia artificial generativa para resolver problemas globales, Muthukumar propuso que la pregunta abre otras preguntas. "¿Qué es el bien y cómo podemos definirlo? Los objetivos de desarrollo sostenible de la ONU son un gran marco y un buen punto de partida para encontrar estos objetivos sostenibles y lo que podemos lograr", dijo.

La intersección de la IA con las preocupaciones globales sobre la distribución de recursos

Wallach señaló que las grandes cantidades de dinero que se destinan a las empresas de inteligencia artificial generativa no necesariamente resuelven los problemas a los que la cumbre AI for Good propone que se utilice la IA.

"Uno de los problemas de la estructura de valor intrínseca a la economía digital es que generalmente hay un ganador en cada campo", dijo. "Y las ganancias de capital van a aquellos de nosotros que tenemos acciones en esos ganadores. Eso es profundamente problemático en términos de la distribución de recursos para alcanzar los objetivos de desarrollo sostenible".

Propone que las empresas que desarrollen inteligencia artificial generativa y otras soluciones tecnológicas para los problemas globales también deben tener "alguna responsabilidad de mitigar los aspectos negativos, los compromisos, de la solución que están eligiendo".

IBM revoluciona el mundo empresarial con WatsonX Foundation: ¡Descubre las nuevas innovaciones!

El campo de la IA necesita aliviar la tensión entre la innovación y la regulación

También se discutió la importancia de las Naciones Unidas. Wallach señaló que si bien los esfuerzos de la ONU para reunir a las partes interesadas y discutir los problemas globales son loables, la organización tiene "una reputación mixta" y no puede resolver "la cacofonía entre las naciones".

Sin embargo, espera que llevar la conversación sobre la inteligencia artificial generativa y la ética a un público más amplio sea beneficioso.

Lo que significan las consideraciones éticas en la IA puede variar según las circunstancias. "Por ejemplo, el concepto de equidad en la IA varía mucho según su aplicación", dijo Haniyeh Mahmoudian, eticista global en inteligencia artificial de la compañía de software AI y machine learning DataRobot y miembro del Comité Asesor Nacional de IA de los Estados Unidos, en una entrevista por correo electrónico con Newsmatic. "Cuando se aplica a un sistema de contratación, la equidad podría significar igual representación, mientras que en un contexto de reconocimiento facial, la equidad podría referirse a una precisión constante".

Marcus ve la regulación gubernamental como una parte importante para garantizar un futuro en el que la inteligencia artificial generativa funcione para el bien.

"Hay una tensión entre lo que se llama fomentar la innovación y la regulación en este momento", dijo. "Creo que es una falsa tensión. Podemos fomentar la innovación a través de la regulación que le diga a Silicon Valley que necesita hacer que su IA sea confiable y confiable".

Comparó el auge de la inteligencia artificial generativa con el auge de las redes sociales, en el que las empresas crecieron más rápido que la regulación que las rodeaba.

Seguridad infalible: Cómo Google protege sus datos empresariales con chatbots IA generativos

"Si jugamos nuestras cartas correctamente, aprovecharemos este momento, en países individuales como los EE. UU., de donde soy, y a nivel global, donde las personas se dan cuenta de que algo debe hacerse. Si no lo hacemos, tendremos un año de angustia", dijo Marcus.

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Inteligencia artificial, allí encontraras muchos artículos similares a El Summit AI para el Bien: Explorando los riesgos y conexiones de la IA generativa , tenemos lo ultimo en tecnología 2023.