El futuro de la ética en la inteligencia artificial: preocupaciones y desafíos

Las herramientas de IA son indudablemente útiles, y por eso el desarrollo y uso de la IA está creciendo de manera exponencial. Actualmente, la IA se utiliza para todo, desde la investigación hasta la redacción de argumentos legales, desde la generación de imágenes hasta la narración para artistas y el apoyo a los programadores.

Sin embargo, por muy útiles que sean estas herramientas, la IA plantea una preocupación ética grave. A pesar de que se están lanzando en masa herramientas de IA para uso público en estos momentos, las discusiones sobre ética en la IA siguen siendo solo eso: discusiones con poca regulación detrás de ellas. Muchas naciones, como Australia, quieren analizar la regulación de la IA, pero tal regulación todavía está lejos y es cuestionable hasta qué punto limitarían estas regulaciones "innovación" de alto valor en nombre de las mejores prácticas éticas.

En consecuencia, mientras que el consumo ético de la tecnología en general se vuelve una prioridad cada vez mayor, la IA, en contraste, se ha convertido en una especie de "tierra de nadie", donde muchos de los límites éticos son decididos por el propio centro ético del individuo.

Desde los problemas de plagio y el potencial de la IA para comprometer la integridad de la investigación académica, hasta los sesgos que conducen a la discriminación y el potencial de pérdidas de empleo e incluso de muertes causadas por la IA, como sociedad, necesitamos desarrollar mejores marcos éticos en torno a la IA.

Necesitamos que esto suceda rápidamente porque, aunque no estemos directamente en camino a Skynet, la IA va a desempeñar un papel importante en la configuración de nuestro futuro. Necesitamos asegurarnos de que los cimientos éticos en los que se construyen estas aplicaciones sean adecuadamente considerados antes de permitir que la IA "se haga cargo" en cualquier contexto significativo.

Generative AI en el trabajo: reemplazará o potenciará a los empleados

La "década perdida" para la ética en la IA

En 2016, el Foro Económico Mundial analizó los nueve principales problemas éticos en la inteligencia artificial. Estos problemas han sido comprendidos durante una década (o más), lo que hace que la falta de avances para abordarlos sea tan preocupante. En muchos casos, las preocupaciones destacadas por el Foro Económico Mundial, que eran futuristas en ese momento, están comenzando a convertirse en realidad, sin embargo, las preocupaciones éticas aún no se han puesto en acción.

Desempleo: ¿Qué sucede después del fin de los empleos?

Como señala el Foro Económico Mundial: "Miren la industria del transporte: emplea a millones de personas solo en Estados Unidos. ¿Qué les sucederá si los camiones autónomos prometidos por Elon Musk de Tesla se vuelven ampliamente disponibles en la próxima década?"

Mientras tanto, este año se publicó un artículo que reconoce que no hay suficientes alternativas laborales para la reubicación del 50% de los conductores de camiones. La pérdida de empleos debido a la IA, especialmente en campos donde la base de trabajadores tiende a ser mayor o tener menor nivel educativo, es una preocupación ética que se conoce desde hace mucho tiempo, sin embargo, tanto los responsables de las políticas como las empresas privadas de todo el mundo han mostrado poca urgencia en ayudar a los individuos afectados a adquirir nuevas habilidades y encontrar nuevas oportunidades laborales.

Desigualdad: ¿Cómo distribuimos la riqueza creada por las máquinas?

El Foro Económico Mundial reconoce que existe el potencial de que la IA concentre aún más la riqueza. Después de todo, la IA trabaja por una fracción de lo que ganan los empleados capacitados, y no se sindicaliza, no toma días de enfermedad ni necesita descansar.

Dándole trabajo a la IA mientras se reduce el tamaño total de la fuerza laboral, las empresas están creando una mejor posición de beneficios para sí mismas. Sin embargo, esto no beneficia a la sociedad a menos que la riqueza se transfiera de vuelta a ella.

"La IA pondrá fin a la débil productividad de Occidente, pero ¿quién se beneficiará exactamente?", señala The Guardian.

Inteligencia Conversacional Impulsa el Mercado de Centros de Contacto con un Crecimiento del 16%

Una solución sería que los gobiernos abandonen la imposición de impuestos al trabajo y, en cambio, impongan directamente a los sistemas de IA. La riqueza pública generada al hacer esto podría utilizarse para proporcionar apoyo de ingresos necesario a aquellos sin empleo o que hayan sido reubicados en trabajos peor remunerados. Sin embargo, incluso cuando los empleos ya están siendo afectados, no hay signos de un debate para transformar el sistema de impuestos en ese sentido.

Sesgo: ¿Cómo abordamos el sesgo y el racismo y sexismo potenciales generados por las aplicaciones de IA?

El Foro Económico Mundial señaló el potencial de sesgo de la IA en su artículo inicial, y este es uno de los problemas éticos de la IA más debatidos y comentados. Hay varios ejemplos de IA que evalúa a personas de color y género de manera diferente. Sin embargo, como señaló UNESCO el año pasado, a pesar de una década de debate, los sesgos de la IA siguen siendo fundamentales hasta el núcleo.

"Escribe 'los mejores líderes de todos los tiempos' en tu motor de búsqueda favorito, y probablemente verás una lista de las personalidades masculinas destacadas del mundo. ¿Cuántas mujeres cuentas? Una búsqueda de imágenes de 'estudiante femenina' probablemente mostrará una página llena de mujeres y niñas en todo tipo de disfraces sexualizados. Sorprendentemente, si escribes 'estudiante masculino', los resultados mostrarán principalmente jóvenes estudiantes masculinos comunes. No hay hombres en disfraces sexualizados o hay muy pocos."

Antes, estos sesgos eran algo insignificante cuando se construían en aplicaciones relativamente inofensivas como los resultados de los motores de búsqueda o cuando simplemente ofrecían una mala experiencia de usuario. Sin embargo, la IA se está aplicando cada vez más a áreas donde los sesgos tienen consecuencias muy reales que pueden alterar la vida de las personas.

Algunos argumentan que la IA resultará en un sistema judicial "más justo", por ejemplo. Sin embargo, los sesgos incorporados en las aplicaciones de IA, que aún no se han abordado a pesar de una década de investigación y debate, sugerirían un resultado muy diferente al de la equidad.

Robo: ¿Cómo protegemos a los artistas de que su obra e incluso su identidad sean robadas por aquellos que usan aplicaciones de IA?

Como señaló UNESCO en 2019, Huawei utilizó una aplicación de IA para "completar" los dos últimos movimientos de la sinfonía inacabada n.° 8 de Franz Schubert. Mientras tanto, se está utilizando IA para crear bancos de voz que permiten a los usuarios crear discursos a partir de celebridades fallecidas, como Steve Jobs. Uno de los principales motivos que están detrás de las recientes huelgas de actores y guionistas es la preocupación de que la IA se utilice para imitarlos en proyectos de los que no obtendrán beneficios, incluso después de su muerte y sin su consentimiento directo.

Domina ChatGPT en nuestra venta de regreso a clases: es hora de destacar

En otros casos, un artista de IA utilizó IA generativa para crear una portada para un videojuego en lugar de una imagen original, como había sido encargado por la editorial. También hubo una fuerte reacción en la comunidad de artistas en línea más grande del mundo, DeviantArt, por permitir que los algoritmos de IA recopilen datos de los artistas sin el permiso de estos.

El debate sobre dónde se encuentra la línea que separa lo que es y no es un uso aceptable de los derechos de autor por parte de la IA está en pleno apogeo, de manera ruidosa y vocal. Y, mientras tanto, mientras ese debate sigue en marcha, los desarrolladores de IA están lanzando herramientas que permiten un enfoque de laissez-faire para los artistas de IA, mientras que los gobiernos continúan confiando en derechos de propiedad intelectual obsoletos e inadecuados, creados antes de que existiera la IA, para regular el espacio.

Desinformación: ¿Cómo evitamos que la IA se utilice para promover la propagación de la desinformación?

"Los sistemas de IA pueden ser engañados de formas en las que los humanos no lo harían", señaló el informe del Foro Económico Mundial de 2016. "Por ejemplo, los patrones de puntos aleatorios pueden hacer que una máquina "vea" cosas que no están ahí".

Recientemente, una investigación descubrió que ChatGPT pasó de responder correctamente un problema matemático simple el 98% de las veces a solo acertarlo el 2% de las veces. A principios de este año, una nueva aplicación de IA de Google cometió un error crítico de hecho y esto redujo la valoración de mercado de la empresa en 100 mil millones de dólares.

Vivimos en una era en la que la información circula rápidamente y la desinformación puede afectar todo, incluso los resultados de elecciones críticas. Algunos gobiernos están intentando introducir leyes contra la desinformación. Por ejemplo, Australia está interesada en abordar "problemas sistémicos que representan un riesgo de daño en las plataformas digitales", pero las aplicaciones de IA se lanzan sin ninguna obligación de ser precisas en la información que presentan, y el gran problema de la desinformación es que una vez que ha influenciado a alguien, puede ser difícil corregir la situación.

Un patrón común para un problema crítico

Estos son solo cinco ejemplos de cómo la IA está afectando los empleos, los estilos de vida y la existencia misma de las personas. En todos estos ejemplos, las preocupaciones éticas sobre ellos han sido conocidas durante muchos años y, sin embargo, a pesar de que el debate ético no se ha resuelto, se lanzan estas aplicaciones sin restricciones.

C2PA: La certificación de contenido de IA generativa para combatir la desinformación

Como dice el dicho popular: "Es mejor pedir perdón que pedir permiso". Esa parece ser la actitud que han adoptado aquellos que trabajan en IA. El problema es que esta frase, originalmente de la almirante Grace Hopper, ha sido interpretada de manera equivocada en su intención original. En realidad, cuanto más tiempo pase el desarrollo de IA sin tener en cuenta consideraciones éticas, es decir, cuánto más tiempo se les permita pedirle "perdón" en lugar de "permiso", más difícil será revertir el daño que estas aplicaciones están causando en nombre del progreso.

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Inteligencia artificial, allí encontraras muchos artículos similares a El futuro de la ética en la inteligencia artificial: preocupaciones y desafíos , tenemos lo ultimo en tecnología 2023.