La UE aprueba la ley pionera de inteligencia artificial para regular el uso de esta tecnología

Los legisladores europeos dieron un paso más para aprobar una ley pionera sobre inteligencia artificial la semana pasada, avanzando en una legislación que busca establecer un punto de referencia para la tecnología en constante evolución pero mínimamente regulada.

El miércoles 14 de junio, el Parlamento Europeo aprobó una legislación conocida como la Ley de Inteligencia Artificial. Presentada como la primera ley integral de IA en el mundo, la legislación representa un manual para la adopción y uso de la tecnología de IA en los 27 estados miembros de la Unión Europea.

La Ley de IA propone la prohibición de prácticas de IA de alto riesgo en Europa, incluido el uso de tecnología de reconocimiento facial en tiempo real en lugares públicos y otros sistemas de IA considerados "intrusivos y discriminatorios" por el Parlamento Europeo, como los sistemas de puntuación social y los modelos que emplean técnicas "subliminales o manipulativas intencionadamente".

La legislación también incluye requisitos más estrictos para los modelos generativos de IA, como ChatGPT, que deberán revelar cuando el contenido haya sido generado por una máquina y diseñar sus modelos con medidas incorporadas para prevenir la generación de contenido ilegal.

Un precedente en la legislación sobre IA

La legislación pionera de Europa tiene como objetivo establecer un precedente para la regulación de la inteligencia artificial en todo el mundo, donde la explosión en el uso de herramientas de IA y aprendizaje automático ha provocado que los formuladores de políticas luchen por mantenerse al día.

¡Aprovecha la oportunidad de aumentar tu productividad con Taskio

Deirdre Clune, miembro del Parlamento Europeo, celebró la Ley de IA como "un documento legislativo innovador" con el potencial de convertirse en "el enfoque global de facto para la regulación de la IA".

Hablando con los eurodiputados el 13 de junio, Clune dijo: "Se trata de uno de los primeros intentos a nivel mundial de regular la IA... La IA tiene la capacidad de resolver los problemas más apremiantes, como el cambio climático o las enfermedades graves, y queremos sentar las bases para lograrlo aquí en la Unión Europea".

Clune agregó: "No podemos hacer esto completamente solos, pero debemos ser líderes en asegurar que esta tecnología se desarrolle y se utilice de manera responsable y ética, al tiempo que apoyamos la innovación y el crecimiento económico".

Un enfoque basado en el riesgo para las reglas de IA

La legislación propuesta por la UE plantea un enfoque basado en el riesgo para la regulación de la IA que categoriza los sistemas de inteligencia artificial en función de su amenaza potencial para los usuarios, un tema que ha sido objeto de un intenso debate durante mucho tiempo.

Los sistemas de IA considerados de nivel de riesgo "inaceptable" estarán estrictamente prohibidos según la ley de la UE, con excepciones limitadas. Los sistemas y funciones de IA considerados inaceptables, y por lo tanto prohibidos, según el proyecto de ley incluyen:

• Manipulación cognitiva del comportamiento de las personas o de grupos específicos vulnerables: por ejemplo, juguetes activados por voz que fomentan comportamientos peligrosos en los niños.
• Puntuación social: clasificación de las personas con base en su comportamiento, estado socioeconómico o características personales.
• Sistemas de identificación biométrica en tiempo real y a distancia: las herramientas de reconocimiento facial son un ejemplo posible.

Una excepción en el caso de los sistemas remotos de identificación biométrica sería para enjuiciar delitos graves en casos en los que la identificación ocurra después de "un retraso significativo", aunque dichos casos requerirán la aprobación de un tribunal.

Cómo proteger los datos en el uso de ChatGPT y otras aplicaciones de IA generativa

Los sistemas de IA de alto riesgo incluyen aquellos utilizados en productos regulados por la UE, como juguetes y automóviles, así como áreas específicas como la identificación biométrica, la gestión de infraestructuras críticas, el empleo y la aplicación de la ley. Según las nuevas normas de la UE, estos sistemas deben estar registrados en una base de datos de la UE.

Los sistemas de IA con el potencial de influir en los votantes en campañas políticas, así como aquellos que se encuentran en sistemas de recomendación utilizados por plataformas de redes sociales, también figuran en la lista de alto riesgo de la Ley de IA.

Mientras tanto, las herramientas generativas de IA, como ChatGPT y Google Bard, así como otros sistemas de IA considerados de riesgo limitado, deberán adoptar salvaguardias más sólidas según las nuevas normas de la UE. Estas salvaguardias incluyen requisitos de transparencia más estrictos y permitir a los usuarios tomar decisiones informadas sobre si y cómo interactúan con los modelos de IA.

Los usuarios deberán ser informados cuando estén interactuando con una IA y también se les deberá dar la opción de dejar de usar las aplicaciones de IA una vez que hayan interactuado con ellas.

"Lo mínimo que debemos ofrecer aquí es transparencia", dijo Clune. "Debe quedar claro que este contenido no ha sido creado por humanos. Y también vamos un paso más allá y pedimos a los desarrolladores de estos grandes modelos que sean más transparentes y compartan su información con los proveedores y cómo se entrenaron y desarrollaron estos sistemas. Esto debería abordar y cambiar la sostenibilidad ambiental de estos sistemas".

Reacciones mixtas por parte de la comunidad tecnológica

Aunque la Ley de IA de Europa finalmente tiene como objetivo regular el uso de la inteligencia artificial de una manera que equilibre la seguridad y la transparencia con el potencial de innovación, miembros de la comunidad tecnológica han expresado preocupación de que el aumento de la supervisión y las posibles sanciones por incumplir las reglas podrían limitar la innovación.

Lenovo amplía su portafolio de infraestructura lista para IA

Kevin Bocek, vicepresidente de ecosistema y comunidad en la empresa de ciberseguridad Venafi, argumentó que el Parlamento Europeo "apunta directamente a las innovaciones de IA del Valle del Silicio" y advirtió sobre "un impacto potencialmente enorme en las empresas estadounidenses y sus inversores".

"La UE limitará significativamente el enfoque actual de lanzamientos de productos semanales y actualizaciones diarias de modelos", dijo Bocek a Newsmatic. "Los requisitos del bloque para la transparencia, la certificación y la seguridad no se alinean con la forma en que los proveedores de software y en la nube innovan en la actualidad. Esto abre un camino para que las empresas emergentes de Europa y el software de código abierto desempeñen un papel más importante en la IA de lo que estamos viendo actualmente".

Las nuevas normas de la UE también podrían complicar las cosas para las empresas que operan en Europa pero tienen su sede en otro lugar.

Greg Hanson, vicepresidente del grupo de ventas de plataformas para EMEA y América Latina en la compañía de desarrollo de software Informatica, dijo a Newsmatic que la Ley de IA de Europa requeriría que las empresas estadounidenses y no pertenecientes a la UE tengan una visibilidad completa sobre el origen de los datos en los que se basaron sus modelos de IA para garantizar el cumplimiento.

"Para las organizaciones con datos que cruzan las fronteras internacionales, lo cual es la mayoría, ahora necesitarán tener una visibilidad completa de cómo y dónde se procesan sus datos para cumplir con diferentes legislaciones geográficas", dijo Hanson a Newsmatic.

"Por ejemplo, una organización con sede en Estados Unidos pero que opera en Europa necesitará comprender completamente la calidad de sus datos y poder rastrearlos completamente a lo largo de su cadena de suministro de datos... Esto significa que la necesidad de precisión, claridad, linaje y gobernanza de los datos se intensificará".

Curso de Inteligencia Artificial y Aprendizaje Profundo para Profesionales Avanzados en 2023

La Ley de IA incluye exenciones a las reglas para actividades de investigación y componentes de IA proporcionados bajo licencias de código abierto.

Para garantizar que las empresas puedan aprovechar de manera efectiva la IA mientras protegen los derechos de los ciudadanos, las autoridades públicas establecerán espacios de prueba regulados para poner a prueba los nuevos sistemas de IA antes de su implementación.

Mientras tanto, los ciudadanos tendrán derechos mejorados para presentar quejas sobre sistemas de IA y recibir explicaciones sobre las decisiones basadas en sistemas de IA de alto riesgo, y la Oficina de AI de la UE reformada será responsable de monitorear la implementación del manual de reglas.

A pesar de esto, Kamales Lardi, consultora de transformación digital y autora de "The Human Side of Digital Business Transformation", advirtió que los reguladores "seguirán jugando al juego de ponerse al día" a menos que las limitaciones en el proyecto de ley se aborden rápidamente.

"La Ley está adoptando un enfoque regulatorio y de cumplimiento tradicional hacia un paisaje generativo y de cambio rápido que es la IA", dijo Lardi a Newsmatic.

"La Ley no aborda suficientemente temas relacionados con los derechos de autor, incluso desde la perspectiva de que el debate y las definiciones sobre lo que se considera límites de derechos de autor todavía están en discusión".

AWS apuesta $100 millones por el Centro de Innovación en IA Generativa

Lardi también señaló que la implementación de la Ley de IA sería "una pesadilla" dada la cantidad de empresas que actualmente utilizan soluciones basadas en IA o que planean hacerlo en un futuro cercano. "La revisión de solicitudes y la evaluación de la conformidad será una tarea desafiante y confiar en la autoevaluación no será suficiente a largo plazo", agregó.

"Es posible que las empresas necesiten realizar cambios sustanciales en sus prácticas de recopilación y gestión de datos para cumplir con las nuevas normas de privacidad de datos establecidas por la legislación".

¿Cuándo se aprobará la nueva ley?

La UE espera finalizar la Ley de IA a fines de 2023, aunque incluso si tiene éxito, se espera que la nueva legislación no entre en vigor durante unos años, potencialmente alrededor de 2026.

Independientemente de las complejidades que deberán resolverse en el ínterin, Hanson dijo que recibe con satisfacción la introducción de la histórica legislación de IA de Europa.

"La decisión de la UE de regular los datos que alimentan los sistemas de IA es un movimiento legislativo inteligente", afirmó Hanson. "No solo protegerá el potencial de una tecnología que puede impulsar el crecimiento económico, sino que también protegerá la esencia misma de un negocio", concluyó.

Databricks adquiere MosaicML y su IA generativa por $1.3 mil millones

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Inteligencia artificial, allí encontraras muchos artículos similares a La UE aprueba la ley pionera de inteligencia artificial para regular el uso de esta tecnología , tenemos lo ultimo en tecnología 2023.