Qué es la Ley de Responsabilidad Algorítmica

¿Qué es la Ley de Responsabilidad Algorítmica?

"La ley requeriría que todas las empresas que utilizan IA realicen evaluaciones de impacto críticas de los sistemas automatizados que utilizan y venden de acuerdo con las regulaciones establecidas por la Comisión Federal de Comercio", dijo Siobhan Hanna, directora gerente de sistemas de IA global para TELUS International. "Obligar a las empresas de tecnología a realizar auditorías internas y reportar es un primer paso, pero avanzar hacia la implementación de estrategias y procesos para mitigar el sesgo de manera más proactiva también será clave para ayudar a abordar la discriminación antes en la cadena de valor de la IA".

Si la Ley de Responsabilidad Algorítmica se aprueba, es probable que desencadene una auditoría de los sistemas de inteligencia artificial a nivel de proveedor y también dentro de las propias empresas que utilizan IA en su toma de decisiones.

La Ley de Responsabilidad Algorítmica se reintrodujo en abril de 2022 tanto en la Cámara de Representantes como en el Senado después de haber sido modificada.

"Casas que nunca sabes que están en venta, oportunidades laborales que nunca se presentan y financiamiento del que nunca te enteras, todo debido a algoritmos sesgados", dijo el senador Cory Booker, uno de los patrocinadores del proyecto de ley. "Este proyecto de ley requiere que las empresas evalúen regularmente sus herramientas en términos de precisión, equidad, sesgo y discriminación. Es un paso clave para garantizar una mayor responsabilidad por parte de las entidades que utilizan software para tomar decisiones que pueden cambiar vidas".

¿Están listas las empresas para el desafío?

Se han identificado hasta 188 sesgos humanos diferentes que pueden influir en la IA. Muchos de estos sesgos están profundamente arraigados en nuestra cultura y nuestros datos. Si los modelos de entrenamiento de IA se basan en estos datos, es posible que se filtren sesgos. Si bien es posible que las empresas y sus desarrolladores de IA incluyan deliberadamente sesgos en sus algoritmos, es más probable que los sesgos se desarrollen a partir de datos incompletos, sesgados o que no provengan de un conjunto de fuentes de datos lo suficientemente diverso.

"La Ley de Responsabilidad Algorítmica presentaría los desafíos más significativos para las empresas que aún no han establecido ningún sistema o proceso para detectar y mitigar el sesgo algorítmico", dijo Hanna. "Las entidades que desarrollan, adquieren y utilizan IA deben ser conscientes del potencial de toma de decisiones y resultados sesgados como resultado de su uso".

El valor de la inteligencia artificial estrechamente enfocada en aplicaciones específicas

Si el proyecto de ley se convierte en ley, la FTC tendría la autoridad para realizar evaluaciones de impacto de sesgo de IA dentro de los dos años posteriores a su aprobación. La atención se centraría probablemente en sectores como la salud, la banca, la vivienda, el empleo y la educación.

"Específicamente, cualquier persona, sociedad o corporación sujeta a la jurisdicción federal y que genere más de $50 millones al año, posea o controle información personal de al menos un millón de personas o dispositivos, actúe principalmente como intermediario de datos que compra y vende datos del consumidor, estará sujeta a evaluación", dijo Hanna.

Lo que las empresas pueden hacer ahora

El sesgo es inherente a la sociedad y no existe una forma totalmente libre de sesgo. Pero esto no excusa a las empresas de hacer todo lo posible para garantizar que los datos y los algoritmos de IA que operan sobre ellos sean lo más objetivos posible.

Algunas medidas que las empresas pueden tomar para facilitar esto son:

• Utilizar equipos de IA diversos que aporten diferentes puntos de vista y perspectivas sobre IA y datos.
• Desarrollar metodologías internas para auditar la IA en busca de sesgos.
• Requerir resultados de evaluación de sesgo de terceros proveedores de sistemas y datos de IA a los que adquieran servicios.
• Dar una gran importancia a la calidad y preparación de los datos en su trabajo diario con IA.

El mercado de software de automatización robótica de procesos (RPA) crecerá un 19

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Inteligencia artificial, allí encontraras muchos artículos similares a Qué es la Ley de Responsabilidad Algorítmica , tenemos lo ultimo en tecnología 2023.