La nueva ley de regulación de la contratación con IA llega a Nueva York en 2023

En 2023, entrará en vigencia una nueva ley que regula la contratación con inteligencia artificial en la ciudad de Nueva York, y es probable que sigan a esta iniciativa legislaturas de otros lugares. Esto ocurre casi una década después de que Amazon implementara su famosa herramienta de contratación con IA, la cual generó sesgos perjudiciales contra las candidatas femeninas.

Con frecuencia, las tecnologías emergentes quedan sin control mientras las industrias se desarrollan a su alrededor. Debido a la rápida innovación y a la lenta regulación, las empresas que son las primeras en introducirse en el mercado suelen pedir perdón al público en lugar de buscar permisos institucionales. Casi 20 años después de su fundación, Facebook (ahora Meta) sigue siendo en gran medida autorregulado. Las criptomonedas hicieron su debut en 2009, y ahora, con una capitalización de mercado de 2,6 billones de dólares, el debate sobre la regulación acaba de comenzar. La World Wide Web existió completamente libre de restricciones durante cinco años hasta que el Congreso aprobó la Ley de Telecomunicaciones en 1996.

Las personas encargadas de desarrollar legislaciones a menudo no comprenden la tecnología que están regulando, lo que da como resultado estatutos vagos o desconectados de la realidad que no logran proteger adecuadamente a los usuarios ni impulsar el progreso. No es sorprendente que la comercialización de la inteligencia artificial siga un camino similar. Pero, debido a su capacidad inherente para evolucionar y aprender de manera exponencial, ¿cómo pueden los reguladores o los especialistas en IA mantenerse al día?

Listo o no, la gobernanza de la contratación con IA está aquí. A continuación, te presentamos las cuatro cosas más importantes que debes saber a medida que se implementa la legislación en torno a esta tecnología transformadora.

Análisis de sesgo: la importancia de los datos no neutrales

En el ámbito de la contratación, los riesgos de dejar la IA sin control son altos. Cuando se implementa la IA para filtrar, evaluar y seleccionar candidatos a puestos de trabajo, existe un riesgo real de crear o perpetuar sesgos raciales, étnicos, de género y discapacidad.

Buscar datos imparciales durante el proceso de contratación es como caminar por un campo de minas. Se toman decisiones conscientes e inconscientes basadas en el promedio de calificaciones, la reputación de la escuela o la elección de palabras en un currículum, lo que lleva a resultados históricamente inequitativos.

AWS lanza servicio de monitoreo de video que distingue entre mascotas

Por esta razón, la ley de la ciudad de Nueva York exigirá que todas las herramientas automatizadas de toma de decisiones laborales sean sometidas a una auditoría de sesgos en la que un auditor independiente determine el impacto de la herramienta en las personas en función de diversos factores demográficos. Aunque los detalles sobre el requisito de auditoría son vagos, es probable que las empresas de contratación con IA estén obligadas a realizar "análisis de impacto desigual" para determinar si algún grupo está siendo perjudicado.

Los expertos en IA ética saben cómo corregir datos sesgados y aún así producir algoritmos altamente efectivos y predictivos. Deben visualizar, estudiar y limpiar los datos hasta que no se encuentre un impacto adverso significativo. Sin embargo, las personas que no son científicas de datos tendrán dificultades para encontrar formas de hacer esto por sí mismas, ya que existen pocas herramientas robustas y la mayoría son de código abierto. Por esta razón, es fundamental contar con expertos en técnicas de aprendizaje automático que depuren rigurosamente los datos antes de implementar cualquier algoritmo.

La importancia de conjuntos de datos diversos y amplios

Para evitar problemas regulatorios, los datos utilizados para entrenar la IA deben ser adecuadamente representativos de todos los grupos para evitar resultados sesgados. Esto es especialmente importante en la contratación, ya que muchos entornos laborales profesionales son mayoritariamente de raza blanca y/o masculinos, especialmente en industrias como la tecnología, las finanzas y los medios de comunicación.

Si no es posible acceder a datos diversos, ricos y amplios, los científicos de datos experimentados pueden generar sintéticamente muestras adicionales representativas para garantizar que el conjunto de datos tenga una relación uno a uno entre todos los géneros, razas, edades, etc., independientemente del porcentaje de la población que representen en la industria o la fuerza laboral.

La inclusión de los candidatos y la no exclusión por parte de la IA

Los enfoques tradicionales de contratación a menudo se basan en datos estructurados, como información de currículum, y datos no estructurados, como una "corazonada", para filtrar o descartar candidatos durante el proceso de selección. Estos puntos de datos no son particularmente predictivos del rendimiento futuro y suelen contener los sesgos más arraigados y sistémicos.

Sin embargo, algunas herramientas de contratación con IA emiten recomendaciones que también instruyen a los responsables de tomar decisiones de contratación a eliminar candidatos en función de la determinación de la IA. Cuando la IA excluye candidatos de esta manera, es probable que surjan problemas.

El 35% de las empresas utilizan inteligencia artificial en sus negocios

En lugar de eso, estas herramientas deberían proporcionar puntos de datos adicionales que se utilicen en conjunto con otra información recopilada y evaluada durante el proceso de contratación. En su mejor día, la IA debería proporcionar información accionable, explicable y complementaria sobre todos los candidatos que permita a los empleadores tomar las mejores decisiones posibles lideradas por seres humanos.

Pruebas para eliminar sesgos persistentes o ocultos

En el futuro, la regulación exigirá pruebas exhaustivas, catalogadas e incluso continuas para cualquier IA diseñada para ayudar a tomar decisiones de contratación de manera imparcial. Esto probablemente se asemejará a la regla del 4/5 (cuatro quintos) establecida por la Comisión para la Igualdad de Oportunidades en el Empleo (EEOC, por sus siglas en inglés).

La regla del 4/5 establece que la tasa de selección de cualquier raza, sexo o grupo étnico no debe ser menor al 80% de la tasa de selección del grupo con la tasa de selección más alta. Cumplir con la regla del 4/5 debería ser una práctica estándar para una herramienta de contratación con IA.

Sin embargo, es posible y recomendable ir un paso más allá. Por ejemplo, supongamos que la herramienta que utilizas presenta predicciones de desempeño para los candidatos. Es posible que desees asegurarte de que entre tus candidatos con las predicciones más altas, haya una representación adecuada y ninguna señal de impacto adverso. Esto te ayudará a determinar si los sesgos se concentran en diferentes puntos de la escala de predicción y te permitirá crear un ecosistema aún más equitativo para los candidatos.

Una supervisión más rigurosa en la contratación con IA reducirá, con el tiempo, la probabilidad de que los candidatos se vean perjudicados debido a factores subjetivos o discriminatorios. Sin embargo, debido a la novedad y la ambigüedad de estas leyes, las empresas de IA deben tomar la responsabilidad de garantizar la protección de los candidatos.

Incluso con todos los riesgos, las ventajas de aprovechar la IA en la contratación son sencillamente inigualables. Aspectos como la eficiencia, la precisión y la equidad pueden verse positivamente afectados con el uso de la inteligencia artificial, y la supervisión inminente no debería frenar su adopción.

Nuevo algoritmo de aprendizaje automático detecta y detiene la comunicación tóxica en el trabajo

El Dr. Myers es el Director de Tecnología de Suited, una red de contratación impulsada por IA basada en evaluaciones utilizada por empresas de servicios profesionales para descubrir y colocar de manera precisa, confidencial y equitativa a candidatos en etapa inicial de diversas trayectorias profesionales en oportunidades laborales competitivas. Antes de Suited, fue cofundador de otra empresa emergente de contratación basada en IA, dedicada a eliminar el sesgo del proceso de contratación. Obtuvo su doctorado en Ciencia, Ingeniería y Matemáticas Computacionales en la Universidad de Texas, con un enfoque en la construcción de modelos de aprendizaje automático.

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Inteligencia artificial, allí encontraras muchos artículos similares a La nueva ley de regulación de la contratación con IA llega a Nueva York en 2023 , tenemos lo ultimo en tecnología 2023.