Los problemas éticos de la tecnología de reconocimiento facial

La tecnología de reconocimiento facial ha ingresado al mercado masivo, permitiendo que nuestras caras desbloqueen nuestros teléfonos y computadoras. Si bien la capacidad de capacitar a las máquinas para identificar a una persona con solo mirar su rostro es emocionante, no está exenta de importantes preocupaciones éticas.

Si su empresa está considerando la tecnología de reconocimiento facial, es esencial estar al tanto de estas preocupaciones y estar preparado para abordarlas, lo que incluso podría incluir abandonar el reconocimiento facial por completo.

Cuando se evalúan estas preocupaciones éticas, es importante considerar cómo reaccionarían sus clientes, empleados y el público en general si supieran plenamente cómo está utilizando la tecnología. Si esa idea es preocupante, es posible que esté entrando en una "zona de peligro" ética.

¿Cuáles son los desafíos éticos de la tecnología de reconocimiento facial?

Falta de transparencia y consentimiento

Un problema ético fundamental del reconocimiento facial es que estas tecnologías a menudo se emplean sin consentimiento o notificación. Tener acceso a cámaras de vigilancia o transmisiones de video de empleados, clientes o el público en general no significa que sea una buena idea utilizar esos datos sin informar a las partes afectadas.

La identificación de una persona por su rostro abre la posibilidad de acceder a todo tipo de otros datos, lo que puede amplificar las preocupaciones éticas. Por ejemplo, si utiliza el reconocimiento facial para identificar a las personas que entran a una tienda, ¿debería utilizar esa identidad para acceder al historial de compras? ¿Qué tal un informe de crédito? ¿Debería evitar atender a personas con una baja calificación crediticia y enfocarse en los clientes de "alto valor"?

Aprende los fundamentos de la ciencia de la computación con este curso gratuito.

Un ejemplo similar incluye productos electrónicos para consumidores, como el timbre Ring. Según Politico, Amazon comparte videos de estos dispositivos con la policía sin el consentimiento del usuario.

Vigilancia masiva

Aunque las preocupaciones sobre la vigilancia masiva pueden parecer una teoría de conspiración exagerada, han llegado a casa de manera bastante dramática en Estados Unidos. La eliminación de las protecciones federales al aborto ha generado preocupaciones de que las grandes empresas de tecnología puedan ser citadas para identificar a los usuarios que han viajado a clínicas de aborto.

Como ilustra el ejemplo de la clínica de abortos, el registro de movimientos públicos a gran escala puede parecer aceptable hasta que deja de serlo. La capacidad del público para reunirse y expresar libremente su apoyo u oposición a los problemas del día es un elemento fundamental en la mayoría de las democracias. La vigilancia masiva y el reconocimiento facial podrían crear un registro de "mal comportamiento" percibido que se utiliza en contra de los ciudadanos. Ya hay elementos de esta preocupación ética que se están haciendo realidad. Según la EFF, la policía de Los Ángeles solicitó videos de cámaras Ring de usuarios durante manifestaciones contra la policía.

Incluso ejemplos más benignos crean preocupaciones éticas. Supongamos que su empresa opera una cadena de heladerías y utiliza el reconocimiento facial para identificar a los clientes frecuentes y "sorprenderlos" con recompensas. ¿Podrían esos clientes sentirse incómodos al saber que su "placer culpable" está siendo monitoreado y rastreado?

Preocupaciones por sesgos y precisión

Una preocupación ética frecuentemente citada con la tecnología de reconocimiento facial es la presencia de sesgos raciales en los algoritmos. Sin embargo, esta preocupación refleja una preocupación más profunda sobre la precisión general de las tecnologías de reconocimiento facial. La evidencia alegada de sesgo a menudo se origina en algoritmos de clasificación demográfica que buscan utilizar un rostro para determinar características como raza, género y edad. Un estudio del MIT en 2018 encontró que la mayoría de los algoritmos de clasificación identificaron erróneamente a mujeres de tez más oscura más que a cualquier otro grupo.

Los defensores del reconocimiento facial argumentan que la clasificación y la identificación son dos cosas diferentes y que los algoritmos han evolucionado tanto tecnológica como a través de un mejor entrenamiento en los años intermedios. Sin embargo, en condiciones "perfectas", las tecnologías de identificación facial tienen una tasa de éxito del 99,92%. Esto puede parecer impresionante, pero si está buscando a un asesino en serie en Manhattan, el reconocimiento facial podría sugerir 130,000 falsos positivos potenciales, y eso es bajo condiciones "perfectas".

Cómo el uso de inteligencia artificial transforma las cadenas de suministro

Además, una serie de factores pueden sesgar los algoritmos, desde la edad de una foto en comparación con el rostro de un individuo hasta las dificultades para discernir características humanas típicas como los dobles o los gemelos idénticos. Esto puede parecer una preocupación exagerada si intenta identificar a compradores preferidos, pero es muy preocupante si toma decisiones policiales basadas en la tecnología de reconocimiento facial.

La ética del anonimato

Existe un debate acalorado sobre el anonimato en línea, evidenciado por batallas acaloradas sobre todo, desde cookies de seguimiento utilizadas para el marketing hasta cómo y dónde se almacenan los datos sobre lo que hacemos en línea. Gran parte de este debate se reduce al sentimiento de que solo porque podemos rastrear todo tipo de comportamiento en línea no significa que sea ético o apropiado.

Este mismo debate se aplica a la tecnología de reconocimiento facial, que eventualmente podría proporcionar una capacidad similar para rastrear todos nuestros comportamientos en el mundo real, al igual que se rastrea gran parte de nuestro comportamiento en línea. A medida que este debate evoluciona, puede proporcionar lecciones relevantes para tecnologías emergentes como el reconocimiento facial.

Los tecnólogos pueden sentir que las preocupaciones éticas están "por encima de su rango salarial"; sin embargo, tecnologías como el reconocimiento facial tienen un inmenso poder y riesgo ético. En lugar de apresurarse con la implementación y suponer que otra persona se preocupará por la ética más adelante, vale la pena comprender y debatir estas preocupaciones.

Cómo optimizar la gestión de datos en el abastecimiento y mejorar la toma de decisiones

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Inteligencia artificial, allí encontraras muchos artículos similares a Los problemas éticos de la tecnología de reconocimiento facial , tenemos lo ultimo en tecnología 2023.