Cómo abordar el problema de la explicabilidad en la inteligencia artificial y el machine learning

Es difícil lograr que los interesados compren una tecnología que no comprenden. En el caso de la inteligencia artificial (IA) y el aprendizaje automático (AA), muy pocas personas realmente lo entienden, lo que deja un vacío en cuanto a su explicabilidad para los científicos de datos y las empresas.

La importancia de la explicabilidad en la IA y el AA

Hace tres años, el MIT Technology Review publicó un artículo sobre la IA titulado "El oscuro secreto en el corazón de la IA". "Nadie realmente sabe cómo hacen lo que hacen los algoritmos más avanzados. Eso podría ser un problema", escribió Will Knight. "El año pasado, se lanzó un extraño coche autónomo en las tranquilas carreteras del condado de Monmouth, Nueva Jersey... El coche no siguió ninguna instrucción proporcionada por un ingeniero o programador. En cambio, confió completamente en un algoritmo que se había enseñado a conducir observando a un humano hacerlo.

"Lograr que un coche conduzca de esta manera fue un logro impresionante. Pero también es un poco inquietante, ya que no está completamente claro cómo toma sus decisiones el coche... ¿Qué pasaría si un día hiciera algo inesperado, como estrellarse contra un árbol o quedarse parado en un semáforo en verde? Tal como están las cosas ahora, podría ser difícil encontrar la respuesta."

Las tecnologías "ocultas" en la IA, como el aprendizaje automático, son difíciles de explicar para cualquier persona. Por eso representa riesgos para las empresas, los directores de tecnología de la información y los científicos de datos que se espera que expliquen cómo opera su IA.

La solución: Plataformas de Inteligencia del Modelo

"La falla fundamental en la explicabilidad de la IA es que utiliza el AA, y el AA es una caja negra", dijo Will Uppington, cofundador y CEO de Truera, que proporciona software que ayuda a las empresas a operacionalizar la IA y el AA. "Eso significa que incluso cuando los modelos funcionan, los científicos de datos no siempre saben por qué. Esto dificulta a los científicos de datos construir aplicaciones de AA de alta calidad de manera rápida y eficiente. También se convierte en un problema cuando no científicos de datos,

Descubre las cinco innovaciones clave en inteligencia artificial 2.0 para impulsar tu empresa

como operadores de negocios, reguladores o consumidores, hacen preguntas sobre un resultado."

Uppington dijo que las Plataformas de Inteligencia del Modelo pueden ayudar a abordar el problema de la explicabilidad.

"Este software ayuda a los científicos de datos y a los no científicos de datos a explicar, evaluar y extraer ideas de los modelos y los datos utilizados para construir los modelos", dijo Uppington. "Puedes pensar en ello como el equivalente a Tableau para el aprendizaje automático. Este software también es clave para asegurar que los modelos sean justos y que las empresas puedan adoptarlos de manera responsable."

La importancia de la explicación en el ámbito empresarial

Por ejemplo, si eres un banco, debes poder explicar a los reguladores cómo funciona tu software de préstamos basado en IA y cómo se protege contra el sesgo. Incluso si no tienes que lidiar con reguladores, los tecnólogos deben poder explicar a sus juntas directivas, ejecutivos de alto nivel y usuarios finales cómo funciona un modelo de IA/AA y por qué deberían confiar en los resultados.

Asegurar y mantener la confianza en lo que dice la IA no se trata solo de limpiar y verificar los datos para asegurarse de que no estén sesgados antes de que la IA esté en funcionamiento. Con el tiempo, es inevitable que haya "cambios" en los datos originales y los algoritmos que los utilizan. También es necesario monitorear y ajustar en consecuencia.

Herramientas para evaluar y explicar los sistemas de IA/AA

Existen herramientas que se pueden agregar a la implementación y mantenimiento de IA/AA para evaluar con precisión la precisión de los sistemas. Con estas herramientas, las organizaciones pueden realizar pruebas con un número representativo de casos de prueba para comprender cómo funcionan las decisiones de ML "caja negra" subyacentes de la IA y si los resultados que ofrece son "verdaderos".

TensorFlow: La guía definitiva para dominar el aprendizaje automático

En un caso de uso, el Standard Chartered Bank utilizó software para comprender cómo operaba el modelo de IA en la toma de decisiones de préstamos que realizaba. Al ingresar diferentes perfiles y criterios de préstamo, el equipo de Standard Chartered pudo ver los resultados que devolvía el motor de IA y por qué. Pudieron confirmar que la toma de decisiones de la IA se mantenía fiel a lo que el banco esperaba, y que tanto los datos como el proceso de toma de decisiones eran imparciales. Igualmente importante, quienes trabajaban en el proyecto pudieron explicar el proceso de IA a los interesados. Habían encontrado una manera de abrir la "caja negra" del AA de la IA.

"Si los científicos de datos no pueden explicar cómo funcionan sus aplicaciones de IA, los propietarios de las empresas no las aprobarán, los operadores de negocios no podrán administrarlas y los usuarios finales pueden rechazarlas", dijo Uppington. "Las empresas son cada vez más conscientes del desafío de construir confianza entre los interesados. Por eso, los científicos de datos [y la IA] líderes en nuestra encuesta reciente indicaron que la 'colaboración de los interesados' era el principal desafío organizacional que enfrenta su empresa."

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Inteligencia artificial, allí encontraras muchos artículos similares a Cómo abordar el problema de la explicabilidad en la inteligencia artificial y el machine learning , tenemos lo ultimo en tecnología 2026.