Interpretabilidad (Explainable AI)

Las razones ocultas de la toma de decisiones algorítmica.

Los seres humanos sentimos la necesidad de dar sentido a nuestra experiencia, entender los mecanismos detrás de los fenómenos que percibimos y ser capaces de explicarlos de manera coherente con nuestro conocimiento previo. Esta necesidad es aún más patente cuando utilizamos sistemas de inteligencia artificial como soporte en la toma de decisiones.

Muchos de los modelos de aprendizaje automático (ML, por sus siglas en inglés) funcionan como auténticas ‘cajas negras’ desde la perspectiva de los usuarios, especialmente cuando dichos usuarios no poseen la formación técnica requerida, pero también con frecuencia para los propios expertos que crean estos modelos.

La dificultad para discernir a través de qué proceso llega el modelo a la predicción o conclusión que nos ofrece, hace más difícil confiar en el sistema. La opacidad del modelo nos hace más vulnerables a múltiples riesgos que conllevan repercusiones organizacionales, de proceso, de marca, legales y sociales.

En esta charla presentaremos los conceptos de interpretabilidad y explicabilidad, las diferencias que hay entre las dos y por qué son necesarias ambas para conseguir la confianza de los usuarios y prevenir abusos y fallos en el empleo de los modelos en la toma de decisiones.

Objetivos de aprendizaje

• Conozca las razones prácticas de negocio que aconsejan crear una práctica de IA responsable en su organización.
• Identifique los estándares, leyes y marcos metodológicos de referencia a la hora de adoptar una práctica de IA responsable.
• Averigüe cómo están evolucionando los roles existentes en las empresas para incorporar una IA responsable.
• Visualice el conjunto de herramientas y tecnologías disponibles para introducir una práctica de IA responsable en todas las etapas del ciclo de vida de una iniciativa de aprendizaje automático.

Dirigido a

• Directores de Datos, de Información o Técnicos, responsables de áreas o equipos de Inteligencia Artificial que deseen tener una visión práctica y actualizada sobre la IA Responsable.
• Emprendedores impulsando startups o scale-ups que ofrecen productos o servicios basados en inteligencia artificial.
• Directivos que buscan adquirir, desarrollar o interactuar con sistemas de IA.
• Ingenieros y científicos de datos que diseñan, construyen o mantienen sistemas de aprendizaje automático.
• Gerentes de Producto o de Proyecto involucrados en cualquier etapa del ciclo de vida de un sistema de IA.

Ponentes

Josep Curto Diaz

Mario Lopez de Avila Muñoz