La Explicabilidad en Inteligencia Artificial (XAI, por sus siglas en inglés) es un área esencial en el desarrollo de modelos de Machine Learning (ML). Otro de los lenguajes más utilizados en ML, además de Python, analizado en el post anterior, es R, que cuenta con diversas librerías especializadas en XAI. En esta entrada, exploraremos las principales librerías organizadas en distintas categorías.
Librerías que Implementan una Técnica Específica
Estas librerías se enfocan en técnicas individuales para la explicabilidad de modelos de ML:
- FastSHAP: Implementación optimizada de SHAP en R computacionalmente más rápida.
- LIME (Local Interpretable Model-agnostic Explanations): Genera explicaciones locales de predicciones de modelos complejos.
- LIVE: Método alternativo a LIME para problemas de regresión.
- VIP (Variable Importance Plots): Proporciona gráficos de importancia de variables en modelos de ML.
- shapper: Wrapper de la librería SHAP de Python en R.
- ICEbox: Implementa gráficos de efectos condicionales independientes (ICE) para analizar el impacto de variables en modelos de ML.
Librerías que Agrupan Varias Técnicas
Estas herramientas ofrecen múltiples enfoques para la interpretabilidad de modelos:
- DALEX/DALEXtra: Facilita la interpretación y comparación de modelos de ML y su extensión a otros tipos de modelos.
- ALEplots: Genera gráficos de efectos acumulativos locales (ALE) para la interpretación de modelos.
- eix: Proporciona numerosas herramientas para la explicabilidad en ML.
- Ingredients: Extiende DALEX con funcionalidades adicionales para interpretación.
- ExplainPrediction: Ofrece métodos para analizar predicciones individuales.
- IML: Framework con múltiples métodos para interpretabilidad de modelos de ML de tipo model-agnostic.
- Flashlight: Permite análisis de interpretabilidad de modelos y visualización de explicaciones.
- PDP (Partial Dependence Plots): Implementa gráficos de dependencia parcial para evaluar el efecto de variables en modelos.
Librerías que Van Más Allá de la Implementación de Algoritmos
Existen librerías que ofrecen interfaces interactivas y dashboards para facilitar la interpretación de modelos:
- ModelDown: Genera informes automáticos con explicaciones sobre modelos de ML.
- ModelStudio: Plataforma interactiva para explorar explicaciones de modelos en R.
Librerías para Interpretabilidad en Imágenes
Actualmente, no hay librerías específicas en R para explicabilidad en modelos de visión por computadora.
Conclusiones
Al igual que se vio en la entrada de XAI para Python, la cantidad de paquetes diversos implementados en R denota lo fundamental de la interpretabilidad en modelos de ML para mejorar la transparencia, confianza y depuración de modelos complejos. R ofrece diversas opciones para comprender el funcionamiento de los modelos y mejorar su usabilidad en entornos críticos como la aeronáutica y el aeroespacio.