La aplicación Classification Learner, es una aplicación de MATLAB que está incluida en el toolbox Statistic and Machine Learning Toolbox que permite realizar el entrenamiento, evaluación y comparación de modelos de clasificación sin necesidad de escribir código. Esta aplicación proporciona una interfaz gráfica intuitiva para la carga de datos, selección de características, entrenamiento de distintos tipos de modelos de clasificación, y la evaluación de su desempeño mediante métricas como la precisión, la matriz de confusión y la curva ROC. Esta herramienta es especialmente útil para análisis exploratorio y experimentación rápida antes de implementar modelos en código MATLAB. Además, permite la exportación del modelo entrenado para su uso en scripts y aplicaciones. 

Para la consecución de modelos transparentes y explicables, la aplicación cuenta con el módulo EXPLAIN que proporciona herramientas de interpretabilidad de modelos ayudando a comprender como y por qué los modelos de inteligencia artificial toman sus decisiones. Las herramientas proporcionadas en la sección de la aplicación se encuentran englobadas dentro de las técnicas post-hoc pertenecientes a la XAI y permiten obtener la interpretabilidad de modelos de inteligencia artificial después de su entrenamiento. Las técnicas que se encuentran englobadas dentro de esta sección y que pueden ser utilizadas son las siguientes: 

• Shapley importance. Permite identificar que predictores del modelo tienen un mayor impacto sobre las predicciones a partir de los valores Shappley. 
• Shapley summary. Permite interpretar el impacto positivo o negativo de los predictores individuales para una clase específica trazando los valores de Shapley de un conjunto de puntos de consulta. 
• Shapley dependence. Permite interpretar el impacto positivo o negativo de un predictor de interés en las puntuaciones predichas para una clase específica trazando los valores Shapley frente a los valores del predictor. 
• Partial dependence. Permite visualizar el efecto marginal de un predictor de interés en las puntuaciones predichas a través de los valores del predictor para una clase o clases. 
• Local Shapley. A través de la desviación de un punto de consulta con respecto a la predicción promedio de una clase, permite visualizar los motivos por los que se produce la predicción de un punto. 
• LIME. A través de un modelo ajustado que replique el funcionamiento del modelo de caja negra, puede realizarse la interpretación del funcionamiento del modelo a raíz de un punto de datos de consulta. 

A través de este conjunto de técnicas, la aplicación Classification Learner ofrece a los usuarios herramientas que permiten que los modelos de inteligencia artificial puedan ser considerados como interpretables.