La Explicabilidad en Inteligencia Artificial (XAI) no solo se basa en librerías específicas, sino también en herramientas y plataformas que facilitan el análisis e interpretación de modelos de Machine Learning (ML). En esta entrada, exploraremos diferentes frameworks de implementación de modelos de ML que ofrecen herramientas de XAI.

Vertex AI Platform

Google ofrece la herramienta Vertex Explainable AI, integrada dentro de los servicios de Google Cloud Platform a través de Vertex AI. Esta plataforma está diseñada para realizar estudios de XAI en modelos de aprendizaje automático, proporcionando explicaciones claras sobre las predicciones de los modelos.

Las principales características incluyen:

• Compatibilidad con múltiples modelos: Soporta modelos tabulares, CNNs, modelos de texto y de series temporales.
• Métodos post-hoc avanzados: Incluye técnicas como Integrated Gradients, SHAP, Sampled Shapley Values, XRAI y explicaciones basadas en ejemplos.
• Facilidad de integración: Forma parte del ecosistema de Google Cloud, facilitando su uso en entornos empresariales.

BigQuery ML

BigQuery ML es una herramienta de Google que permite utilizar modelos de aprendizaje automático directamente dentro de Google Cloud Platform sin necesidad de escribir código complejo. Está diseñada para usuarios con menos conocimientos de programación y permite trabajar con bases de datos sin migrar los datos.

Las características clave incluyen:

• Soporte para múltiples tipos de modelos: Regresión, árboles de decisión, redes neuronales y modelos de series temporales.
• Técnicas de explicabilidad: Shapley Values, TreeSHAP, Feature Contribution, Feature Importance e Integrated Gradients.
• Facilidad de acceso: Permite el uso de modelos de ML directamente a través de SQL.

Amazon SageMaker Clarify

Amazon SageMaker Clarify es una herramienta de AWS diseñada para mejorar la transparencia y explicabilidad de los modelos de ML, con un enfoque particular en la detección de sesgos y la interpretación de predicciones.

Características destacadas:

• Análisis de sesgo: Permite evaluar la equidad del modelo antes y después del entrenamiento.
• Explicabilidad con SHAP: Analiza la contribución de cada característica en las predicciones.
• Integración con AWS: Compatible con Amazon S3 y flujos de trabajo de inferencia en producción.

Azure Machine Learning Interpretability Toolkit

Azure Machine Learning Interpretability Toolkit es una herramienta de Microsoft basada en la librería InterpretML de Python. Ofrece técnicas avanzadas de explicabilidad para modelos de texto, datos tabulares e imágenes.

Características principales:

• Soporta múltiples tipos de modelos: Árboles de decisión, redes neuronales, modelos lineales y otros modelos de kernel.
• Métodos post-hoc avanzados: Incluye SHAP, Guided Backprop, GradCAM, Integrated Gradients, Saliency y Permutation Feature Importance.
• Flexibilidad: Se puede usar localmente o en servidores de Azure.

Conclusiones

Las plataformas de grandes empresas como Google, Amazon y Microsoft integran herrmaientas de XAI en sus plataformas de implementación de modelos de ML para mejorar la interpretabilidad de los modelos, dejando claro el interés que existe por la XAI. Vertex AI, BigQuery ML, SageMaker Clarify y Azure Interpretability Toolkit ofrecen soluciones avanzadas para analizar modelos en distintos entornos y con diferentes metodologías. Estas herramientas facilitan la adopción de modelos explicables, promoviendo la confianza y transparencia en la inteligencia artificial.