La Explicabilidad en Inteligencia Artificial (XAI) no solo se basa en librerías específicas como las revisadas en entradas anteriores, sino también en herramientas interactivas que permiten analizar modelos de Machine Learning (ML) de manera intuitiva y visual. En esta entrada, exploraremos dos herramientas diseñadas para facilitar la interpretabilidad de modelos de ML: What-if Tool y…

La Explicabilidad en Inteligencia Artificial (XAI, por sus siglas en inglés) es un área esencial en el desarrollo de modelos de Machine Learning (ML). Otro de los lenguajes más utilizados en ML, además de Python, analizado en el post anterior, es R, que cuenta con diversas librerías especializadas en XAI. En esta entrada, exploraremos las…

La Explicabilidad en Inteligencia Artificial (XAI, por sus siglas en inglés) es un área esencial en el desarrollo de modelos de Machine Learning (ML). Python, siendo uno de los lenguajes más utilizados en ML, cuenta con diversas librerías especializadas en XAI. En esta entrada, exploraremos las principales librerías organizadas en distintas categorías. Librerías que Implementan…

¡Hola a todos! En este post os queremos dar una noticia muy importante para nosotros desde el paquete de explicabilidad de modelos de Inteligencia Artificial, a finales del año pasado realizamos la primera publicación científica en relación al trabajo realizado en la cátedra. En The Role of XAI in Transforming Aeronautics and Aerospace Systems realizamos…

En el ámbito aeroespacial, la XAI (Inteligencia Artificial Explicable) se ha convertido en un pilar clave para garantizar la transparencia, confiabilidad y seguridad de sistemas autónomos en entornos altamente críticos. Diversos proyectos han demostrado cómo la explicabilidad permite validar modelos complejos y facilitar su integración en misiones espaciales. Entre los más relevantes destacan:

En los últimos años la industria de la aviación, gracias a la irrupción de la inteligencia artificial, ha sufrido un gran empuje en cuanto a los procesos de toma de decisiones y realización de tareas. Debido a esto, la utilización de la XAI en estos procesos se ha visto también afectada provocando que cada vez…

La necesidad de entender cómo se toman las decisiones dentro de los sistemas y modelos de IA ha provocado un aumento en el uso de la XAI en los sectores aeronáutico y aeroespacial. Esta necesidad toma una gran relevancia en estos campos ya que se considera un entorno crítico y las decisiones tomadas por los…

¡Hola a todos! Para promover la aplicación de técnicas de explicabilidad en modelos de inteligencia artificial, os dejamos el siguiente artículo en el que tuve el placer de colaborar en el que se desarrollan el uso de las explicaciones contrafacticas como forma de explicar modelos de caja negra:https://www.sciencedirect.com/science/article/pii/S002002552201204X ¡¡Esperamos que lo disfrutéis!!

La aplicación Classification Learner, es una aplicación de MATLAB que está incluida en el toolbox Statistic and Machine Learning Toolbox que permite realizar el entrenamiento, evaluación y comparación de modelos de clasificación sin necesidad de escribir código. Esta aplicación proporciona una interfaz gráfica intuitiva para la carga de datos, selección de características, entrenamiento de distintos…

Por definición, en la XAI son englobados tanto los modelos considerados como interpretables como las técnicas que permiten hacer entendibles, de manera clara y sencilla, los sistemas y modelos de Inteligencia Artificial que son considerados como opacos. Debido a esto, como se muestra en la figura 1, se distingue entre Modelos transparentes que son aquellos…