Categoría: Explicabilidad de Modelos
-
Presentación IA3 Detección de Anomalías
¡Hola! Desde el paquete de explicabilidad liberamos el repositorio IA3_ANOMALY_DETECTION (https://github.com/mikelgalafate/IA3_ANOMALY_DETECTION). En él se plantea un marco de implementación de técincas de XAI para tareas de Detección de Anomalías. Junto al repositorio, también hemos publicado el book interactivo del repositorio (https://mikelgalafate.github.io/IA3_ANOMALY_DETECTION/). A través de él se muestra el funcionamiento de las técnicas de XAI aplicadas…
-
Reinforcement Training of Face Recognition Systems Using Morphing and XAI Methods
¡Hola a todos! Desde el paquete de explicabilidad nos complace anunciar la participación por parte de nuestro coordinador Javier M. Moguerza en el artículo Reinforcement Training of Face Recognition Systems Using Morphing and XAI Methods (https://ietresearch.onlinelibrary.wiley.com/doi/10.1049/bme2/7897011). En este artículo se presenta presenta un marco de entrenamiento por refuerzo para sistemas de reconocimiento facial (FRS) que…
-
eXplainable Artificial Intelligence (XAI): a brief review and some contributions
¡Hola a todos! Desde el paquete de explicabilidad nos complace anunciar la realización de una presentación del trabajo realizado en el paquete por parte de nuestro coordinador Javier M. Moguerza. Esta ha sido realizada dentro del espacio EURO Online Seminar Series on Operational Research and Machine Learning. En ella Javier presenta los aspectos fundamentales de…
-
Presentación IA3 FUCO BOOK
¡Hola a todos! Desde el paquete de explicabilidad nos complace anunciar que ya hemos liberado el repositorio IA3_FUCO_BOOK_IDEAL (https://github.com/fcanteroz/IA3_FUCO_BOOK_IDEAL). En este repositorio ponemos a disposición de la comunidad el código que permite la implementación de FUCO el método que permite la detección de contrafácticos. Junto al repositorio, también hemos publicado el book interactivo del repositorio…
-
Presentación IA3 XAI LAB
¡Desde el paquete de explicabilidad nos complace anunciar que acabamos de realizar la publicación de nuestra primera herramienta de explicabilidad! Os presentamos el IA3 XAI LAB, una app web interactiva que os permitirá realizar el entrenamiento de modelos IA tanto para clasificación como para regresión. Además esta herramienta permite la aplicación de técnicas XAI para…
-
SHAP, LIME e Integrated Gradients: tres formas de explicar la detección de anomalías aplicada a CMAPSS
Uno de los conjuntos de datos más utilizados para la investigación en mantenimiento predictivo aeronáutico es el Commercial Modular Aero-Propulsion System Simulation (CMAPSS) de la NASA. Este conjunto de datos simula el comportamiento de motores turbofán y proporciona mediciones de múltiples sensores a lo largo del tiempo, permitiendo estudiar procesos de degradación y detección de…
-
XAI en redes LSTM
La detección de anomalías es una de las aplicaciones más relevantes de la inteligencia artificial en sistemas complejos y críticos. Su objetivo es identificar comportamientos inesperados o desviaciones respecto al funcionamiento normal, lo que permite anticipar fallos, reducir riesgos y mejorar la fiabilidad de los sistemas. En muchos casos, esta tarea se aborda mediante modelos…
-
La importancia de la XAI en detección de anomalías en aeronáutica y aeroespacio
¿Por qué es importante explicar los modelos de detección de anomalías en aeronáutica? Los sistemas aeronáuticos modernos generan grandes volúmenes de datos de manera continua. Motores, sistemas de control y sensores a bordo producen información que puede ser analizada para detectar comportamientos anómalos y anticipar posibles fallos. En este contexto, la inteligencia artificial (IA) se…
-
Tendencias futuras de la XAI en aeronáutica y aeroespacio
La explicabilidad (XAI) en aeronáutica y aeroespacio está avanzando, pero todavía lo hace con frenos muy claros. Por un lado, estos sectores operan en entornos críticos, donde el margen de error es mínimo y el impacto de un fallo puede ser enorme. Por otro, gran parte de la investigación se apoya en datos limitados o…
-
Limitaciones técnicas de la XAI en aeronáutica y aeroespacio
En aeronáutica y aeroespacio, hablar de explicabilidad no es un lujo ni un añadido estético: muchas de las aplicaciones de IA en estos sectores forman parte de sistemas críticos, es decir, sistemas cuya operación es esencial para evitar consecuencias graves como daños a la vida humana, impactos ambientales o pérdidas económicas significativas. En este tipo…