La necesidad de entender cómo se toman las decisiones dentro de los sistemas y modelos de IA ha provocado un aumento en el uso de la XAI en los sectores aeronáutico y aeroespacial. Esta necesidad toma una gran relevancia en estos campos ya que se considera un entorno crítico y las decisiones tomadas por los sistemas y modelos de IA pueden tener consecuencias graves. Por ello, los desarrolladores deben tener un especial cuidado al desarrollar estos sistemas considerando que deben tener un alto grado de precisión sin dejar de ser considerados como interpretables y entendibles por los seres humanos que los usen. Es decir, deben tener en cuenta el trade-off entre precisión e interpretabilidad. Debido a esto, en este post, se presentan diferentes casos de uso en los que se ha utilizado la XAI en los sectores aeronáutico y aeroespacial. 

Dentro del sector de aeronáutica, pueden ser encontradas aplicaciones de la eXplainable AI en diferentes áreas de este sector. En el área de la aeronáutica más relevante, que es la Gestión del tráfico aéreo (ATM), encargado de garantizar la seguridad y fluidez del tráfico aéreo, la utilización de la XAI tiene un alto impacto en tareas de predicción como son los tiempos de despegue y aterrizaje o los riesgos de incidentes, donde se realizan grandes esfuerzos para poder explicar las predicciones obtenidas por los modelos basados en redes neuronales. Otra de las aplicaciones en las que la XAI está teniendo un alto impacto es en el diseño y desarrollo de los Vehículos Aéreos No Tripulados (UAV) y drones en los que se aplica la XAI en la adaptación de rutas en misiones bajo condiciones adversas, utilizando reglas difusas para explicar cómo las rutas se adaptan durante las misiones que estos realizan. Se aplica también en las simulaciones en tres modos diferentes sobre el funcionamiento de los drones para validar las decisiones tomadas mediane las métricas Mean Square Error (MSE), Root Mean Square Error (RMSE), y Mean Absolute Error (MAE), o la evaluación de daños post-desastres naturales donde, a través de los datos obtenidos por los drones y satélites, se evaluaron lo daños causados por los desastres naturales y se generaron explicaciones mediante los valores reales y previstos facilitando la toma de decisiones en escenarios de emergencia. 

Por su parte, en el sector aeroespacial, también se encuentran aplicaciones de la XAI en distintas áreas, como el mantenimiento predictivo. Aplicando técnicas post-hoc como LIME o SHAP a redes neuronales profundas (DNN) utilizadas para la gestión de salud de vehículos integrados en aeronaves se explicó el funcionamiento de estas redes neuronales de manera localizada en aspectos como la precisión predictiva, estabilidad y la consistencia de los modelos. Por otro lado, en la detección de anomalías en telemetría espacial, se aplicó la técnica LIME analizando diferentes instancias de datos usadas para entrenar diferentes modelos a los que se pudo dar explicación y ejemplificar cada tipo de anomalía en los que fueron clasificadas las señales de telemetrías espacial. Por último, dentro del área del procesamiento de imágenes satelitales, puede encontrarse la utilización de árboles de decisión combinados con detección de objetos mediante redes profundas para predecir índices de pobreza en Uganda en donde a través de la importancia de características se identificó qué elementos visuales tenían un mayor impacto en las predicciones o la utilización de mapas de atribución como Grad-CAM para analizar imágenes satelitales diurnas y datos de luz nocturna en África Subsahariana. 

A través de los ejemplos mostrados tanto en el sector aeronautico como aeroespacial se puede observar una visión generalizada de como se encuentra la XAI en ellos.