La explicabilidad (XAI) en aeronáutica y aeroespacio está avanzando, pero todavía lo hace con frenos muy claros. Por un lado, estos sectores operan en entornos críticos, donde el margen de error es mínimo y el impacto de un fallo puede ser enorme. Por otro, gran parte de la investigación se apoya en datos limitados o simulados, lo que complica validar si los modelos (y sus explicaciones) se comportan igual cuando salen del laboratorio. En este contexto, las tendencias futuras no son “modas”, sino respuestas directas a dos necesidades estructurales: mejorar el acceso a datos reales y equilibrar precisión e interpretabilidad sin sacrificar seguridad ni rendimiento.

1) Buscar datos reales: de la investigación “cerrada” a bancos de datos compartidos

La falta de datos reales es, probablemente, el cuello de botella más silencioso. Muchas organizaciones (especialmente privadas) son comprensiblemente reacias a ceder datos por motivos de confidencialidad, seguridad o ventaja competitiva. El resultado es que numerosos avances en XAI se prueban en condiciones incompletas: conjuntos sintéticos, simulaciones o datos altamente filtrados.

Una tendencia necesaria —y, a largo plazo, inevitable— es la creación de bancos de datos donde empresas y organizaciones puedan compartir parte de la información recolectada con fines de investigación, bajo acuerdos claros de anonimización, gobernanza y uso responsable. Este tipo de iniciativas no solo aceleraría el desarrollo tecnológico: también permitiría comparar métodos de forma más justa, reproducible y alineada con problemas reales. En sectores tan complejos, disponer de datos operativos (aunque sea parciales) puede marcar la diferencia entre una explicación “bonita” y una explicación que realmente sirve en misión.

2) Técnicas que combinen interpretabilidad y precisión: el verdadero reto en entornos críticos

En aeronáutica y espacio, perseguir únicamente precisión es tentador, porque la complejidad de los sistemas empuja hacia modelos de gran capacidad. Sin embargo, cuando un modelo forma parte de una cadena de decisión crítica, no basta con acertar: hay que poder entender, justificar, auditar y depurar.

Por eso, una línea de trabajo esencial es desarrollar técnicas y algoritmos que permitan que modelos de alto rendimiento —a menudo tratados como “caja negra”— puedan ser analizados y explicados con un nivel de interpretabilidad suficiente. No se trata de “hacer simples” los modelos a la fuerza, sino de construir herramientas que hagan su comportamiento más transparente: identificar qué variables influyen, cuándo el modelo es confiable, en qué condiciones puede fallar y cómo interpretar sus decisiones en escenarios operativos.

En la práctica, esta tendencia apunta a una idea muy concreta: controlar el umbral entre interpretabilidad y precisión según el caso de uso. Habrá tareas donde se tolere menor transparencia si el rendimiento es crítico, y otras donde la interpretabilidad sea condición necesaria para certificar, operar o depurar el sistema. El futuro pasa por métodos que permitan moverse en ese equilibrio de forma consciente y justificable.

3) Ampliar el espectro de casos de uso: salir del “territorio cómodo”

Otro patrón actual es que buena parte de la investigación se concentra en un conjunto relativamente reducido de problemas: predicción de trayectorias, diagnóstico de componentes concretos, análisis de ciertos sensores, etc. En parte ocurre porque esos casos son más accesibles (por datos y por madurez técnica), pero si el objetivo es que la XAI sea realmente transformadora, hay que ampliar el abanico.

Esto significa explorar con más ambición casos como planificación de misiones espaciales, predicción y gestión de fallos complejos, toma de decisiones bajo incertidumbre, coordinación de sistemas autónomos o análisis operativo en condiciones raras. También implica abordar tecnologías especialmente difíciles, como ciertas arquitecturas de redes neuronales profundas, donde el coste experimental y la complejidad metodológica frenan muchos estudios. Si la XAI solo se aplica donde es fácil, se queda corta precisamente donde más se necesita.

4) Integración multidisciplinar: explicaciones útiles para humanos, no solo correctas para papers

En sistemas críticos, la explicabilidad no se mide únicamente en términos técnicos. Una explicación puede ser formalmente correcta y, aun así, ser inútil para un operador bajo presión. Por eso, una tendencia decisiva es integrar enfoques multidisciplinarios, colaborando con expertos en ética, ergonomía, psicología y factores humanos.

Aquí el objetivo es doble. Primero, diseñar explicaciones que realmente ayuden a tomar decisiones: claras, oportunas, con el nivel de detalle adecuado y presentadas en interfaces comprensibles. Segundo, incorporar principios de ética y gobernanza para abordar cuestiones como responsabilidad, transparencia y confianza, especialmente cuando hay consecuencias críticas. En resumen: que el sistema sea explicable no solo “por dentro”, sino también por fuera, en el punto donde lo usa una persona real.

5) Simulación y validación en entornos críticos: probar como si fuera real

Incluso con mejores datos, muchos escenarios críticos no se pueden reproducir fácilmente en condiciones de laboratorio: fallos raros, combinaciones extremas, degradaciones inesperadas, situaciones de alta carga cognitiva, etc. Por eso, otra línea de futuro es fortalecer la simulación y la validación en entornos representativos de operación.

La clave no es simular “por simular”, sino crear entornos capaces de emular situaciones críticas —fallos en vuelo, interferencias, condiciones extremas en misiones espaciales— y evaluar ahí tanto la precisión como la interpretabilidad. Esto permite medir algo que muchas veces se ignora: si las explicaciones siguen siendo útiles cuando el sistema está bajo estrés, cuando los datos no se comportan como en entrenamiento y cuando las decisiones deben tomarse rápido.

Resumen

Si algo define el futuro de la XAI en aeronáutica y aeroespacio es la necesidad de pasar de prototipos prometedores a soluciones que funcionen en condiciones reales. Para ello, hacen falta avances en cinco frentes que se refuerzan entre sí: acceso a datos reales, técnicas que combinen precisión e interpretabilidad, expansión hacia nuevos casos de uso, integración multidisciplinar centrada en el operador humano y validación en entornos representativos de la realidad operativa. La explicabilidad en estos sectores no es una capa decorativa: es un requisito para construir sistemas de IA que no solo rindan bien, sino que puedan ser entendidos, confiados y utilizados de forma segura cuando más importa.