Con motivo de la presentación de FUCO: Fuzzy Counterfactual Explanations en el congreso IDEAL 2025. Os recomendamos su lectura a través del siguiente enlace:
Del mismo modo os adjuntamos el siguiente resumen para que den más ganas de acceder a él. ¡Esperamos que lo disfrutéis!
FUCO: Fuzzy Counterfactual Explanations
El artículo presenta FUCO (Fuzzy Counterfactuals Examples), un marco de trabajo de Explainable AI (XAI) diseñado para generar explicaciones contrafactuales en modelos de regresión. Las explicaciones contrafactuales responden a preguntas del tipo: “¿Qué tendría que cambiar en los datos de entrada para que el modelo prediga un resultado distinto?”. Aunque este enfoque está muy desarrollado en clasificación, en regresión (donde la salida es continua) todavía hay menos métodos específicos, y muchas soluciones existentes adaptan técnicas pensadas para clasificación.
La idea central de FUCO es dividir el espacio de predicción del modelo (la salida continua) en regiones llamadas Response Sets (RS), definidas a partir de umbrales que representan restricciones o preferencias de las personas implicadas (stakeholders), por ejemplo:
- el propietario del modelo (quien establece límites operativos o de negocio),
- y el usuario del modelo (quien puede tener necesidades o limitaciones prácticas sobre qué cambios son asumibles).
Para ello, el marco introduce dos tipos de umbrales alrededor de la predicción de un caso concreto:
- ε (epsilon): marca lo “cercano” a la predicción original (lo que se considera prácticamente equivalente).
- δ (delta): marca el rango “externo” de lo aceptable (lo que aún puede considerarse viable según las restricciones).
Con estos umbrales se definen tres conjuntos:
- RF (Reasonable Factuals): ejemplos con predicciones muy próximas a la original (sirven como semifactuals, porque el resultado es prácticamente el mismo desde el punto de vista de los stakeholders).
- FCF (Fuzzy Counterfactuals): ejemplos que quedan fuera de la zona “cercana” (ya representan cambios relevantes respecto a la predicción original).
- RCF (Reasonable Counterfactuals): un subconjunto dentro de los anteriores que cae dentro del rango considerado aceptable; es el espacio de “negociación” donde los contrafactuales son útiles y realistas.
El artículo ilustra el funcionamiento con un ejemplo en el dataset de precios de vivienda en California, usando una regresión lineal para predecir precio a partir del ingreso medio, mostrando cómo FUCO identifica observaciones cercanas a los límites ε y δ como candidatas más informativas.
En conclusión, FUCO aporta una forma nativa para regresión de generar contrafactuales sin “forzar” el problema a clasificación, y además incorpora explícitamente el papel de las restricciones del contexto y de los usuarios, buscando contrafactuales más realistas y accionables. Como trabajo futuro, los autores plantean mejorar cómo se seleccionan los mejores contrafactuales dentro del conjunto razonable y cómo generalizar el enfoque a modelos donde no es fácil obtener la inversa del modelo.