Explainable Artificial Intelligence: Analysis of Methodologies and Applications

• Autores: Pezzini, María Cecilia; Pons, Claudia Fabiana
• Año de publicación: 2025
• Idioma: inglés
• Tipo de recurso: artículo
• Materia: Ciencias Informáticas; artificial intelligence; explainability; explainable artificial intelligence; machine learning; aprendizaje automático; explicabilidad; Inteligencia artificial; inteligencia artificial explicable
• Institución: Universidad Nacional de La Plata

Explainability is essential in healthcare, finance, and security, where black-box models can undermine trust and decisions. Recent advances in eXplainable Artificial Intelligence (XAI) across structured/tabular data, computer vision, and natural language processing are surveyed. Thirty articles (2022–2024) were selected through a structured search with explicit inclusion criteria, and emerging approaches are compared with established techniques such as LIME and SHAP, alongside rule-, logic-, and ontology-based methods. Methods are organized along key dimensions—post-hoc vs. ante-hoc, model-agnostic vs. model-specific, scope, problem type, input data, and output format—and their effectiveness and applicability are evaluated. The review highlights innovations including spatially explainable architectures (e.g., SAMCNet) and entropy-based logic explanations, and identifies persistent challenges in robustness, cross-domain generalization, and deployment. Overall, findings consolidate the evolving XAI landscape and indicate directions toward reproducible techniques that strengthen transparency, accountability, and user trust in AI systems.
La explicabilidad es esencial en salud, finanzas y seguridad, donde los modelos de caja negra pueden socavar la confianza y las decisiones. Se revisan avances recientes en Inteligencia Artificial Explicable (XAI) en datos estructurados/tabulares, visión por computadora y procesamiento del lenguaje natural. Se seleccionaron treinta artículos (2022–2024) mediante una búsqueda estructurada con criterios de inclusión explícitos, y se comparan enfoques emergentes con técnicas consolidadas como LIME y SHAP, junto con métodos basados en reglas, lógica y ontologías. Los métodos se organizan según dimensiones clave—post hoc vs. ante hoc, agnóstico al modelo vs. específico de modelo, alcance, tipo de problema, datos de entrada y formato de salida—y se evalúa su efectividad y aplicabilidad. Se destacan innovaciones como arquitecturas con explicabilidad espacial (p. ej., SAMCNet) y explicaciones lógicas basadas en entropía, y se identifican desafíos persistentes en robustez, generalización entre dominios y despliegue. En conjunto, los hallazgos consolidan el panorama en evolución de XAI y señalan direcciones hacia técnicas reproducibles que fortalezcan la transparencia, la rendición de cuentas y la confianza de los usuarios en los sistemas de IA.
Facultad de Informática