Variante enfocada en fidelidad de un algoritmo de extracción de reglas en redes neuronales artificiales

• Autores: Jacinto, MIlagros Aylén; Moschettoni, Martín; Pons, Claudia Fabiana; Pérez, Gabriela Alejandra
• Año de publicación: 2023
• Idioma: español castellano
• Tipo de recurso: documento de conferencia
• Materia: Ciencias Informáticas; Fidelidad; Redes Neuronales Artificiales; Inteligencia Artificial Explicable; XIA
• Institución: Universidad Nacional de La Plata

Las redes neuronales tienen la capacidad de alcanzar altos niveles de precisión en tareas de clasificación, pero su falta de explicabilidad es un claro inconveniente y lleva a denominarlas “cajas negras”. En este artículo, se presenta una modificación del algoritmo RxREN que se centra en la explicabilidad de las redes neuronales generando reglas precisas y fácilmente interpretables. El objetivo de esta modificación es comprender el proceso de decisión de la red neuronal, y para lograrlo, se analiza la relación entre el nivel de abstracción y su fidelidad. Se implementó un algoritmo con tres configuraciones en dos problemas distintos (Iris, WBC) Se analizó cómo el nivel de abstracción de las reglas afecta su fidelidad, buscando reglas precisas y evaluando el impacto del nivel de abstracción. En conclusión, este estudio tiene por objetivo mejorar significativamente la fidelidad de las reglas generadas por el algoritmo, permitiendo a los usuarios entender mejor el proceso de clasificación y además destacar la importancia de considerar el nivel de abstracción al extraer reglas interpretables y fieles.
Neural networks have the ability to achieve high levels of accuracy in classification tasks, but their lack of explainability is a clear drawback and leads to call them ”black boxes”. In this paper, we present a modification of the RxREN algorithm that focuses on the explainability of neural networks by generating accurate and easily interpretable rules. The objective of this modification is to understand the neural network decision process, and for this purpose, the relationship between the level of abstraction and its fidelity is analyzed. An algorithm with three configurations was implemented in two different problems (Iris, WBC). It was analyzed how the abstraction level of the rules affects their fidelity, searching for accurate rules and evaluating the impact of the abstraction level. In conclusion, this study aims to significantly improve the fidelity of the rules generated by the algorithm, allowing users to better understand the classification process and also it is intended to highlight the importance of considering the level of abstraction when extracting interpretable and faithful rules.
Sociedad Argentina de Informática e Investigación Operativa