Extracción de reglas de redes neuronales feedforward entrenadas con lógica de primer orden

• Autores: Negro, Pablo; Pons, Claudia Fabiana
• Año de publicación: 2024
• Idioma: español castellano
• Tipo de recurso: documento de conferencia
• Materia: Ciencias de la Computación e Información; Aprendizaje profundo; Extracción de reglas; Inteligencia Artificial; lógica; Deep Learning; Rules Extraction; Artificial Intelligence; Logic
• Institución: Comisión de Investigaciones Científicas de la Provincia de Buenos Aires

La necesidad de integración neural-simbólica se hace evidente a me-dida que se abordan problemas más complejos, y que van más allá de tareas de dominio limitadas como lo es la clasificación. Los métodos de búsqueda para la extracción de reglas de las redes neuronales funcionan enviando combinaciones de datos de entrada que activan un conjunto de neuronas. Ordenando adecuada-mente los pesos de entrada de una neurona, es posible acotar el espacio de bús-queda. Con base en esta observación, este trabajo tiene por objetivo presentar un método para extraer el patrón de reglas aprendido por una red neuronal entrenada feedforward, analizar sus propiedades y explicar estos patrones a través del uso de lógica de primer orden (FOL)
The need for neural-symbolic integration becomes evident as more complex problems are addressed, and they go beyond limited domain tasks such as classification. Search methods for extracting rules from neural networks work by sending input data combinations that activate a set of neurons. By properly ordering the input weights of a neuron, it is possible to narrow down the search space. Based on this observation, this work aims to present a method for extracting the pattern of rules learned by a trained feedforward neural network, analyzing its properties, and explaining these patterns through the use of first-order logic (FOL).
Ponencia presentada en las 52 Jornadas Argentinas de Informática e Investigación Operativa (JAIIO 2023) (Universidad Nacional de Tres de Febrero, 4 al 8 de septiembre de 2023).