Mecánica estadística del aprendizaje en redes neuronales - Diambra, Luis Aníbal (1996)
La complejidad de la mente humana ha tenido y tiene fascinados a científicos y filósofos por varios siglos. Desde el siglo XVII, cuando Descartes propuso el aún no dilucidado dilema “mente-cerabro”, tanto la Fisiología como la Psicología han debido esperar el aporte de otros campos del conocimiento científico, como el análisis mecánico-estadístico de los modelos neuronales proveniente de la Física, como así también el de las simulaciones con con computadoras, para la mejor comprensión del funcionamiento del cerebro y posiblemente de la mente humana. Las Redes Neü- ronales (RN) han seducido a los científicos de las más variadas disciplinas, incluyendo neurobiólogos, informáticos, ingenieros y físicos teóricos. Las RN han sido empleadas en modelos de sistemas neurológicos como metáforas para los procesos cognitivos de: aprendizaje, generalización, formación de concepto, etc. También han provisto nuevos modelos de estructuras computacionales y algoritmos para la solución de problemas de optimización y de reconocimiento de patrones. En el terreno de la física teórica, las redes neuronales pueden ser vistas como nuevos sistemas dinámicos no lineales de nodos interconectados con una amplia gama de comportamientos. Desde el punto de vista de la Mecánica Estadística, estos sistemas exhiben diversos grados de desorden y frustración. Por esta razones, el campo de RN es de creciente interés y registra intensa actividad científica y tecnológica, aplicable a diversos areas de la ciencia. En este trabajo de Tesis Doctoral, nos dedicaremos en particular a investigar problemas relativos a los algoritmos de aprendizaje, con hincapié en arquitecturas de redes tipo feedforward. Es de especial interés en este ámbito determinar bajo qué condiciones una red es capaz de captar la regla general subyacente en los ejemplos que se le muestran. Esta habilidad es conocida como generalización y ha sido estudiada en la literatura especializada, en el marco de la Mecánica Estadística, encontrándose transiciones de fase entre estados termodinámicos que incluyen fases de generalización perfecta, fases de generalización pobre, y fases de vidrios de spin donde el estado fundamental está fuertemente degenerado y el sistema se encuentra congelado.