Enfriamiento funcional para optimización. Fundamentos teóricos y aplicación a las redes neuronales

Resumen

El objetivo de este trabajo es describir un modelo matemático de optimización global, que nos permitirá escapar de ciertos mínimos locales de la función objetivo, Este modelo matemático se basa en la idea de aproximar dicha función objetivo, mediante una sucesión de funciones que converja hacia ella. A cada una de esas funciones aproximadoras se le aplicará un algoritmo de optimización, para calcular uno de sus mínimos. El punto inicial para minimizar una función aproximadora es el mínimo local (o una aproximación suya) de la función aproximadora anterior. De esta forma, los mínimos respectivos de dichas funciones covergerán, bajo condiciones bastante generales, hacia un mínimo de la función objetivo original. A lo largo de este trabajo estudiaremos las distintas situaciones, o casos, en los que esta formulación resulta aplicable. Concretamente, el modelo se ha desarrollado tanto para optimización en espacios continuos, como para espacios finitos (que generalmente se corresponden con problemas de optimización combinatoria). Además, se han formalizado las versiones tanto determinista (en la que en cada "fase" del modelo se asegura la minimización de una función objetivo), como estocástica (cuando la optimización de la función objetivo sólo se consigue en el límite). Asimismo, el modelo se ha aplicado a las redes neuronales, particularmente a las redes competitivas y a las recurrentes.