Red neuronal Hopfield

En palabras de Alejandro Cruz, en la tesis escrita el año 2003 con el título “Estabilidad de entrada-estado para identificación con redes neuronales dinámicas”, sin duda, uno de los principales responsables del desarrollo que ha experimentado el campo de la computación neuronal ha sido J.J. Hopfield físico norteamericano, quién en el año 1982 construyó un modelo de red, descrito en el artículo titulado “Redes neuronales y sistemas físicos con habilidades computacionales colectivas emergentes”, con el número suficiente de simplificaciones como para extraer analíticamente información sobre las características relevantes del sistema, conservando las ideas fundamentales de las redes construidas en el pasado y presentando una serie de funciones básicas de los sistemas neuronales reales. Además, Hopfield supo establecer un paralelismo lo cual ha permitido aplicar todo un conjunto de técnicas bien conocidas en este campo y, con ello, producir un avance en la comprensión del funcionamiento de las redes neuronales. Con su aporte, Hopfield redescubrió el mundo casi olvidado de las redes autoasociativas, caracterizadas por una nueva arquitectura y un nuevo funcionamiento, a las que se tuvo que añadir otro tipo de reglas de aprendizaje. Las consecuencias fueron redes con un comportamiento diferente a las diseñadas con estructura progresiva hacia adelante. El modelo de Hopfield consiste en una red monocapa con varias neuronas cuyos valores de salida son binarios: cero y uno o menos uno y más uno. En la versión original del modelo, conocida como Hopfield discreto, las funciones de activación de las neuronas eran del tipo escalón. Se trataba, por tanto, de una red discreta, con entradas y salidas binarias; sin embargo, posteriormente Hopfield hacia el año 1984 desarrolló una versión continua con entradas y salidas analógicas, descritas en el artículo titulado “Las neuronas con grados de respuesta colectiva tienen propiedades computacionales como las de las neuronas de dos estados”, utilizando neuronas con funciones de activación tipo sigmoidal, conocida como Hopfield continuo. Una de las características del modelo de Hopfield, es que se trata de una red autoasociativa. Así, varios patrones diferentes pueden ser almacenados en la red, como si de una memoria se tratase, durante la etapa de aprendizaje. Posteriormente, si se presenta a la entrada alguna información almacenada, la red evoluciona hasta estabilizarse, ofreciendo entonces en la salida la información almacenada, que coincide con la presentada en la entrada. Si, por el contrario, la información de entrada no coincide con ninguna de las almacenadas, por estar distorsionada o incompleta, la red evoluciona generando como salida la más parecida. Cruz continúa mencionando que la red Hopfield tiene un mecanismo de aprendizaje off-line. Por tanto, existe una etapa de aprendizaje y otra de funcionamiento de la red. En la etapa de aprendizaje se fijan los valores de los pesos en función del conjunto de información que se pretende que memorice o almacene la red. Una vez establecido, la red entra en funcionamiento. Esta red utiliza un aprendizaje no supervisado de tipo hebbiano, de tal forma que el peso de una conexión entre una neurona y otra se obtiene mediante el producto de los componentes asociados a las neuronas del vector que representa la información o patrón que debe almacenar. La elección de esta regla de aprendizaje por Hopfield fue, entre otras razones, debido a que asegura la estabilidad de la red, es decir, la convergencia hacia una respuesta estable cuando se presenta una determinada información de entrada. Muchas de las investigaciones acerca de la estabilidad de las redes se basan en el establecimiento de una función, denominada función de energía de la red, para representar los posibles estados y puntos de equilibrio de la red. De hecho, una de las causas por la que se considera a Hopfield responsable de impulsar el desarrollo en el campo de las redes neuronales, es precisamente el haber aplicado modelos matemáticos como éste, lo cual constituyó la base de posteriores trabajos sobre redes neuronales.