Unaxarxa de Hopfield és una forma dexarxa neuronal artificial recurrent inventada perJohn Hopfield. Les xarxes de Hopfield s'usen com a sistemes dememòria associativa (RNA) amb unitatsbinàries. Estan dissenyades per convergir a un mínim local, però la convergència a un dels patrons emmagatzemats no està garantida.
Les unitats de les xarxes Hopfield són binàries, és a dir, només tenen dos valors possibles per als seus estats i el valor es determina si les unitats superen o no un determinat llindar. Els valors possibles poden ser 1 o -1, o bé 1 o 0. Així, les dues definicions possibles per a la unitat i d'activació,, són les següents:
(1)
(2)
On:
Les connexions en una xarxa de Hopfield solen tenir les següents restriccions:
Normalment cal que els pesos siguin simètrics perquè la funció d'energia disminueixi de forma monòtona mentre segueix les regles d'activació, ja que si s'utilitzen pesos no simètrics la xarxa podria mostrar un comportament diari o caòtic. No obstant això, Hopfield considerar que aquest comportament caòtic es limita a zones relativament petites de l'espai de fases, no influint en la capacitat de la xarxa per a actuar com a contingut direccionable en el sistema de memòria associativa.
Les xarxes Hopfield tenen un valor escalar associat a cada estat de la xarxa, conegut com a energia (E) de la xarxa, on:
Aquest valor s'anomena energia, perquè la definició assegura que si les unitats són triades a l'atzar per actualitzar els seus valors d'activació la xarxa convergirà a estats que sónmínims locals de la funció d'energia (que es considera unafunció de Lyapunov). Així, si un estat és unmínim local en la funció d'energia serà un estat estable de la xarxa. Cal tenir en compte que aquesta funció d'energia pertany a una classe general de models enfísica, anomenatsModels d'Ising, els quals al seu torn són un cas particular de lesxarxes de Markov, on lamesura de probabilitat associada, anomenadamesura de Gibbs, té lapropietat de Markov.
A cada pas es tria un node a l'atzar. El comportament del node és llavors determinista: es mou a un estat per a minimitzar l'energia d'ell mateix i dels nodes circumdants. (A diferència de lamàquina de Boltzmann la regla d'actualització ésestocàstica.)
L'entrenament d'una xarxa de Hopfield consisteix en reduir l'energia dels estats que la xarxa ha de "recordar". Això converteix a la xarxa en un sistema de memòria direccionable, és a dir, la xarxa "recordarà" un estat si se li dona només part d'aquest estat. Això la fa útil per recuperar una entrada distorsiones usant un estat de la xarxa obtingut durant l'entrenament i que és més similar a l'estat obtingut amb l'entrada actual. Això s'anomena memòria associativa, ja que recupera la memòria basant-se en la similitud. Per exemple, si entrenem una xarxa Hopfield amb cinc unitats perquè l'estat (1, 0, 1, 0, 1) sigui un mínim d'energia, i li donem a la xarxa l'estat (1, 0, 0, 0, 1) aquesta convergiran a (1, 0, 1, 0, 1). Així, la xarxa estarà adequadament capacitada quan l'energia dels estats que la xarxa ha de recordar són mínims locals.
