J. Physique Lett. 46, 623-630 (1985)
DOI: 10.1051/jphyslet:019850046014062300

Scaling laws for the attractors of Hopfield networks

G. Weisbuch¹ et F. Fogelman-Soulie<sup>2

1</sup>  Laboratoire de Physique de l'Ecole Normale Supérieure, 24, rue Lhomond, 75231 Paris, France
²  Laboratoire de Dynamique des Réseaux, 1, rue Descartes, 75005 Paris and Paris V University

Abstract
Networks of threshold automata are random dynamical systems with a large number of attractors, which J. Hopfield proposed to use as associative memories. We establish the scaling laws relating the maximum number of « useful » attractors and the radius of the attraction basin to the number of automata. A by-product of our analysis is a better choice for thresholds which doubles the performances in terms of the maximum number of « useful » attractors.

Résumé
Les réseaux d'automates à seuil sont des systèmes dynamiques à structure aléatoire semblables aux verres de spins dont J. Hopfield a proposé l'application comme mémoires associatives. Nous établissons les lois d'échelles reliant le nombre maximum d'attracteurs utiles et la distance d'attraction, au nombre des automates du réseau. Notre approche permet aussi un meilleur choix des seuils, ce qui double les performances du réseau en nombre d'attracteurs.

PACS
1130 - General circuit analysis and synthesis methods.
4220 - Automata theory.

Key words
automata theory -- content addressable storage -- network analysis -- attraction basin radius -- useful attractors -- numerical simulations -- attractors -- Hopfield networks -- threshold automata -- random dynamical systems -- associative memories -- scaling laws