Storage Capacity Evaluation of Autoassociative Neural Network Models

utoassociative memory models have been an at-tractive area for researchers lately. Their potential for modellingsome aspects of the human memory put them in the spotlight fordeeper research. In this project, we study the effects of making anautoassociative memory network capture some functional aspectsof the human memory. This by applying some modifications to aHopfield network with Hebbian learning rule. The modificationsused in this project are implementing Oja’s rule on the learningrule as well as creating a sparse network instead of an all-to-allconnected one. We then evaluate the storage capacity for differentautoassociative memory networks based on the Hopfield networkmodel and the Hebbian learning rule. We found that Oja’s rulesignificantly improved the network ability to recall newly learnedpatterns as well as slightly improved the ability to retainingold memories. Sparsifying the network led to decreasing theoverall storage capacity depending on the amount of connectionsremoved.Autoassociativa neurala nätverk har varit ett attraktivt område för forskare den senaste tiden. Deras potential att modellera några aspekter av det mänskliga minnet placerade dem i rampljuset för djupare forskning. I detta projekt studerar vi effekterna av att modifiera ett autoassociativ minnesnätverk. Vi utvärderar lagringskapaciteten för olika autoassociativa minnesmodeller baserat på Hopfield- nätverksmodellen och Hebbians inlärningsregel. Modifieringarna som studeras i detta projekt är implementering av Ojas princip på inlärningsregeln och skapnandet av ett glest nätverk istället för ett nätverk med en alla-till-alla anslutning. Vi fann att Ojas princip förbättrade nätverkets förmåga att återkalla nyligen inlärda mönster och förbättrade förmågan upprätthålla gamla minnen. Det glesa nätverket ledde till att den totala lagringskapaciteten minskade med hänsyn till mängden av antal borttagna anslutningar.Kandidatexjobb i elektroteknik 2020, KTH, Stockhol