Redes de neurônios com interações sinápticas hierárquicas

Na primeira etapa investigamos detalhadamente as propriedades de armazenamento de um modelo de redes de neurônios que apresenta uma organização em aglomerados semelhante àquela existente no Modelo Hierárquico de Dyson para ferromagnetismo. As memórias, neste modelo, são armazenadas através da Regra de Aprendizagem de Hebb, superposta à estrutura hieráquica. No caso de um número finito de padrões, mostramos que, junto com os padrões originais ou "ancestrais", o sistema é capaz de recuperar uma hierarquia de padrões "descendentes". Estes padrões diferem dos "ancestrais" nos sinais relativos das magnetizações nos diferentes blocos, e o número destas soluções cresce exponencialmente com o número de blocos, n(t) e0451, para grande. Para um número extensivo de padrões armazenados p = aN , onde N é o tamanho do sistema, nós investigamos a capacidade crítica de armazenamento do modelo tanto para "ancestrais" como para "descendentes". Usando dois métodos distintos, uma formulação de mecânica estatística de equilíbrio (campo médio) e uma análise de sinal-ruído, nós obtemos uma sucessão de capacidades de armazenamento que são sempre menores que o valor correspondente ao modelo de Hopfield. Usamos as razões entre estas capacidades e a do modelo de Hopfield para comparar os resultados dos dois métodos. Nós apresentamos o diagrama de fases no plano a — T para o caso especial de dois blocos e um único "descendente". A segunda parte é relacionada com o estudo do espaço de interações dos modelos de redes de neurônios. Neste caso nós buscamos determinar a máxima capacidade crítica de armazenamento para modelos que apresentem, de alguma forma, a mesma estrutura de blocos que discutimos antes. Para ter em conta esta estrutura foi preciso modificar o problema de Gardner. Para o armazenamento de padrões "ancestrais", obtivemos um valor de anc i". sempre menor que 2, o qual corresponde ao caso de modelos sem estrutura predefinida. Este resultado combina com aquele que encontramos anteriormente na análise de sinal-ruído. Por outro lado, mostramos que no caso especial de dois blocos esta estrutura pouco afeta a armazenagem conjunta de "ancestrais" e "descendentes".In the first part we perform a detailed investigation of the storage properties of a model for neural networks that exhibits the same organization into clusters as Dyson's hierarchical model, for ferromagnetism, combined with Hebb's learning algorithm for p stored patterns. In the case of finite p, we show that together with the original stored patterns or "ancestors" the system retrieves also a hierarchy of "descendants". The "descendants" differ from the "ancestor" in the signs of the cluster overlaps, and the number of this solutions increases exponentially with the cluster number, n(t) ti e"", for large values of t. For an extensive number of stored patterns p = aN , where N is the size of the network, we investigate the criticai storage capacity of the model to both "ancestor" and "descendant" patterns. By using two different methods, a statistical mechanics formulation (mean-field) and a signal-to-noise analysis, we obtain a succession of criticai storage capacities that are below the corresponding value for Hopfield's model. We use the ratio of this criticai storage capacities to the same quantity as evaluated in Hopfield's model to compare the results in both methods. We present the phase diagram in the a — T plane for the particular case of two clusters and one descendant. The second part is related with the study of the space of interactions in neural network models. In this case we search for the maximal criticai storage capacity of models that present, in some sense, the same cluster struture that we discussed before. In order to take this structure in account we redefine the Gardner Program. Concerning the storage of "ancestors" we obtain a value of arx. always lower than 2, which corresponds to the original case of models without structure. This result agrees with that we found before in the signal-to-noise analysis. On the other side we show in the special case of two clusters that this structure barely affects the storage of "ancestors" and "descendants" together