Proposition and evaluation of the adaptive filtering algorithms basad on the kohonen

The Self-Organizing Network Kohonen (Self-Organizing Map - SOM), by employing an unsupervised learning algorithm, has been traditionally implemented in signal processing area in quantization tasks vector, while MLP (Multi-Layer Perceptron ) and RBF (Radial Basis Function) dominate applications that require the approach of input-output mappings. This type of application is commonly found in adaptive filtering tasks that can be formatted from the perspective of direct and inverse modeling systems such as identification equalization of communication channels. In this dissertation, the range of SOM network applications is extended by proposing neural adaptive filter based on this network, showing that they are viable alternatives to non-linear filters based on MLP and RBF networks. This becomes possible through the use of a newly proposed technique, Quantized Temporal Associative Memory - VQTAM), which basically uses the philosophy called Memory Associative Temporal by Quantization Vector (Vector) network training SOM to perform simultaneous vector quantization of spaces input and output relating to the filtering problem analyzed. From the VQTAM technique are proposed three architectures adaptive filters based on SOM, whose performances were evaluated in identifying tasks and equalization of nonlinear channels. The channel used in the simulations was modeled as an autoregressive process of Gauss-Markov first order, contaminated with Gaussian white noise and provided with nonlinearity of the type saturation (sigmoidal). The results show that adaptive filters based on SOM network have equivalent or superior performance to traditional linear transversal filters and non-linear filters based on MLP.A Rede Auto-Organizável de Kohonen (Self-Organizing Map - SOM), por empregar um algoritmo de aprendizado não supervisionado, vem sendo tradicionalmente aplicada na área de processamento de sinais em tarefas de quantização vetorial, enquanto que redes MLP (Multi-layer Perceptron) e RBF (Radial Basis Function) dominam as aplicações que exigem a aproximação de mapeamentos entrada-saída. Este tipo de aplicação é comumente encontrada em tarefas de filtragem adaptativa que podem ser formatadas segundo a ótica da modelagem direta e inversa de sistemas, tais como identificação equalização de canais de comunicação. Nesta dissertação, a gama de aplicações da rede SOM é estendida através da proposição de filtros adaptativos neurais baseados nesta rede, mostrando que os mesmos são alternativas viáveis aos filtros não-lineares baseados nas redes MLP e RBF. Isto torna-se possível graças ao uso de uma técnica recentemente proposta, Quantized Temporal Associative Memory - VQTAM), que basicamente usa a filosofia de chamada Memória Associativa Temporal por Quantização Vetorial (Vector )treinamento da rede SOM para realizar a quantização vetorial simultânea dos espaços de entrada e de saída relativos ao problema de filtragem analisado. A partir da técnica VQTAM, são propostos três arquiteturas de filtros adaptativos baseadas na rede SOM, cujos desempenhos foram avaliados em tarefas de identificação e equalização de canais nãolineares. O canal usado nas simulações foi modelado como um processo auto-regressivo de Gauss-Markov de primeira ordem, contaminado com ruído branco gaussiano e dotado de não-linearidade do tipo saturação (sigmoidal). Os resultados obtidos mostram que filtros adaptativos baseados na rede SOM têm desempenho equivalente ou superior aos tradicionais filtros transversais lineares e aos filtros não-lineares baseados na rede MLP