Non-linear equalization on communication channels.

É investigado o uso de redes neurais aplicadas à equalização de canais de comunicação, sendo consideradas três tipos de redes: MLP (Multilayer Perceptron), RBF (Radial Basis Function) e RNN (Recurrent Neural Network). Os equalizadores não-lineares baseados nestas redes foram comparados com o equalizador linear transversal e com os equalizadores ótimos segundo os critérios de Bayes e da máxima verossimilhança. Nestas comparações foram utilizados um alfabeto binário e um quaternário transmitidos em modelos de canais cuja resposta ao pulso unitário é finita. Além das versões usuais de equalizadores, foram consideradas versões com realimentação de decisões sempre que isso se mostrou adequado. O treinamento desses equalizadores foi feito de forma supervisionada, ou seja, na fase de treinamento a seqüência de símbolos transmitida era conhecida no receptor. Além disso, foi realizado um estudo comparativo dos algoritmos de treinamento das redes. Neste âmbito, foi obtido um algoritmo do tipo acelerador para o treinamento de redes MLP. Com o intuito de se obter uma estrutura não-linear menos complexa e mais flexível, foi proposto ainda um equalizador híbrido constituído de uma combinação do equalizador linear e da rede RNN que faz uso de realimentação de decisões. Resultados de simulações indicam que o seu uso pode ser vantajoso tanto para canais não-lineares como lineares.Equalization of communication channels using neural networks is investigated by considering three kinds of networks: MLP (Multilayer Perceptron), RBF (Radial Basis Function) and RNN (Recurrent Neural Network). The performance of the nonlinear equalizers based on these networks are compared with the linear transversal equalizer and the optimal equalizers given by the bayesian and maximum likelihood criteria. Binary and quaternary alphabets are used and transmitted over finite pulse response channel models. Decision feedback is considered whenever it is worthwhile. The training of these equalizers is considered in the supervised form and a comparison of some training algorithms has been performed. In this scope, a new algorithm based on parameter acceleration is introduced for the training of MLP networks. Moreover, a hybrid equalizer composed of a linear transversal equalizer and a RNN network is proposed. It is a simple and flexible nonlinear structure making use of decision feedback. imulation results show that it may be advantageously used to equalize linear and nonlinear channels