Lyapunov stability analysis for adaptative algorithms with contributions to constant modulus criteria study

Orientadores: João Marcos Travassos Romano, Romis Ribeiro de Faissol AttuxTese (doutorado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de ComputaçãoResumo: O problema de equalização adaptativa se vincula à busca por soluções iterativas que permitam reduzir ou eliminar os efeitos nocivos do canal de comunicação sobre um sinal transmitido de interesse. Uma vez que os sistemas adaptativos se baseiam em algoritmos capazes de ajustar os parâmetros de um filtro, pode-se considerar o conjunto equalizador / algoritmo adaptativo como um sistema dinâmico, o que termina por relacionar a possibilidade de obter uma solução satisfatória à noção de convergência. A análise de convergência de algoritmos de equalização adaptativa se desenvolveu, tipicamente, considerando algumas hipóteses para viabilizar o tratamento matemático, mas nem sempre tais hipóteses são estritamente válidas. Um exemplo clássico nesse sentido é o uso da teoria da independência. Neste trabalho, buscamos uma abordagem distinta do estudo das condições de estabilidade de algoritmos de equalização clássica baseada na teoria de Lyapunov. Essa teoria é geralmente utilizada no estudo de sistemas não-lineares, e apresenta um amplo histórico de resultados sólidos na área de controle adaptativo. Isso motiva o uso no campo de processamento de sinais. A primeira contribuição deste trabalho consiste em determinar, por meio da teoria de Lyapunov, a faixa de valores de passo de adaptação que garantem estabilidade do sistema de equalização para algoritmos baseados no critério deWiener e para o algoritmo do módulo constante. A partir dos resultados para estabilidade, investigar-se-á também a região de convergência para os pesos do algoritmo LMS, o que trará uma produtiva relação com a idéia de misadjustment. Como segunda linha de contribuição, será apresentada uma análise de um limitante inferior para o custo atingível e uma proposta de inicialização capaz de aumentar a probabilidade de convergência para o melhor ótimo gerado pelo critério para o algoritmo do módulo constante. Essa estratégia se baseia numa formulação do critério não-supervisionado de filtragem linear em termos da aplicação do critério de Wiener a uma estrutura polinomial. Os resultados obtidos revelam que a idéia é capaz de levar a um desempenho melhor que os do clássico método center spike e de uma estratégia de inicialização aleatóriaAbstract: The problem of adaptive equalization is related to the search for iterative solutions that allow the reduction or the elimination of the noxious effects of a communication channel on a transmitted signal of interest. Since adaptive systems are based on algorithms capable of adjusting the parameters of a filter, the combination between equalizer and learning algorithm can be considered to form a dynamical system, which relates the possibility of obtaining a satisfactory solution to the convergence issue. The analysis of the convergence of adaptive equalization algorithms was developed, typically, considering certain simplifying hypotheses that, however, are not always strictly valid. A classical example that illustrates this assertion is the use of the so-called independence theory. In this work, it has been investigated a distinct approach to the study of stability conditions of classical methods based on Lyapunov theory. This theory is generally employed in the study of nonlinear systems, and presents a significant framework of sound results in the field of adaptive control, which motivates its use in the context of signal processing. The first contribution of this work consists of determining, by means of Lyapunov theory, the range of step-size values that ensure stability of the equalization system for algorithms based on the Wiener criterion and for the constant modulus algorithm. Using the obtained stability results, the convergence region for the parameters estimated via LMS is also investigated, which establishes an interesting connection with the notion of misadjustment. In a second line of study, we present an analysis of the lower bound for the attainable CM cost and an initialization heuristic capable of increasing the probability of convergence to the best optimum engendered by the constant modulus criterion. This strategy is based on a formulation of the unsupervised linear filtering criterion in terms of the application of the Wiener criterion to a polynomial structure. The obtained results reveal that the proposal is able to effectively lead to a performance level that is better than that achieved using the classical center spike method and a random approachDoutoradoTelecomunicações e TelemáticaDoutor em Engenharia Elétric