A study on the nonlinear conjugate gradient method

Orientador: Sandra Augusta SantosDissertação (mestrado profissional) - Universidade Estadual de Campinas, Instituto de Matemática Estatística e Computação CientíficaResumo: Neste trabalho estudamos alguns métodos iterativos para resolver o problema de minimização irrestrita de funções suaves, entre os quais o Método da Máxima Descida, o Método de Gradientes Conjugados Lineares e o Método de Gradientes Conjugados não Lineares. Neste último analisamos geometricamente, em problemas bidimensionais, a variabilidade dos resultados em decorrência do ponto inicial, da precisão requerida e da escolha dos parâmetros associados à busca linear. Também observamos que os escalares beta, responsáveis pela conjugação das direções geradas, coincidem quando a função é quadrática convexa. Já no caso não linear geral, de classe C^1, analisamos quatro fórmulas para os escalares que produzem resultados distintos, ilustrados com o problema tridiagonal de Broyden, em instâncias com dimensão variável entre 2 e 45Abstract: This work describes a study on iterative methods for solving the unconstrained minimization of smooth functions. More specifically, we address the steepest descent method, the linear conjugate gradient method and the nonlinear conjugate gradient method. A geometrical study of bidimensional problems is provided, illustrating distinct results as a consequence of the initial point, the demanded precision and the parameters that define the line search. Additionally, we have prepared a study involving four different expressions for the scalar in charge for maintaining the conjugacy of the directions. Although the results are equivalent in the linear case, there are significant differences in the nonlinear case, illustrated with several instances of the Broyden tridiagonal problem, with dimension from 2 up to 45MestradoMatematica Aplicada e ComputacionalMestre em Matemática Aplicada e Computaciona