Algorithmes adaptatifs : méthodes générales (Chapitre 3)

International audienceCe Chapitre présente quelques techniques pour l’étude théorique d’un algorithme adaptatif générique : la question de la convergence des algorithmes a été abordée par des méthodes spécifiques pour le LMS et le RLS du cas standard (Chapitre 2). Ces méthodes étaient liées étroitement au caractère quadratique de la fonction de coût J(θ). Le but est ici d’aborder, par une méthode générale, l’étude de la convergence asymptotique d’algorithmes d’approximations stochastiques plus généraux : entreront dans ce champ les structures de filtrage étendues (treillis, filtres récursifs abordés au Chapitre 5), les modélisations étendues ARMA, ARMAX, Kalman, les estimations de retards et de sous espaces, les méthodes d’adaptation sans référence (Chapitre 6) et les méthodes d’apprentissage non-linéaire (Chapitre 11).L’étude du comportement de ces algorithmes se décompose en trois phases de complexité croissante : étude de la convergence initiale, étude des fluctuations en régime stationnaire et étude de la capacité de poursuite de non-stationnarités lentes.Tout au long de ce chapitre, les outils introduits sont illustrés par trois exemples :– l’exemple très élémentaire de l’estimation de la moyenne d’une suite de v.a. indépendantes et équidistribuées (i.i.d.),– un exemple relevant des algorithmes étendus : identification RII (1-0),– un exemple relevant d’algorithmes d’approximation stochastique plus général : le neurone d’Oja