Manifold learning and convergence of Laplacian eigenmaps

In this thesis, we investigate the problem of obtaining meaningful low dimensional representation of high dimensional data, often referred to as manifold learning. We examine classical methods for manifold learning such as PCA and cMDS as well as some modern techniques of manifold learning namely Isomap, Locally Linear Embedding and Laplacian Eigenmaps. The algorithms for these individual methods are presented in mathematically consistent, concise and easy to understand fashion so that people with no computer science background can use the methods presented in their own research. Motivations and justifications of these manifold learning methods are provided. Finally we prove the convergence of Laplacian Eigenmaps method in a self contained and compact fashion following the work of Mikhail Belkin and Partha Niyogi.Dans cette thèse, on aborde le problème de l'apprentissage de variété afin de réduire la dimensionalité d'ensembles de données pour obtenir une représentation significative de basse dimension. On examine les méthodes classiques d'apprentissage de variété telles que l'analyse en composantes principales (PCA) et le positionnement multidimensionnel classique (cMDS). On présente, de plus, trois techniques modernes pour résoudre ce problème: les méthodes «Isomap», «Locally Linear Embedding» et «Laplacian Eigenmaps». On expose les détails mathématiques de ces algorithmes en termes concis et simples tout en préservant leur cohérence mathématique. Ces développements aideront sans doute d'autres chercheurs sans expérience en informatique à utiliser ces méthodes. Par la suite, on justifie l'applicabilité de ces techniques pour résoudre le problème de réduction dimensionelle. Finalement, on montre la convergence de la méthode «Laplacian Eigenmaps» d'une façon compacte en suivant l'approche de Mikhail Belkin et de Partha Nyogi