Géométrie sous-riemannienne en dimension infinie et applications à l'analyse mathématique des formes

This manuscript is dedicated to the study of infinite dimensional sub-Riemannian geometry and its applications to shape analysis using dieomorphic deformations. The first part is a detailed summary of our work, while the second part combines the articles we wrote during the last three years. We first extend the framework of sub- Riemannian geometry to infinite dimensions, establishing conditions that ensure the existence of a Hamiltonian geodesic flow. We then apply these results to strong right- invariant sub-Riemannian structures on the group of diffeomorphisms of a manifold. We then define rigorously the abstract concept shape spaces. A shape space is a Banach manifold on which the group of diffeomorphisms of a manifold acts in a way that satisfy certain properties. We then define several sub-Riemannian structures on these shape spaces using this action, and study these. Finally, we add constraints to the possible deformations, and formulate shape analysis problems in an infinite dimensional control theoritic framework. We prove a Pontryagin maximum principle adapted to this context, establishing the constrained geodesic equations. Algorithms for fin- ding optimal deformations are then developped, supported by numerical simulations. These algorithms extend and unify previously established methods in shape analysis.Cette thèse est dédiée à l’étude de la géométrie sous-riemannienne en dimension infinie, et à ses applications à l’analyse des déformations par difféomorphismes. La première partie du manuscrit est un résumé détaillé des travaux effectués. La seconde compile les articles rédigés pendant ces trois dernières années. On étend d’abord à la dimension infinie le cadre de la géométrie sous-riemannienne classique, en établissant notamment des conditions assurant l’existence d’un flot géodésique. Puis, on applique ces résultats aux structures sous-riemanniennes fortes et invariantes à droite sur le groupe des difféomorphismes d’une variété. On définit ensuite rigoureusement les espaces de formes, notion jusqu’alors assez vague dans la littérature. Il s’agit de variétés de Banach sur lesquelles un groupe de difféomorphismes a une action satisfaisant certaines propriétés. On construit alors diverses structures sous-riemanniennes sur ces espaces de formes grâce à cette action. Enfin, on ajoute des contraintes aux déformations possibles et on formule les problèmes d’analyse de formes dans un cadre relevant de la théorie du contrôle optimal en dimension infinie. On démontre un principe du maximum de type Pontryagin adapté à ce contexte, permettant d’établir les équations géodésiques contraintes. Des algorithmes pour la recherche de déformations optimales sont ensuite développés et appuyés par des simulations numériques dans le chapitre 7. Ils unifient et étendent des méthodes précédemment établies pour l’analyse de formes dans le domaine de l’image