Classification of separable superintegrable systems of order four in two dimensional Euclidean space and algebras of integrals of motion in one dimension

Cette thèse constitue une étape dans l'étude systématique des systèmes superintégrables, tant classiques que quantiques. Nous présentons les résultats de deux articles. Dans le premier, nous considérons tous les hamiltoniens de l'espace euclidien de dimension deux qui admettent une intégrale de deuxième ordre et une de quatrième ordre. La présence d'une intégrale de deuxième ordre rend les fonctions potentielles séparables. Nous classifions aussi tous les potentiels quantiques qui sont des solutions d'EDO non linéaires et donnons les intégrales correspondantes. Nous obtenons de nouveaux potentiels, exprimés en termes de troisièmes et cinquièmes fonctions transcendantes de Painlevé. Dans le second article, nous donnons de nouvelles constructions d'hamiltoniens superintégrables en dimension deux, tant classiques que quantiques, et dont les potentiels sont séparables en coordonnées cartésiennes. Nous construisons quatre types de systèmes hamiltoniens algébriques en dimension un. Nous étudions deux copies d'algèbres d'opérateurs en dimension un et les combinons pour former des systèmes superintégrables dans $E_2$. Nous prouvons que tous les systèmes superintégrables d'ordre au plus cinq qui sont séparables en coordonnées cartésiennes, sont réductibles.The purpose of this thesis is to continue a systematic research on classical and quantum superintegrable systems. We present the results from two articles. In the first article, we consider a general Hamiltonian in two-dimensional Euclidean space admitting a second order and a fourth order integral of motion. The second order integral imposes the separation of variable in the potentials. We present a complete classification of all quantum potentials that are solutions of nonlinear ODEs and the corresponding integrals. New potentials expressed in terms of the third and fifth Painlevé transcendents are obtained. In the second article, we develop new constructions of two-dimensional classical and quantum superintegrable Hamiltonians with separation of variables in Cartesian coordinates. Here we construct four types of algebraic Hamiltonian systems in one dimension. We study two copies of operator algebras in one dimension and combine these two to form superintegrable systems in $E_2$. We demonstrate that all quantum and classical superintegrable systems separable in Cartesian coordinates up to order 5 are in fact reducible