Billards projectifs et complexes, orbites périodiques et systèmes Pfaffiens

The billiard is a dynamical system describing the trajectory of an infinitely small particle moving without friction inside a domain bounded by a reflecting wall. When it hits the wall, theparticle is reflected following the optical law of reflection asserting that the angle of incidence= the angle of reflection. When the trajectory repeats itself, we speak of a periodic orbit. Thisthesis is about two generalizations of this classical billiard model : projective and complex billiards. The projective billiards were introduced and studied by Tabachnikov and can be defined as bounded domain whose boundary is endowed with a field of transverse lines. The complex billiards were introduced and studied by Glutsyuk and are a natural generalization ofthe classical billiard to the complexified Euclidean plane. This thesis studies these billiards and show how they provide results on classical billiards. An axis of study is Ivrii’s conjecture applied to projective billiards. The thesis presents the classification of projective billiards having open sets of triangular orbits: the so-called rights pherical billiards, obtained from some examples of billiards on the 2-dimensional sphere, arethe only projective billiards having this property. The proof of this result intensively usesPfaffian systems. Numerous counterexamples to Ivrii’s conjecture are also given in the class ofprojective billiards for more than 3 reflections: they are projective billiards in polygons owning open sets of periodic orbits of even period. The other axis of study is the existence of caustics. The thesis studies what are called the complex caustics of the billiard in a complexified conic: the conics of the latter’s pencil of complex confocal conics are complex caustics, and there are more complex caustics corresponding to periodic orbits of a given period than in the case of the classical billiard. Indimension at least 3, we show that a quadric of a pencil of quadrics can be endowed with astructure of projective billiard such that all quadrics of the pencil are caustics for the corresponding billiard structure. It is also proved that an argument used by Berger to study billiard having caustics in dimension at least 3 can be generalized to projective billiards, andthat this generalization applies to the classification of pseudo-Euclidean billiards having caustics.Le billard est un système dynamique décrivant le mouvement d’une particule sans masse ni volume qui se déplace sans frottements à l’intérieur d’un domaine délimité par une paroi réfléchissante. Elle est réfléchie sur la paroi selon la loi angle d’incidence = angle de réflexion. Lorsque sa trajectoire se répète on parle d’orbite périodique. Cette thèse s’intéresse à deux généralisations de ces billards : les billards projectifs et les billards complexes. Les billards projectifs, introduits et étudiés par Tabachnikov, se présentent comme des domaines dont le bord est muni d’un champ de droites transverses. Les billards complexes, introduits et étudiés par Glutsyuk, sont une généralisation naturelle du billard classique au plan Euclidien complexifié. La thèse étudie ces billards et souligne qu’ils fournissent des résultats sur les billards classiques. Elle explore l’analogue de la conjecture de Ivrii pour les billards projectifs, classifiant ceux qui possèdent des ouverts d’orbites triangulaires : les billards dits droit-sphériques et obtenus à partir d’exemples de billards sur la sphère de dimension 2 sont les seuls ayant cette propriété. La preuve de ce résultat utilise notamment les systèmes Pfaffiens. De nombreux contre-exemples à la conjecture de Ivrii sont aussi donnés pour plus de trois réflexions dans la classe des billards projectifs : il s’agit de billards projectifs construits dans des polygones possédant des ouverts d’orbites périodiques de période paire. Cette thèse analyse aussi l’existence de caustiques. Elle propose une étude des caustiques dites complexes du billard dans une conique complexifiée : une telle conique admet pour caustiques complexes le faisceau de coniques homofocales complexes, et les caustiques complexes des orbites périodiques d’une période donnée sont plus nombreuses que les caustiques du billard classique. Il est aussi question des caustiques de billard en dimension au moins 3 : une quadrique d’un faisceau de quadriques admet une structure de billard projectif dont les quadriques du faisceau sont des caustiques. Il est alors montré qu’un argument avancé par Berger se généralise à l’étude des caustiques de billards projectifs en dimension au moins 3, et que cette généralisation s’applique à la classification des billards pseudo-Euclidiens possédant des caustiques