Arithmétique et Topologie des Nœuds Modulaires

In this work, dedicated to the modular group PSL(2;Z), we investigate several arithmetical and topological structures underlying its set of conjugacy classes, such as equivalence relations and bilinear pairings.The modular group PSL(2;Z) acts on the hyperbolic plane with quotient the modular surface M, whose unit tangent bundle U is a 3-manifold homeomorphic to the complement of the trefoil knot in the 3-sphere. The modular knots in U are the periodic orbits for the geodesic flow, the lifts of closed oriented geodesics in M, which correspond to hyperbolic conjugacy classes in PSL(2;Z). Their linking numbers with the trefoil is well understood. We are concerned with the linking numbers between modular knots and derive several formulae with combinatorial, dynamical or group theoretical flavour. In particular, we associate to a pair of modular knots a function defined on the character variety of PSL(2;Z), whose limit at the boundary point recovers their linking number.The hyperbolic matrices in the modular group PSL(2;Z) also parametrize various families of objects in arithmetics such as indefinite integral binary quadratic forms. For a field extension K of Q, we consider two matrices in PSL(2;Z) as K-equivalent when they are conjugate by an element in PSL(2;K). The set of PSL(2;Z)-classes is thus partitioned into K-classes, and we describe how this varies with K. For K=C it amounts to grouping binary quadratic forms with the same discriminant and modular geodesics of the same length. For K=Q we obtain a refinement of this equivalence relation, which we relate to the arithmetic of integral binary quadratic forms (Hilbert symbols) and describe in terms of the geometry of modular geodesics (angles at intersection points, and lengths of ortho-geodesics).Dans cette thèse consacrée au groupe modulaire PSL(2;Z), on étudie plusieurs structures arithmétiques et topologiques sur l'ensemble de ses classes de conjugaison, comme des relations d'équivalence ou des fonctions bilinéaires.Le groupe modulaire PSL(2;Z) agit sur le plan hyperbolique avec pour quotient la surface modulaire M, dont le fibré tangent unitaire U est une variété de dimension 3 homéomorphe au complémentaire d'un noeud de trèfle dans la sphère. Les noeuds modulaires dans U sont les orbites périodiques du flot géodésique, relevés des géodésiques fermées orientées de M, qui correspondent aux classes de conjugaison hyperboliques dans PSL(2;Z). Leur enlacement avec le noeud de trèfle est bien compris. On s'intéresse aux nombres d'enlacement entre ces noeuds modulaires, pour lesquels on détermine plusieurs expressions exploitant la combinatoire, la dynamique ou l'algèbre du groupe modulaire. En particulier, on associe à deux noeuds modulaires une fonction définie sur la variété des caractères de PSL(2;Z), dont la limite au bord retrouve leur enlacement.Les matrices hyperboliques de PSL(2;Z) indexent aussi diverses familles d'objets arithmétiques, telles que les formes quadratiques binaires entières indéfinies.Pour un corps K contenant Q, on dit que deux matrices de PSL(2;Z) sont K-équivalentes si elles sont conjuguées par un élément de PSL(2;K). On décrit comment le groupement des PSL(2;Z)-classes en K-classes varie avec K. Pour K=C cela revient à regrouper les formes quadratiques d'un même discriminant, ou les géodésiques modulaires de même longueur. Pour K=Q on obtient un raffinement de cette relation d'équivalence, que l'on relie à l'arithmétique des formes quadratiques (symboles de Hilbert) et que l'on décrit en termes des géodésiques modulaires (angles aux points d'intersection et longueurs des ortho-géodésiques)