Mod p representations of p-adic reductive groups of rank 1

Soit p un nombre premier. Cette thèse est une contribution à la théorie des représentations modulo p des groupes réductifs p-adiques, jusque là essentiellement centrée sur le groupe linéaire général GL(n) défini sur un corps local non archimédien F complet pour une valuation discrète, de caractéristique résiduelle p et de corps résiduel fini. L’originalité de nos travaux réside notamment dans le fait qu’ils concernent d’autres groupes : nous nous intéressons en effet à la description des classes d’isomorphisme des représentations modulo p de groupes formés des F-points d’un groupe réductif connexe défini, quasi-déployé de rang semi-simple égal à 1 sur F. Une place particulière est accordée au groupe spécial linéaire SL(2) et au groupe unitaire quasi-déployé non ramifié en trois variables U(2,1). Dans ces deux cas, nous montrons que les classes d’isomorphisme des représentations lisses irréductibles admissibles à coefficients dans un corps algébriquement clos de caractéristique p se scindent en deux familles : les représentations non supersingulières et les représentations supersingulières. Nous décrivons complètement les représentations non supersingulières, et montrons que la notion de supersingularité est équivalence à la notion de supercuspidalité apparaissant dans la théorie complexe. Nous donnons aussi une description explicite des représentations supersingulières de SL(2,Q_{p}), ce qui nous permet de définir dans ce cas une correspondance de Langlands locale semi-simple modulo p compatible à celle construite par Breuil pour GL(2). Nous généralisons ensuite les méthodes utilisées jusqu’alors pour obtenir la description des représentations non supercuspidales de G(F) lorsque G est un groupe réductif connexe défini, quasi-déployé, et rang semi-simple égal à 1 sur F. Elle fait apparaître trois familles deux à deux disjointes de représentations : les caractères, les représentations de la série principale et celles de la série spéciale. Nous terminons par une classification des modules à droite simples sur la pro-p-algèbre de Hecke-Iwahori H de SL(2,F). On déduit en particulier que l’application qui envoie une représentation lisse modulo p de SL(2,F) sur son espace de vecteurs invariants sous l’action du pro-p-sous-groupe d'Iwahori induit une bijection entre l’ensemble des classes d’isomorphisme des représentations lisses irréductibles non supersingulières de SL(2,F) et l’ensemble des classes d’isomorphisme des H-modules à droite simples non supersinguliers. Cette bijection s’étend aux objets supersinguliers lorsque l’on suppose que F = Q_{p}, ce qui est de bon augure dans la recherche d’une équivalence de catégories analogue à celle obtenue par Ollivier dans le cadre de la théorie existant pour GL(2, Q_{p}).Let p be a prime number. This thesis is a contribution to the theory of mod p representations of p-adic reductive groups, which was until now mainly focused on the general linear group GL(n) defined over a non-archimedean local field F complete with respect to a discrete valuation and with finite residue class field of characteristic p. Our work is original as it deals with other groups : we indeed look for a classification of isomorphism classes of modulo p representations of groups formed by the F-points of a connected reductive group defined, quasi-split and of semi-simple rank 1 over F. A special place is devoted to the special linear group SL(2) and to the unramified quasi-split unitary group. In these two cases, we prove that the isomorphism classes of irreducible smooth representations over an algebraically closed field of characteristic p split into two families : supersingular and non-supersingular representations. We give a complete description of non-supersingular representations and prove that supersingularity is equivalent to the notion of supercuspidality that appears in the complex theory. We also make explicit the supersingular representations of SL(2,Q_{p}), what allows us to define a mod p semi-simple local Langlands correspondence that is compatible to the one built by Breuil for GL(2). We then generalize the methods used above to classify the isomorphism classes of non-supercuspidal representations of G(F) for G a connected reductive group which is defined, quasi-split and of semi-simple rank 1 over F. This classification is made up of three pairwise disjoint families : characters, representations of the principal series, and representations of the special series. We finally come back to SL(2) as we give an exhaustive classification of isomorphism classes of simple right modules on the pro-p-Iwahori-Hecke algebra H of SL(2,F). It implies that the map sending a smooth mod p representation of SL(2,F) on its vector space of invariants vectors under the action of the pro-p-Iwahori subgroup induces a bijection between non-supersingular irreducible smooth representations of SL(2,F) and non-supersingular simple right H-modules. This bijection extends to supersingular objects when F = Q_{p}, what is the first step in the search for an equivalence of categories similar to the one built by Ollivier in the setting of mod p representations of GL(2, Q_{p})