Application of random walks to the study of subgroups of linear groups

Dans cette thèse, nous utilisons et contribuons à la théorie des produits de matrices aléatoires afin d'étudier des propriétés génériques des éléments et des sous-groupes des groupes linéaires. Notre premier résultat donne une version probabiliste de l'alternative de Tits : nous montrons que si M_n et M'_n sont deux marches aléatoires indépendantes sur un groupe linéaire de type fini non virtuellement résoluble alors presque sûrement les deux marches finiront par engendrer un sous-groupe libre non abélien à deux générateurs. Cela répond par l'affirmative à une question de Guivarc'h et de Gilman, Miasnikov et Osin. Plus précisément, nous montrons que la probabilité que M_n et M'_n n'engendrent pas un sous-groupe libre décroit exponentiellement vite vers zéro. Notre outil principal est la théorie des produits de matrices aléatoires. Durant la preuve, nous établissons de nouveaux théorèmes limites dans cette théorie, d'une part en généralisant des résultats connus dans le cadre des produits de matrices à valeurs dans les corps archimédiens à tout corps local, d'autre part en donnant des résultats qui sont nouveaux même sur R. Par exemple, nous montrons que sous des hypothèses naturelles sur la marche aléatoire, les composantes suivant K de M_n dans la décomposition KAK deviennent asymptotiquement indépendantes avec vitesse exponentielle. Dans la deuxième partie de la thèse, nous utilisons ces résultats pour étudier la transience des sous-variétés des groupes algébriques. Un de nos résultats peut être formulé comme suit: soient H un sous-groupe non élémentaire de SL_2(R), une probabilité adaptée sur H ayant un moment exponentiel, alors pour toute sous-variété algébrique propre V de SL_2(R), la probabilité que la marche aléatoire appartienne à V décroit exponentiellement vite vers zéro. Par conséquent, la sous-variété algébrique V est transiente pour la marche aléatoire. Nous généralisons cet énoncé au cas ou la marche aléatoire est adaptée sur un groupe Zariski dense des points réels d'un groupe algébrique défini et déployé sur R. Ces résultats sont à comparer avec des travaux récents de Kowalski et de Rivin.In this thesis, we use and contribute to the theory of random matrix products in order to study generic properties of elements and subgroups of linear groups. Our first result gives a probabilistic version of the Tits alternative : we show that two independent random walks M_n and M'_n on a non virtually solvable finitely generated linear group will eventually generate a non abelian free subgroup. This answers a question of Guivarc'h and Gilman, Miasnikov and Osin. We show in fact that the probability that M_n and M'_n do not generate a free subgroup decreases exponentially fast to zero. Our methods rely deeply on random matrix products theory. During the proof we give some new limit theorems concerning this theory, some of them will be the generalization of known results for matrices taking value in archimedean fields to arbitrary local fields, others will be new even over R. For example, we show that under natural assumptions on the random walk, the K-parts of M_n in the KAK decomposition become asymptotically independent with exponential speed. Next, we use these properties to study the transience of algebraic subvarieties in algebraic groups. One of our results can be formulated as follows: let H be a non elementary subgroup of SL_2(R), a probability measure with an exponential moment whose support generates H, then for every proper algebraic subvariety V of SL_2(R), the probability that the random walk lies in V decreases exponentially fast to zero. This shows that every proper algebraic subvariety is transient for the random walk. We generalize this result to the case where the support of the probability measure generates a Zariski dense subgroup of the real points of an algebraic group defined and split over R. These results share common flavor with recent works of Kowalski and RivinPARIS11-SCD-Bib. électronique (914719901) / SudocSudocFranceF