Quelques théorèmes limites pour les matrices aléatoires, les processus non gaussiens et en probabilités libres

This thesis consists of three distinct parts and focuses on both commutative and non-commutative stochastic analysis. The first part of this work will focus on the study of Wishart type random matrices via the Malliavin-Stein method and the analysis on the Wiener space. Indeed, in a first step, we analyze the limit behavior of random matrices of type Wishart associated with a random matrix of size "$nimes d$" under various assumptions. In particular, we assume that the entries of this matrix live in Wiener chaos, are all independent of each other, and have the same moments of order two and four. We show, using the Malliavin-Stein method, that properly renormalized, the fluctuations of the Wishart matrix around its mean are Gaussian and we obtain a quantitative estimate of the matrix Wasserstein distance between the renormalized matrix and its limiting matrix which consists of Gaussian variables. We then generalize this first result to the case of very general inputs, with possibly non-identically distributed inputs, these being expressed as a Skorohod integral. Under a strong independence and regularity condition in the Malliavin sense, we also obtain a quantitative estimate of the matrix Wasserstein distance between the Wishart matrix and its limiting matrix.In a second step, we explore an alternative hypothesis to the total independence for the Wishart matrices, we further assume that the entries are not Gaussian. We study the limiting behavior of the Wishart matrix when the associated initial matrix has some correlation structure that focuses on the rows. The entries of the latter being Hermite process increments (non-Gaussian, self-similar process). We obtain here a limiting matrix, which is composed by non-Gaussian random variables, and we evaluate in the same way the matrix Wasserstein distance.Our study of random matrices ends by obtaining Berry-Esseen type bounds in Wasserstein distance for random determinants.In the second part, we will define two types of stochastic integrals for a class of self-similar, non-Gaussian processes that can have "rough" trajectories: the generalized Hermite processes. We then study the Ornstein-Uhlenbeck process ("GHOU") associated with this noise and we show that when the drift of the "GHOU" process tends to zero, the latter converges in a certain direction to the generalized Hermite process itself.Finally, in this last part devoted to free probability, we generalize a quantitative estimate to the multidimensional case for the free analog of the Wasserstein distance associated with the quadratic cost between a vector composed of multiple self-adjoint Wigner-Itô integrals and a semicircular family of strictly positive covariance matrix. We apply this result to various situations, and we treat in particular the case of the speed of convergence for the multivariate Breuer-Major central limit theorem for the noncommutative fractional Brownian motion.Cette thèse se compose de trois parties distinctes et se concentre à la fois sur l'analyse stochastique commutative et non commutative. La première partie de ce travail portera sur l'étude des matrices aléatoires de type Wishart via la méthode de Malliavin-Stein et de l'analyse sur l'espace de Wiener. En effet, dans un premier temps, nous analysons le comportement limite de matrices aléatoires de type Wishart associées à une matrice aléatoire de taille "n x d" sous diverses hypothèses. Plus particulièrement, nous supposons tout d'abord que les entrées de cette matrice vivent dans les chaos de Wiener, sont toutes indépendantes entre elles, et ont même moments d'ordre deux et quatre. Nous montrons, en utilisant la méthode de Malliavin-Stein, que proprement renormalisé, les fluctuations de la matrice de Wishart autour de sa moyenne sont gaussiennes et nous obtenons une estimation quantitative pour la distance de Wasserstein matricielle entre la matrice renormalisée et sa matrice limite qui se compose de variables gaussiennes. Nous généralisons ensuite ce premier résultat dans le cas d'entrées très générales, avec des entrées possiblement non identiquement distribuées, celles-ci s'exprimant comme une intégrale de Skorohod. Sous une condition d'indépendance forte et de régularité au sens de Malliavin, nous obtenons aussi une estimation quantitative de la distance Wasserstein matricielle entre la matrice de Wishart et sa matrice limite.Dans un second temps, nous explorons une hypothèse alternative à l'indépendance totale pour les matrices de Wishart, nous supposons de plus que les entrées ne sont pas gaussiennes. Nous étudions le comportement limite de la matrice de Wishart lorsque la matrice initiale associée possède une certaine structure de corrélation qui se concentre sur les lignes. Les entrées de cette dernière étant des accroissements de processus d'Hermite (processus non-gaussien, auto-similaire). Nous obtenons ici une matrice limite, qui est composée par des variables aléatoires non-gaussiennes, et nous évaluons de même la distance Wasserstein matricielle.Notre étude des matrices aléatoires se termine par l'obtention de bornes de type Berry-Esseen en distance de Wasserstein pour des déterminants aléatoires.Dans la seconde partie, nous définirons deux types d'intégrales stochastiques pour une classe de processus auto-similaires, non-gaussiens, pouvant avoir des trajectoires "rugueuse" : les processus d'Hermite généralisé. Nous étudierons ensuite le processus d'Ornstein-Uhlenbeck ("GHOU") associé à ce bruit et nous montrons que lorsque le drift du processus "GHOU" tend vers zéro, ce dernier converge dans un certain sens vers le processus d'Hermite généralisé lui-même.Finalement, dans cette dernière partie consacrée aux probabilités libres, nous généralisons une estimation quantitative au cas multidimensionnel pour l'analogue libre de la distance Wasserstein associé au coût quadratique entre un vecteur composé par des intégrales multiples de Wigner-Itô auto-adjointes et une famille semi-circulaire de matrice de covariance strictement positive. Nous appliquons ce résultat à diverses situations, et nous traitons notamment le cas de la vitesse de convergence pour le théorème central limite multivarié de Breuer-Major pour le mouvement Brownien fractionnaire non commutatif