Agrégation d'estimateurs et de classificateurs (théorie et méthodes)

This thesis is devoted to the study of both theoretical and practicalproperties of various aggregation techniques. We first extend thePAC-Bayesian theory to the high dimensional paradigm in the additiveand logistic regression settings. We prove that our estimators arenearly minimax optimal, and we provide an MCMC implementation, backedup by numerical simulations. Next, we introduce an original nonlinearaggregation strategy. Its theoretical merits are presented, and webenchmark the method-called COBRA-on alengthy series of numerical experiments. Finally, a Bayesian approachto model admixture in population genetics is presented, along with itsMCMC implementation. All approaches introduced in this thesis arefreely available on the author's website.Ce manuscrit de thèse est consacré à l'étude des propriétés théoriqueset méthodologiques de différentes procédures d'agrégationd'estimateurs. Un premier ensemble de résultats vise à étendre la théoriePAC-bayésienne au contexte de la grande dimension, dans les modèles derégression additive et logistique. Nous prouvons dans ce contextel'optimalité, au sens minimax et à un terme logarithmique près, de nosestimateurs. La mise en \oe uvre pratique de cette stratégie, par des techniques MCMC, est étayée pardes simulations numériques. Dans un secondtemps, nous introduisons une stratégie originale d'agrégation nonlinéaire d'estimateurs de la fonction de régression. Les qualitésthéoriques et pratiques de cette approche - dénommée COBRA - sont étudiées, et illustréessur données simulées et réelles. Enfin, nous présentons unemodélisation bayésienne - et l'implémentation MCMC correspondante -d'un problème de génétique des populations.Les approches développées dans ce document sont toutes librement téléchargeables depuis le site de l'auteur.PARIS-BIUSJ-Mathématiques rech (751052111) / SudocSudocFranceF