Computational contributions to Bayesian statistics

Cette thèse présente différentes contributions aux méthodes de Monte Carlo utilisées en statistique bayésienne. Le paradigme bayésien constitue l'une des principales approches actuelles de la statistique et dispose désormais d'une méthodologie importante pour l'inférence et le choix de modèle. Néanmoins, au fur et a mesure que les modèles statistiques deviennent plus réalistes et qu'ils s'écartent des hypothèses classiques de normalité et de linéarité, le calcul de diverses quantités nécessaires a l'analyse statistique devient un problème en soi. En particulier, des intégrales en grande dimension, dans lesquelles les intégrandes peuvent être fortement multimodales, doivent être approchées de manière efficace. Par ailleurs, l' évaluation de l'intégrande en chaque point de l'espace peut nécessiter un calcul conséquent, ce qui résulte en des procédures d'intégration très coûteuses. Ces intégrales sont en général approchées au moyen des méthodes de Monte Carlo, qui requièrent une aptitude générale à simuler des échantillons selon des lois de probabilité. Le premier chapitre de ce document explique ce contexte et passe en revue les techniques de Monte Carlo les plus génériques. Les chapitres suivants visent à améliorer certaines de ces techniques, à en proposer de nouvelles et à étudier leurs propriétés théoriques, dans le contexte de l' échantillonnage de distributions multimodales dont les densités sont parfois coûteuses à évaluer.This thesis presents contributions to the Monte Carlo methodology used in Bayesian statistics. The Bayesian framework is one of the main approaches to statistics and includes a rich methodology to perform inference and model choice. However, as statistical models become more realistic and drift away from the classical assumptions of normality and linearity, computing some of the quantities involved in the statistical analysis becomes a challenge in itself. In particular high-dimensional integrals have to be efficiently approximated, where the integrands can be highly multimodal. Moreover each point-wise evaluation of the integrands can require a lot of computational effort, which results in expensive integration schemes. These integrals are typically approximated using Monte Carlo methods, requiring the ability to sample from general probability distributions. The first chapter of this document explains this motivating context and reviews some of the most generic Monte Carlo techniques. The following chapters aim at improving some of these techniques, at proposing new methods and at analysing their theoretical properties, in the context of sampling from multimodal and computationally expensive probability distributions