Modèles linéaires généralisés à effets aléatoires : contributions au choix de modèle et au modèle de mélange

This work focuses on generalized linear mixed models (GL2M). In these models, considering a gaussian hypothesis for the random effects distribution, the likelihood based on the marginal distribution of the response cannot be derived in closed form. In the first part of this work, we critically review parameter estimation methods using different kinds of approximations. The second part focuses on model selection for GL2Ms. Two parameter estimation methods are revisited, both leading to iterative model linearisations. We propose simple model selection criteria adapted from classical information criteria and based on the linearised model obtained once the algorithm has converged. In the third and last part, the analysis of mixture models of GL2Ms is considered. The mixture components are defined by GL2Ms and correspond to different possible states of the statistical units. For a mixture of exponential mixed models, we propose a method using a linearisation specific to this distribution. We also propose a second and more general approach which uses a Metropolis-Hastings step to allow construction of an MCEM algorithm. This method can be used for mixtures of any GL2Ms. The different developed methods are tested by simulations.Ce travail est consacré à l'étude des modèles linéaires généralisés à effets aléatoires (GL2M). Dans ces modèles, sous une hypothèse de distribution normale des effets aléatoires, la vraisemblance basée sur la distribution marginale du vecteur à expliquer n'est pas, en général, calculable de façon formelle. Dans la première partie de notre travail, nous revisitons différentes méthodes d'estimation non exactes par le biais d'approximations réalisées à différents niveaux selon les raisonnements. La deuxième partie est consacrée à la mise en place de critères de sélection de modèles au sein des GL2M. Nous revenons sur deux méthodes d'estimation nécessitant la construction de modèles linéarisés et nous proposons des critères basés sur la vraisemblance marginale calculée dans le modèle linéarisé obtenu à la convergence de la procédure d'estimation. La troisième et dernière partie s'inscrit dans le cadre des modèles de mélanges de GL2M. Les composants du mélange sont définis par des GL2M et traduisent différents états possibles des individus. Dans le cadre de la loi exponentielle, nous proposons une méthode d'estimation des paramètres du mélange basée sur une linéarisation spécifique à cette loi. Nous proposons ensuite une méthode plus générale puisque s'appliquant à un mélange de GL2M quelconques. Cette méthode s'appuie sur une étape de Metropolis-Hastings pour construire un algorithme de type MCEM. Les différentes méthodes développées sont testées par simulations