Phylogénies aléatoires structurées

This thesis consists of four self-contained chapters whose motivations stem from population genetics and evolutionary biology, and related to the theory of fragmentation or coalescent processes. Chapter 2 introduces an infinite random binary tree built from a so-called coalescent point process equipped with Poissonian mutations along its branches and with a finite measure on its boundary. The allelic partition -- partition of the boundary into groups carrying the same combination of mutations -- is defined for this tree and its intensity measure is described. Chapters 3 and 4 are devoted to the study ofnested -- i.e. taking values in the space of nested pairs of partitions --coalescent and fragmentation processes, respectively. These Markov processes are analogs of Λ-coalescents and homogeneous fragmentations in a nested setting-- modeling a gene tree nested within a species tree. Nested coalescents are characterized in terms of Kingman coefficients and (possibly bivariate) coagulation measures, while nested fragmentations are similarly characterized in terms of erosion coefficients and (possibly bivariate) dislocation measures. Finally Chapter 5 gives a construction of fragmentation processes with speedmarks, which are fragmentation processes where each fragment is given a mark that speeds up or slows down its rate of fragmentation, and where the marks evolve as positive self-similar Markov processes. A Lévy-Khinchin representation of these generalized fragmentation processes is given, as well as sufficient conditions for their absorption in finite time to a frozen state,and for the genealogical tree of the process to have finite total length.Cette thèse est constituée de quatre chapitres indépendants, puisant leur origine en génétique des populations et en biologie évolutive, et liés à la théorie des processus de fragmentation ou de coalescence. Le chapitre 2 traite d'un arbre aléatoire binaire infini construit à partir d'un processus ponctuel coalescent équipé de mutations poissonniennes le long de ses branches et d'une mesure sur sa frontière. La partition allélique -- partition de la frontière en parties qui portent la même combinaison de mutations -- est définie pour cet arbre et sa mesure d'intensité est explicitée. Les chapitres 3 et 4 sont dédiés à l'étude de processus de coalescence et de fragmentation emboîtés -- plus précisément à valeurs dans les couples de partitions emboîtées --, qui sont des analogues des Λ-coalescents et des fragmentations homogènes. Ces objets visent à modéliser un arbre de gènes niché dans un arbre d'espèces. Les coalescents emboîtés sont caractérisés par leurs coefficients de Kingman et leurs mesures de coagulation (éventuellement bivariées), tandis que les fragmentations emboîtées sont caractérisées par leurs coefficients d'érosion et leurs mesures de dislocation (éventuellement bivariées). Enfin le chapitre 5 pose la construction de processus de fragmentation à vitesses aléatoires, qui sont des processus de fragmentation où chaque fragment possède une marque qui accélère ou ralentit son taux de fragmentation, et où les marques de vitesse évoluent comme des processus de Markov positifs auto-similaires. Une caractérisation de type Lévy-Khintchine de ces processus de fragmentation généralisés est donné,ainsi que des conditions suffisantes pour l'absorption dans un état gelé