Etude des parentés génétiques dans les populations humaines anciennes : estimation de la fiabilité et de l'efficacité des méthodes d'analyse

L'étude des parentés génétiques permet à l'anthropologie d'identifier la place du sujet au sein des différentes structures dans lesquelles il évolue : l'individu est membre d'une famille biologique, d'un groupe social et d'une population. L'application des méthodes probabilistes classiques (établies pour répondre à des problématiques de médecine légale, comme la méthode des Likelihood Ratios (LR) ou " Rapports de vraisemblance ") aux données STR issues du matériel archéologique a permis la découverte de nombreux liens de parenté, qui ensemble constituent des généalogies parfois complexes. Notre pratique prolongée de ces méthodes nous a cependant amenés à identifier certaines limites de l'interprétation des données STR, en particulier dans les cas de parentés complexes, distantes ou consanguines, ou dans des populations isolées, méconnues ou disparues. Ce travail de thèse s'attache en premier lieu à quantifier la fiabilité et l'efficacité de la méthode des LR dans quatre situations : une population moderne avec une grande diversité allélique, une population moderne avec une faible diversité allélique, une population ancienne de grande taille et une population ancienne de petite taille. Les publications récentes font usage des marqueurs plus nombreux issus des nouvelles technologies de séquençage (NGS) pour mettre en place de nouvelles stratégies de détection des parentés, basées en particulier sur l'analyse des segments chromosomiques partagés par ascendance entre les individus (segments IBD). Ces méthodes ont rendu possible l'estimation plus fiable de probabilités de parenté dans le matériel ancien. Elles sont néanmoins inadaptées à certaines situations caractéristiques de la génétique des parentés archéologiques : elles ne sont pas conçues pour fonctionner avec une seule paire isolée d'individus et reposent, comme les méthodes classiques, sur l'estimation de la diversité allélique dans la population. Nous proposons donc une quantification de la fiabilité et de l'efficacité de la méthode des segments partagés à partir de données NGS, en s'attachant à déterminer la qualité des résultats dans les différentes situations qui correspondent à des tailles de population plus ou moins importantes et à une hétérogénéité plus ou moins grande de l'échantillonnage. Ce travail de thèse s'est également attaché à proposer une méthode adaptée aux caractéristiques particulières de l'ADN ancien (petit nombre d'individus, populations mal définies, erreurs techniques...). Une méthode consacrée à la détermination des parentés pour les paires isolées d'individus dont la variabilité allélique est inconnue est donc proposée et soumise aux mêmes mesures de fiabilité et d'efficacité que la méthode des LR et la méthode des segments IBD. La fiabilité et l'efficacité de chaque méthode ont pu être estimées à partir d'ADN issu de 727 individus modernes, pour lesquels plus de 1000 relations de parenté étaient déclarées et pour lesquels différents types de marqueurs génétiques (STR et SNP) ont été étudiés. Ces méthodes ont ensuite été appliquées à 186 individus anciens issus de fouilles archéologiques, afin d'établir leurs généalogies et de proposer des solutions à l'étude des parentés complexes ou distantes dans le contexte archéo-génétique.The study of genetic kinship allows anthropology to identify the place of an individual within which they evolve: a biological family, a social group, a population. The application of classical probabilistic methods (that were established to solve cases in legal medicine, such as Likelihood Ratios, or LR) to STR data from archaeological material has permitted the discovery of numerous parental links which together constitute genealogies both simple and complex. Our continued practice of these methods has however led us to identify limits to the interpretation of STR data, especially in cases of complex, distant or inbred kinship. The first part of the present work is constituted by the estimation of the reliability and the efficacy of the LR method in four situations: a large modern population with significant allelic diversity, a large modern population with poor allelic diversity, a large ancient population and a small ancient population. Recent publications use the more numerous markers analysed using Next generation Sequencing (NGS) to implement new strategies in the detection of kinship, especially based on the analysis of chromosome segments shared due to common ancestry (IBD "Identity-by-Descent" segments). These methods have permitted the more reliable estimation of kinship probabilities in ancient material. They are nevertheless ill-suited to certain typical situations that are characteristic of ancient DNA studies: they were not conceived to function using single pairs of isolated individuals and they depend, like classical methods, on the estimation of allelic diversity in the population. We therefore propose the quantification of the reliability and efficiency of the IBD segment method using NGS data, focusing on the estimation of the quality of results in different situations with populations of different sizes and different sets of more or less heterogeneous samples. This thesis work also proposes a method that would be adapted to the specific characteristics of ancient DNA (few individuals, ill-defined populations, technical errors...). We therefore present a method dedicated to the determination of kinship in isolated pairs of individuals when allelic variability is unknown and test that method to quantify its reliability and efficiency, as we have done with LR and IBD segments. Reliability and efficiency were estimated using 727 modern individuals for whom more than 1000 familial links were declared and different genetic markers were studied (STR and SNP). These methods were then applied to 186 ancient individuals in order to establish their genealogies and propose solutions to the study of complex or distant kinship in an archaeogenetic context