Analyses de l'algorithme de Gauss. Applications à l'analyse de l'algorithme LLL.

This thesis is dedicated to the probabilistic analysis of algorithms to reduce Euclidean networks. Euclidean network is all coefficients of linear combinations of a base integers (b_1, ..., b_n) \ subset R ^ n. The reduction of a network is to find a base formed of relatively short and relatively orthogonal vectors from a data base input. The famous LLL algorithm solves this problem efficiently in arbitrary dimension. It is widely used, but poorly understood. We focus on the analysis in the case n = 2, where LLL is the Gauss membership, as it is a building block for the case n> = 3, we analyze precisely the Gauss, both in of its execution (number of iterations, bit complexity, cost "additives") that the geometry of the output data (default Hermite first minimum and second minimum orthogonalized). We work in a very general probabilistic model for studying both easier than the difficult instances instances. This model allowed us to study the transition to the Euclidean algorithm, which corresponds to the case where the vectors of the input base are collinear. We use dynamic methods: algorithms are seen as dynamic systems, and generating functions involved are expressed in terms of the transfer operator. These highly accurate results in 2D are a first step in the analysis of the LLL algorithm in the general case.Cette thèse est dédiée à l'analyse probabiliste d'algorithmes de réduction des réseaux euclidiens. Un réseau euclidien est l'ensemble de combinaisons linéaires à coefficients entiers d'une base (b_1,..., b_n ) \subset R^n. La réduction d'un réseau consiste a en trouver une base formée de vecteurs assez courts et assez orthogonaux, à partir d'une base donnée en entrée. Le célèbre algorithme LLL résout ce problème de manière efficace en dimension arbitraire. Il est très utilisé, mais mal compris. Nous nous concentrons sur son analyse dans le cas n = 2, où LLL devient l'algorithme de Gauss, car cette instance est une brique de base pour le cas n>= 3. Nous analysons précisément l'algorithme de Gauss, tant du point de vue de son exécution (nombre d'itérations, complexité binaire, coûts "additifs") que de la géométrie de la base de sortie (défaut d'Hermite, premier minimum et deuxième minimum orthogonalisé). Nous travaillons dans un modèle probabiliste très général, qui permet d'étudier aussi bien les instances faciles que les instances difficiles. Ce modèle nous a permis d'étudier la transition vers l'algorithme d'Euclide, qui correspond au cas où les vecteurs de la base d'entrée sont colinéaires. Nous utilisons des méthodes dynamiques : les algorithmes sont vus comme des systèmes dynamiques, et les séries génératrices concernées s'expriment en fonction de l'opérateur de transfert. Ces résultats très précis en dimension 2 sont une première étape pour l'analyse de l'algorithme LLL dans le cas général