Dynamiques chaotiques et hyperbolicité partielle

The dynamics of hyperbolic systems is considered well understood from topological point of view as well as from stochastic point of view. S. Smale and R. Abraham gave an example showing that, in general, the hyperbolic systems are not dense among all differentiable systems. In 1970s, M. Brin and Y. Pesin proposed a new notion: partial hyperbolicity to release the notion of hyperbolicity. One aim of this thesis is to understand the dynamics of certain partially hyperbolic systems from stochastic point of view as well as from topological point of view. From stochastic point of view, we prove the following results: — There exists an open and dense subset U of robustly transitive nonhyperbolic diffeomorphisms far from homoclinic tangency, such that forany f ∈ U, there exist non-hyperbolic ergodic measures as the weak*- limit of periodic measures, with only one vanishing Lyapunov exponent, and whose supports are the whole manifold; — There exists an open and dense subset of partially hyperbolic (but nonhyperbolic) diffeomorphisms with center dimension one whose strong foliations are robustly minimal, such that the closure of the set of ergodic measures is the union of two convex sets which are the closure of the sets of hyperbolic ergodic measures of two different s-indices respectively; these two convex sets intersect along the closure of the set of nonhyperbolic ergodic measures. As a consequence, every non-hyperbolic ergodic measure is approximated by periodic measures. That is the case for robustly transitive perturbation of the time one map of a transitive Anosov flow, or of the skew product of an Anosov torus diffeomorphism by a rotation of the circle. These results are based on some local results whose statements involve in lots of technical definitions. From topological point of view, for any non-transitive Anosov flow on orientable 3-manifolds, we build new partially hyperbolic diffeomorphisms by composing the time t-map of the Anosov flow (for t > 0 large) with Dehn twists along transverse tori. These new partially hyperbolic diffeomorphisms are robustly dynamically coherent. This generalizes the special process in [BPP] for constructing new partially hyperbolic diffeomorphisms to a general case. Furthermore, we prove that for the new partially hyperbolic diffeomorphisms we built, their center foliations are topologically equivalent to the Anosov flows used for building them. As a consequence, one has that the structure of the center leaves of the new partially hyperbolic diffeomorphisms is the same asthe structure of the orbits of an Anosov flow. The presence of non-hyperbolic ergodic measures shows the non-hyperbolicity of the systems. In this thesis, we also attempt to understand: to what extent, can the presence of non-hyperbolic ergodic measures character how far from hyperbolicity the systems are? We prove that, for generic diffeomorphisms, if a homoclinic class contains periodic orbits of different indices and without certain dominations, then there exists a non-hyperbolic ergodic measure with more than one vanishing Lyapunov exponents and whose support is the whole homoclinic class. The number of vanishing Lyapunov exponents shows how much hyperbolicity has been lost in such kind of systems.La dynamique des systèmes hyperboliques est considérée bien comprise du point de vue topologique aussi bien que du point de vue stochastique. S. Smale et R. Abraham ont donné un exemple montrant que, en général, les systèmes hyperboliques ne sont pas denses parmi tous les systèmes diffélrentiables. Dans les années 1970, M. Brin et Y. Pesin ont proposé une nouvelle notion: hyperbolicité partielle pour affaiblir la notion d’hyperbolicité. Un but de cette thèse est de comprendre la dynamique de certains systèmes partiellement hyperboliques du point de vue stochastique aussi bien que du point de vue topologique. Du point de vue stochastique, nous démontrons les résultats suivants: — Il existe un sous-ensemble U ouvert et dense de difféomorphismes non hyperboliques robustement transitifs loin de tangences homocliniques, tels que pour tout f ∈ U, il existe des mesures ergodiques non hyperboliques qui sont limite faible des mesures périodiques, avec un seul exposant de Lyapunov nul, et dont les supports sont la variété entière; — Il existe un sous-ensemble ouvert et dense de l’ensemble des difféomorphismes partiellement hyperboliques (mais non hyperboliques) de dimension centrale un dont les feuilletages forts sont robustement minimaux, de sorte que la fermeture de l’ensemble des mesures ergodiques est l’union de deux convexes qui sont la fermeture des ensembles de mesures ergodiques hyperboliques de deux s-indices différents respectivement; ces deux ensembles convexes se coupent le long de la fermeture de l’ensemble des mesures ergodiques non hyperboliques. Par conséquent, toute mesure ergodique non hyperbolique est approchée par des mesures périodiques. C’est le cas pour une perturbation robustement transitive du temps un d’un flot d’Anosov transitif, ou du produit fibré d’un difféomorphisme d’Anosov sur le tore par une rotation du cercle. Ces résultats sont basés sur des résultats locaux dont les démonstrations impliquent beaucoup de définitions techniques. Du point de vue topologique, pour tout flot d’Anosov non transitif sur des variétés de dimension 3 orientables, nous construisons de nouveaux difféomorphismes partiellement hyperboliques en composant le temps t des flots d’Anosov (pour t > 0 large) avec des twists de Dehn le long des tores transversaux. Ces nouveaux difféomorphismes partiellement hyperboliques sont robustement dynamiquement cohérents. Cela généralise dans un cas général le processus spécial dans [BPP] pour construire de nouveaux difféomorphismes partiellement hyperboliques. De plus, nous démontrons que pour les nouveaux difféomorphismes partiellement hyperboliques que nous avons construits, leurs feuilletages centraux sont topologiquement équivalentes aux flots d’Anosov utilisés pour les construire. En conséquence, la structure des feuilles centrales des nouveaux difféomorphismes partiellement hyperboliques est la même que la structure des orbites d’un flot d’Anosov. La présence de mesures ergodiques non hyperboliques montre la non hyperbolicité des systémes. Dans cette thése, nous cherchons également à comprendre: dans quelle mesure la présence de mesures ergodiques non hyperboliques peut-elle caractériser le degré de non-hyperbolicité des systèmes? Nous démontrons que, pour les difféomorphismes génériques, si une classe homoclinique contient des orbites périodiques d’indices différents et sans certaines dominations, il existe une mesure ergodique non hyperbolique avec plus d’un exposant de Lyapunov qui s’annule et dont le support est la classe homoclinique entière. Le nombre d’exposants de Lyapunov nuls montre combien d’hyperbolicité a été perdue dans un tel type de systèmes