Spectral theory of ultradifferentiable hyperbolic dynamics

Afin d'étudier la validité d'une formule de trace pour les flots d'Anosov infiniment différentiables proposée par Dyatlov et Zworski, nous développons des outils qui permettent de comprendre le spectre de Ruelle des dynamiques hyperboliques infiniment dérivables. Un rôle central est joué dans cette étude par la notion d'ultradifférentiabilité (principalement via le langage des classes de Denjoy-Carleman). On donne ainsi un analogue ultradifférentiable des méthodes développées originellement par Ruelle, Rugh et Fried (basées sur les résultats de Grothendieck sur les opérateurs nucléaires) pour étudier les dynamiques hyperboliques analytiques. En particulier, une analyse détaillée des opérateurs de transfert associés aux applications dilatantes du cercle ultradifférentiables est menée. La formule de trace est ensuite démontrée pour une grande classe de flots d'Anosov ultradifférentiables. Enfin, une transformée de FBI analytique est utilisée pour prouver que l'ordre du déterminant dynamique associé à un flot d'Anosov de régularité Gevrey est fini.In order to study the validity of a trace formula for infinitely differentiable Anosov flows proposed by Dyatlov and Zworski, we develop tools that allow us to investigate the Ruelle spectrum of infinitely differentiable hyperbolic dynamics. The notion of ultradifferentiability (and in particular the language of Denjoy-Carleman classes) plays a central role in our study. We give an ultradifferentiable analogue of the methods originally developed by Ruelle, Rugh and Fried (based on Grothendieck's results on nuclear operators) to study analytic hyperbolic dynamics. In particular, a detailed analysis of transfer operators associated to ultradifferentiable expanding maps of the circle is performed. The trace formula is then proved for a large class of ultradifferentiable Anosov flow. Finally, an analytic FBI transform is used in order to establish that the order of the dynamical determinant associated to an Anosov flow of Gevrey regularity is finite