Sur les représentations des groupes de déplacements de Cartan

RésuméSoient G un groupe de Lie semi-simple connexe réel de centre fini, K un sousgroupe compact maximal de G, g (resp. \̌gt) l'algèbre de Lie de G (resp. K), g = \̌gt + p une décomposition de Cartan de g. Dans cet article, nous classifions à Naïmark-èquivalence près les représentations topologiquement complètement irréductibles du groupe de déplacements de Cartan G0=K × p produit semi-direct de K et de p. Notons que la classification des représentations unitaires irréductibles de G0 est due àG. W. Mackey (cf. “Theory of Group Representations,” University of Chicago, 1955, par. 8, en particulier th. 3.11 et la discussion qui suit. Nos méthodes sont très différentes. Tout d'abord, nous démontrons un théorème du sous-module pour ces représentations, analogue à celui de Casselman pour les représentations des groupes semi-simples. Puis nous étudions les représentations ayant un vecteur fixé par K en utilisant la transformation de Poisson attachée àG0, définie par S. Helgason (A duality for symmetric spaces with applications to group representations. III. Tangent space analysis, preprint). Nous déterminons en particulier le noyau de cette transformation, ce qui améliore un résultat d'Helgason (op. cit. théorème 6.2., p. 39) qu'entre autres nous retrouvons par une méthode plus simple. Le cas général est ensuite étudié grâce à des techniques de produits tensoriels par des modules de dimension finie