Noyaux d'opérateurs sur les groupes de Lie exponentiels

Let G be a connected, simply conncted exponential Lie group with Lie algebra g. Let n be a nilpotent ideal with g'=(g,g) c n, l [epsilon] g* and h a polarization for l in g. Let H=exph and [pi] =indGHxl,h the unitary irreductible representation induced on G by the abelian character xl,h of the subgroup H. The quotient space G/H is diffeomorphic with some Rm and the representation space of [pi] can naturally be identified with L2(Rm). Then for any f [epsilon]L1(G) the operator [pi](f) = ?g f(x)pi(x)dx is a kernel operator, i.e. there exists a function fpi on Rm x Rm such that (pi(f)e)(x) = ?Rm fpi(x, y)e(y)dy. Problem : which kernels occur in this fashion? For nilpotent G, Howe had shown in 1977 that for every Schwartz function F e S(l,h) c S(RmxRm) there exists f e L1(G) with F=Fpi. For exponential groups such a result cannot be expected. In fact, however even f e C?c(G), i.e. f is C? and has compact support, pi(f) need no longer ba a compact operator ; this happens already for the infinite dimensional representations of the ax+b group. In 1983 Ludwig had shown that for a fixed polarization h in l and a coexponential basis B for h in g, the characterization of Hawe remains valid when the space S (l,h) is change to a suitable space ES(l,h,B) (S for Sschwartz, E for exponential decay) of functions on GxG, which are Schwartz functions in some directions of G/H and which have exponential decay in the other directions on G/H with also their partial Fourier transform in these directions. In 1993 Leptin and Ludwig had extended this result to the case of Vergne polarizations h=h(l,S) through n. In this paper, i extend the last characterization to the so-called strongly-adapted polarizations to the nilpotent ideal n, which is the family of polarizations h for l [epsilon] g* such that h[pont] polarization for lln and h is g(lln) - invariant. Remark that this family strictly contains the Vergne polarizations h=h(l,S) through n and every strongly-adapted polarization satisfies the Pukansky's condition. We also treat some examplesSoit g un groupe de Lie connexe, simplement connexe exponentiel, d'algèbre de Lie g. Soient n un idéal nilpotent de g contenant g,g et h une polarisation en l , g#*. Soient h = exp h et = ind#g#h#l#,#h la représentation unitaire irréductible induite par le caractère unitaire #l#,#h de h. L'espace quotient g/h est diffeomorphe a un espace r#m, m , n, ce qui nous permet d'identifier l'espace h# de avec l#2(r#m). Ainsi pour tout f , l#1(g), l'opérateur (f) = #gf(x)(x)dx possède un noyau, c'est a dire qu'il existe une fonction f# sur r#m x r#m telle que ((f))(x) = #r#m f#(x, y)(y)dy. Problème : quels sont les noyaux obtenus de cette facon ? Dans le cas ou g est nilpotent, Howe a montré en 1977 que pour toute fonction de Schwartz f , s(l, h) s(r#m x r#m), il existe f , l#1(g) telle que f = f#. Dans le cas ou g est exponentiel, la caractérisation ci-dessus n'est plus vérifiée car l'opérateur (f) n'est pas nécessairement compact, même si f , c##c ; ceci apparait dans les représentations de dimension infinie du groupe ax + b. Ainsi, pour une polarisation fixe h et une base b fixe et coexponentielle a h dans g, Ludwig a montré en 1983 que la caractérisation de Howe reste valable pour un groupe de lie exponentiel à condition de remplacer les espaces de fonctions s(l, h) par des espaces analogues es(l, h, b) de fonctions a décroissance exponentielle dans certaines directions de g/h ainsi que leurs transformées de Fourier partielles dans ces directions, et de Schwartz dans les autres directions. En 1993, leptin et Ludwig ont étendu le résultat ci-dessus aux polarisations de vergne h = h(l, s) passant par n. Mon travail consiste a étendre la caractérisation ci-dessus aux polarisations de g qui sont fortement adaptées a n. Il s'agit de polarisations h en l , g#*, telles que h n est une polarisation en l#|#n et h est g(l#|#n)- invariant. Cette famille contient strictement les polarisations de vergne h(l, s) passant par n et toute polarisation fortement adaptée à n vérifie la condition de Pukansk