Ope´rateurs diffe´rentiels associe´s a` certaines repre´sentations unitaires d’un groupe de Lie re´soluble exponentiel ðDifferential Operators Associated with Certain Unitary Representations of a Lie Resolvable Exponential GroupÞ ALI BAKLOUTI 1 and HIDE ´ NORI FUJIWARA 2 1 Faculte´ des Sciences de Sfax, De´partement de Mathe ´matiques, Route de Soukra, 3038 Sfax, Tunisie. e-mail: ali.baklouti@fss.rnu.tn 2 Faculte´ de Technologie a ` Kyushu, Universite´ de Kinki, Iizuka 820, Japon. e-mail: fujiwara@fuk.kindai.ac.jp (Received: 11 November 2001; accepted in final form 5 August 2002) Re´ sume´ . Soient G ¼ exp g un groupe de Lie re´soluble exponentiel et H ¼ exp h un sous- groupeconnexede G.Soient w uncaracte`reunitairede H et t ¼ Ind G H w.Soit D t ðG=H Þ l’alge`bre des ope´rateurs diffe´rentiels G-invariants sur G=H. Une question pose´e par Duflo et Corwin- Greenleaf consiste a` voir si la finitude des multiplicite´s de t est e´quivalente a` la commuta- tivite´ de D t ðG=H Þ. Nous re´pondons positivement a` cette question quand H est normal dans G. Lorsque H n’est pas normal, nous pre´parons le terrain pour d’espaces homoge`nes nilpo- tents et nous re´pondons a` la question dans diffe´rents cas. Nous e´tudions finalement l’alge`bre D p ðGÞ H ; p 2 ^ G des ope´rateurs diffe´rentiels qui laissent l’espace des vecteurs C 1 de p invariant et qui commuttent avec l’action de H sur cet espace. Mathematics Subject Classification (2000). 22E27. Mots cle´s. de´sinte´gration, groupe de Lie exponentiel, multiplicite´, orbite, polarisation. 1. Introduction Soit G ¼ exp g un groupe de Lie re´el, connexe, simplement connexe et re´soluble exponentiel. Soit g l’alge`bre de Lie de G. Alors l’application exponentielle: exp: g ! G est un diffe´omorphisme de g sur G.Soit g ? l’espace vectoriel dual de g. G agit sur g ? par la repre´sentation coadjointe. Etant donne´s un sous-groupe analytique H ¼ exp h et un caracte`re unitaire w sur H, on construit la repre´sentation monomiale (induite) t ¼ Ind G H w. Pre´cisons notre fac¸on de construire la repre´sentation monomiale. Soient dg une mesure de Haar a` gauche sur G et D G la fonction module de G de sorte que l’on a: Z G Fðgx 1 Þ dg ¼ D G ðxÞ Z G FðgÞ dg ðx 2 GÞ Compositio Mathematica 139: 29–65, 2003. 29 # 2003 Kluwer Academic Publishers. Printed in the Netherlands. https://www.cambridge.org/core/terms. https://doi.org/10.1023/B:COMP.0000005080.07125.18 Downloaded from https://www.cambridge.org/core. IP address: 54.161.69.107, on 01 Jun 2020 at 05:18:46, subject to the Cambridge Core terms of use, available at