I. Ch,

, Preuve

. Dans-le-cas-où-les-formes-linéaires, ne sont pas en position génétale, on peut trouver une suite qo ? g" tel que: qT @ù I o, et Q? Up * e,qp) # o, où eo est une suite de nombre réel aussi petit que I'on veut pour que, lim Ad*(exp(X))fo = lim Ad*(exp(X)X/o + epQp

, La représentation de conjugaison 76 est définie sur 'L2(G) par rc@)l@) --f @

U. Pour-rout-r and ?. L2, Il est possible de décrire le support of ^lc comme suit (cf. [24]): pour â ? g* on a z-1, ? Supp(fc) <+ I

*. ,

. En, est pas difficile de voir que si A6 est le sous-groupe {(r, r) : r e G} de G x G,alors 76 est la restriction à Ac de la représentation Îif, tt, Ac 1G :7ïl ,"1t

, Ac

, Il a êté prouvé dans [24] que le cortex est inclu dans le support de cette représentation pour tous les groupes moyennables, mais l'êgalité n'est pas toujours vraie

, Soit maintenant / ? g* et 01 I'orbite coadjointe associée à I. Alors I'orbite Ol est dite plate si elle est un sous-espace affine de g* et ceci est équivalent aux conditions suivantes t) g(/) est un idéal de g. 2)fu:l+s(/)

. Rappelons-que-bekka and . Kaniuth, 6] ont montré que si G est un groupe de Lie nilpotent de pas 2, alors Cor(g*): W,Xeg

, Ch III-Sur le cortex des g de Lie nilpotents

, Nous allons maintenant généraliser ce résultat pour une classe plus grande d'algèbre de Lie

, III-3.2 Proposition

, pas r (c-à-d Ia suite centrale descendante d'ordre r est non nulle et est incluse dans Ie centre d" g), alors: Cor(g*)c {Xl,Xe g, I?g*} en plus {Xr

, Preuve

/. Soit and . Cor, alors il existe une suite /, ?. g* et f n -'-+ 0, une suite X,' de points de g telle que: Ad*(exp

, Par suite : donc ï, * x,rn +

X. ,

+. Id and .. ,

L. Opérateur-Étant-inversible, par suite on a Cor (g*) c {Xl,X ?9, I ? g*}

D. Xr, ,X, ?get f e g*, Xn=nXr et fn : IXt

, Lie nilpotents il s'ensuit que 11 I lz : lim (/" I un I gn I u,) et alors h*lz?,etenutilisantlefaitqueg,fCg/oug/Cgf on peut déduire que /1 * tz ? Cor (g*) et alors le cortex est un ensemble additif, par suite un sous-espace vectoriel. 3), Ch III-Sur le cortex des groupes de

, En utilisant la classification des ces groupes de Lie @f . 2D, on peut conclure dans ce cas que le cortex est encore un sous-espace vectoriel

. Dans-ce-paragraphe, on note ( .,. ) le produit scalaire usuel de lR'' et ll

, le groupe de Heisenberg de dimension (2n * 1) d'algèbre de Lie frn, tn élément de f)n s'écrit (r,yrz), où r, III-4.1 Préliminaires Soit ff

, Soit flû le sous-espace de fi" défini par

T. , Y. , and O. , }, alors (42) définit une forme symplectique sur fl0'. Le groupe d'isométrie SPzn de cette forme agit sur f)n par des automorphismes. Si D : {(0,y,0)'y ? R" }, alors le sous-groupe ,9, de SP2n Qrui fixep est un sous-groupe unipotent de SPzn

, Un élément de 6Hn s'écrit (S,fr,y,2), où S e 6n

, Lemme

I. and S. R. , A sont deuxvecteurs non nuls deRn, alors la matrice r8U + y I r est non nulle

. Si-a-est-un-vecteur-non-nul-de-lllnn,

, Preuve du Lemme l) Supposons que la matrice r &U * y I r soit nulle, donc tous ces termes'diagonaux sont nuls, il s'ensuit que r L

D. and {. Ir-',-on-a-<-t,

, on peut voir que P(4, a,b, \) --2^A+b8 6 est un polynôme ,Sff, donc pour touton doit avoir ):0 et donc b:0. Par ailleurs

, Calculons maintenant I'action coadjointe de 6Hn

E. , n + e, -À-tl e r * r s (* -+), a -Sb* )g * l

. Soit-maintenant, ) dans cor(6fli), alors il existe (E*,o*,b,n,\,n) ? 6Hi qui convefge vers 0, et (,9-, tp1lrntz*) ? 6If

, (E rn'r am't brn, \ *) --t ( A,z, 0, 0)' , brn À*r* ---:^^.-^ t Posons h*:î-T

*. On-Écrit-maintenant-h-*-&-r,

, Ch III-Sur le cortex des groupes de Lie nilpotents

. Cor, mais {ad*Xad*Yf : X,Y e g,f ? g*}: vect(Xf , Xf ) Donc {ad,* Xad

S. Cor, (grrà)): cor(g*) En effet, soit k e Cor(g*), alors il existe h e 6Hi tel que k

, il en résulte que Cor(g*) C J*(Cor( 9 HiD, et en utilisant la proposition (III'4.3)' on a le résultat

, Pour une matrice symetrique,g, on note Sl$ la restriction de la forme linéaire (S,0,0,0) au sous-espace 3 de /(g)' [I-5.1 Proposition Soit g une algèbre de Lie nilpotente de pas 3 dont le centre est de dimension un) : S a b', 6Hn est I'injection de Ratcliff. c-à-d J(g) : vect, Nous allons maintenant regarder de très près le cortex des groupes de Lie de pas trois dont le centre est unidimensionnel alors Co4g\: {(aS, u,u,O): a ? lR',u,u ? R'

, Ie cortex Cor(g*) de g contient I'ensemble suivant : où J: g ---+ Sip--I Slp21, w.;8 w j+ t j I ,n) ,r, r, r, O)

, *rBu*uotr, vol.+j=k+t u, issue.11

{. Vr-e, ,k}' (r"8u* uSwrt Ch III

, Preuve Supposonsquep-1

, Il est clair d'après (43) que pour i ? {1

, Soit l:(g,u,u,0)?Cor(g*)

, \*) telles que A* + 0 , u* --+ 't1', 't)rn -è 't) et \

. Si, alors il existe r ? IR" tel que 1 Su, r ): I et on peut prendre x, p.1

, A*:0' il s'ensuit que (sA* -t t

. Si, 9u : 0, on peut trouver u ?lR" tel qrre ç -1 Swr?, > ou I --I Swrtr >, alors si cp -( Sw,w ), ofl Peut choisir 1

S. Sw, >, on Peut choisir w1 I)m:'+ ;, It, p.0

, Supposons maintenant que p ) 1, on identifie $ avec IRp à travers la base (St

, Remarquons que dès que p 2 2la structure du cortex va dépendre fortement des matrices symetriques qui engendrent I'algèbre de Lie en question. Soit Ê* I'ensemble lO5 Ch III

, Preuve Comme dans le Lemme lll'4.2 on a: J(g) : vect

{. Iz1, avec les commutateurs non triviaux suivants: lS1}, lxn + Tn,Yl: 6i,hz, i e {r, p.1

. Est-i-'indice-de-kronecker, Les variables attachées aux vecteurs de bases Xt IT7,..,& -lTt sont libres

, de ces vecteurs sont dans I'ensembles indice de PukansztyE(/) pour une forme linéaire / en position générale, en utilisant alors la proposition (III-5.1 )

, Soit g: g6,b I'algèbre de Lie engendrée par les vecteurs (Xr, avec les commutateurs non triviaux lXr

. En-utilisant-le-procédé-de-ratcliff, on peut voir que g s'injecte dans 6112, notons l)z: vect(A1

, Kt, issue.2

. /. Soit, injection décrite plus haut, alors r06 Ch III-Sur Ie cortex, des groupes de Lie nilpotents J(Xt):At*I{r, Xr) : EL,r J(Xr) -Az J(Xn): gt /(xs) -Bz J(X6): Z

, Un calcul facile montre que pour tout fr ?IN on a Ê1,: {wET,r + b(4, + Kt,z)* * cAi + hB

D. , onaquecor(g*):vect(xi,x;,xi,xf)(voir[2])'Alors Ên : Cor (9.)

, Soit g I'algèbre de Lie engendrée par les vecteurs (Xt, avec les commutateurs non triviaux

. En-utilisant-de-nouveau-le-procédé-de-ratcliff, on peut voir que g s'injecte dans 6ff2, on garde la même notation que dans I'exemple 1

, Soit "I I'injection de Ratcliff, alors J(Xt, issue.2, p.82

, J, p.1

, J(Xa, p.2

, J

, J, issue.X6, p.2

, X7): Z

+. Ha, Un calcul analogue à celui de I'exemple I montre que pour tout k ?IN on a t1, : {wEi.t + Un

1. Ch and I. , Sur le cortex des groupes de Lie nilpotents D'autre part, en utilisant les polynômes invariants on a que Cor (g*) c vect

. Posons-f and . T|xi, Xf ) sont fl+,IfE-i@)'TI' Tl, + *ITi -l@n")t "u"fl fl -tt,.fl + rt"TI + 1r1"r3"fl f*,+"'"fl-*6"fI fE -*ITI ç6_n4ç7 Jn, *nJn rT Soit / -dXI t c XI + bxi -f a Xi e vect, les coordonnées de Ad*(exp(X"))T" dans la base (Xf alors si on choisit les suites suivantes: fi--fi: #, fL: #, r2n: -an2, ran: *cn2, p.2

, et alors Cor (g*) : vect(Xi

, III-5.4 Proposition finale

G. Soit and {. Un-groupe-de-lie-nilpotent-connexe-et-simplement-connexe, algèbre de Lie g, et supposons que toutes les orbites coadjointes dans g* associées aux formes linéaires en position générale sont des variétés ffines (ceci est Ie cas quand G est de pas 2) Alors pour tout p ?IN, le cortex de g contient l'ensemble suivant: { f xtf i, xt, '., xzp-t ? 9, fr, p.2

, Conclusion

, Ajoutons qu'il est intéressant d'obtenir des résultats équivalents sur les opérateurs différentiels dans le cas de la désintégration des restrictions des représentations unitaires des groupes de Lie nilpotents

N. Enfin and . Comptons-revenir-sur-le-problème-du-cortex-Évoqué-dans-le-dernier-chapitre, Plus précisement, soit g une algèbre de Lie nilpotente et supposons que toutes les orbites coadjointes dans g* associées aux formes linéaires en position générale soient des variétés affines (ceci est le cas quand G est de pas 2) La question importante sera la suivante: est-ce que le cortex de g* est I'ensemble suivant: { f X;Ii, Xr,..,Xzpt ? e, fr,.., fro-, ? g*, il j=2p L x'ti:o' r? {2

, Lie g Il a été, prouvé que le cortex est contenu dans I'ensemble ci-dessus (Proposition III-5.4) mais pour I'inclusion réciproque nous n'avons pour le moment ni preuve ni contre-exemple

M. Cahen and J. Ludwig, nous laisse beaucoup d'espoir pour savoir si cette égalité est vraie ou faux. Cependant, malgré les difficultés énormes pour résoudre ce problème dans cette situation spéciale, on peut se demander quelle peut être la forme du cortex pour des algèbres de Lie dont le pas est supérieur à deux Lie groups whose coadjoint orbits are of dimension smaller or equal to two. Letters in Math physics' To appear' lll A. Baklouti.: Le Cortex en dimension six, Fascicule Y, pp.7-45, 1993.

A. Baklouti, On the Cortex of connected Simply connected Nilpotent Lie Groups Russian Journal of Mathematical Physics' To appear' t4l A Opérateur d'entrelacement des représentations monomiales des groupes de Lie nilpotents, Baklouti et J. Ludwig

A. Baklouti and J. Ludwig, LaDésintégration des Restrictions des Représentations unitaires des groupes de Lie nilpotents

M. Bekka and E. Kanuith, Ineducible representation of loccally compact group that can not be Hausdorff separated from the identity representation, J, Reine Angew, Mat, vol.385, pp.203-220, 1988.

J. Boidol, J. Ludwig, and D. Mûller, On infinitely small orbits, Studia Mathematica, vol.88, issue.1, 1988.
DOI : 10.4064/sm-88-1-1-11

I. Brown, dual topology of a nilpotent Lie group, Ann'Sci'Ecole Norm, pp.407-411, 1973.

L. Bibliographie-t9l, F. P. Corwin, and . Greenleaf, A canonical approach to multiplicity formulas for induced and restricted representations of nilpotent Lie groups, Communications on Pure and Applied Mathematics, vol.XLI, pp.1051-1088, 1988.

L. Corwin and F. P. Greenleaf, Spectral decomposition of invariant differential operators on certain nilpotent homogeneous spaces, Journal of Functional Analysis, vol.108, issue.2, pp.374-426, 1992.
DOI : 10.1016/0022-1236(92)90030-M

L. Corwin, F. P. Greenleaf, and G. Grelaud, Direct integral decompositions and multiplicities for induced representations of nilpotent Lie groups, Transactions of the American Mathematical Society, vol.304, issue.2, pp.601-622, 1988.
DOI : 10.1090/S0002-9947-1987-0911085-6

C. and F. P. Greenleaf, Commutativity of Invariant Differential Operators On nilpotent Homogeneous Spaces with finite Multiplicity, Communications on Pure and Applied Mathematics, vol.681, p.748, 1992.

L. Corwin and F. P. Greenleaf, Spectrum and multiplicities for restrictions of unitary representations in nilpotent Lie groups, Pacific Journal of Mathematics, vol.135, issue.2, 1988.
DOI : 10.2140/pjm.1988.135.233

J. Dixmier, Algèbres enveloppantes, Gauthier-Villars, 1974.

M. Duflo, Opérateurs différentiels invariants et homologie des algèbres de Lie (L appendice du cours à Tunis), 1983.

H. Fujiwara, Repr??sentations monomiales des groupes de Lie nilpotents, Pacific Journal of Mathematics, vol.127, issue.2, 1987.
DOI : 10.2140/pjm.1987.127.329

H. Fujiwara, Représentation monomiales des groupes de Lie résolubles exponentiels, dans "The orbit method in representation theory, pp.6-84, 1990.
DOI : 10.1007/978-1-4612-4486-8_3

H. Fujiwara and S. Yamagami, Certaines Repr??sentations Monomiales d'un Groupe de Lie R??soluble Exponentiel, Adv. st. Pure Math, vol.14, pp.153-190, 1988.
DOI : 10.1016/B978-0-12-525100-6.50009-6

H. Fujiwara, Sur les restrictions des représentation unitaires des groupes de Lie résolubles exponentiels, Invent. math, pp.647-654, 1991.
DOI : 10.1007/bf01245095

G. Grélaud, Une formule de Plancherel pour les espaces homogènes des groupes de Lie nilpotents

G. Grélaud, Sur les représentations des groupes de Lie résolubles, 1984.

G. Grélaud, On representations of simply connected nilpotent and solvable Lie groups. Prépublication no 76, 1993.

G. Grélaud, La formule de Plancherel pour les espaces homogènes des groupes de Heisenberg, J. reine angew. Math, vol.398, pp.92-100, 1989.

. Kaniuth, On the conjugation representation of a locally compact group, Mathematische Zeitschrift, vol.130, issue.2, pp.5-288, 1989.
DOI : 10.1007/BFb0067484

A. Kirillov, Unitary representations of nilpotent Lie groups, Uspekhi Mat, Nauk, vol.17, issue.4, pp.57-110, 1962.
DOI : 10.1070/rm1962v017n04abeh004118

H. Leptin and J. Ludwig, Unitary Representation Theory of Exponential Lie Groups De Gruyter Expositions, Mathematics 18
DOI : 10.1515/9783110874235

G. Lion, Integrales d???Entrelacement sur des Groupes de Lie Nilpotents et Indices de Maslov, Lect. Notes in Math, vol.587, pp.160-176, 1977.
DOI : 10.1007/BFb0087920

R. Lipsman, Orbital parameters for induced and restricted representations, Transactions of the American Mathematical Society, vol.313, issue.2
DOI : 10.1090/S0002-9947-1989-0930083-1

URL : http://www.ams.org/tran/1989-313-02/S0002-9947-1989-0930083-1/S0002-9947-1989-0930083-1.pdf

. Amer, Math. Soc, vol.313, pp.433-473, 1989.

R. Lipsman, The Plancherel formula for homogeneous spaces with polynomial spectrum, Pacific Journal of Mathematics, vol.159, issue.2, 1993.
DOI : 10.2140/pjm.1993.159.351

R. Lipsman, The Penny-Fujiwara Plancherel formula for abelian symmetric space and completely solvable homogeneous spaces, Pacific journal of Mathemathics, vol.151, issue.2, 1991.

R. Lipsman, Restricting Representations of Completely Solvable Lie Groups, Can, J. Math, vol.XLII, issue.5, pp.790-824, 1990.

J. Ludwig and H. Zahir, On the nilpotent * - Fourier transform, Letters in Mathematical Physics, vol.273, issue.2, pp.23-34, 1994.
DOI : 10.1007/BF00761419

J. Ludwig, On the behaviour of sequences in the dual of a nilpotent Lie group, Mathematische Annalen, vol.IV, issue.1, pp.239-257, 1990.
DOI : 10.1007/BF01446891

J. Ludwig, G. Rosenbaum, and J. Samuel, The elements of bounded trace in theC *-algebra of a nilpotent Lie group, Inventiones Mathematicae, vol.4, issue.28, pp.167-190, 1986.
DOI : 10.2140/pjm.1977.73.329

, Bibliographie

J. Ludwig, Good ideals in the group algebra of a nilpotent Lie group, Mathematische Zeitschrift, vol.22, issue.3, pp.195-210, 1978.
DOI : 10.1007/BF01214503

J. Ludwig, On the Hilbert-schmidt Semi-Norms of Lr of a nilpotent Lie group, Math. Lnn, vol.273, pp.383-395, 1986.

C. C. Moore and J. A. Wolf, Square integrable representations of nilpotent groups, Transactions of the American Mathematical Society, vol.185, pp.185-445, 1973.
DOI : 10.1090/S0002-9947-1973-0338267-9

URL : http://www.ams.org/tran/1973-185-00/S0002-9947-1973-0338267-9/S0002-9947-1973-0338267-9.pdf

L. Pukanszky, Leçons sur les représentations des groupes, 1967.

G. Ratcliff, Symbols and orbits for 3-step nilpotent Lie groups, Journal of Functional Analysis, vol.62, issue.1, pp.38-64, 1985.
DOI : 10.1016/0022-1236(85)90018-7

M. Vergne, Construction de sous-algèbres subordonnées à un élément du dual d'une algèbre de Lie résoluble, pp.173-175, 1970.

A. M. Vershik and S. I. Karpushev, Cohomology of groups in unitary representations, the neighbourhood of the identity, and conditionally positive definite functions, Mat. SB, vol.47, issue.2, 1984.

G. Warner, Harmonic analysis on semi-simple Lie groups