GAFA, Geom. funct. anal. Vol. 17 (2008) 2090 – 2112 1016-443X/07/062090-23 DOI 10.1007/s00039-007-0646-3 ONLINE FIRST: February 2008

c Birkh¨
auser Verlag, Basel 2008

GAFA Geometric And Functional Analysis

´ SERIE PRINCIPALE MODULO p DE GROUPES ´ REDUCTIFS p-ADIQUES Marie-France Vign´ eras

a Joseph Bernstein, en t´emoignage d’amiti´e, d’admiration et de reconnaissance `

1

Introduction

Soient p un nombre premier, E un corps commutatif de caract´eristique p et G un groupe r´eductif connexe d´eploy´e sur F . Choisissons un sousgroupe de Borel B de G de tore d´eploy´e maximal T et un caract`ere lisse λ : T (F ) → E ∗ , vu aussi comme un caract`ere de B(F ) par inflation. L’induite G(F ) lisse indB(F ) λ est appel´e une s´erie principale de G(F ). La repr´esentation de G(F )

Steinberg de G est le quotient de indB(F ) id par la somme des induites lisses G(F )

indQ(F ) id du caract`ere trivial de Q(F ) pour tout sous-groupe parabolique Q de G contenant B. Soit W le groupe de Weyl de G. Th´ eor` eme 1. La restriction d’une s´erie principale a` B(F ) est de longueur card(W ). Th´ eor` eme 2. La repr´esentation de Steinberg est irr´eductible et cuspidale. Th´ eor` eme 3. L’anneau des EG(F ) endomorphismes d’une s´erie principale est ´egal `a E, et tout EG(F )-homomorphisme entre des s´eries principales provenant de deux caract`eres distincts est nul. Pour G = GL(2) uniquement, ces r´esultats ´etaient essentiellement connus. Le th´eor`eme 1 est d´emontr´e par Berger [Be] en supposant F = Qp et E fini, les th´eor`emes 2 et 3 sont dus `a Barthel et Livne [BL]. Les trois th´eor`emes permettent d’obtenir la d´ecomposition des s´eries principales de GL(3, F ) et fournissent une troisi`eme d´emonstration rapide de la classification des repr´esentations de GL(2, F ) non supercuspidales (on dit aussi non supersinguli`eres) [V2]. Keywords and phrases: Steinberg representation, modulo p, reductive p-adic group, principal series, Borel subgroup AMS Mathematics Subject Classification: 11F70

Vol. 17, 2007

´ SERIE PRINCIPALE MODULO p

2091

R´ecemment, Colmez a construit une correspondance remarquable entre les repr´esentations p-adiques du groupe triangulaire B(Qp ) de GL(2, Qp ) et les (φ, Γ)-modules associ´es aux repr´esentations p-adiques du groupe de Galois de Qp . Utilisant les techniques de Colmez/Fontaine, Berger a montr´e que l’action naturelle de B(Qp ) sur l’espace Cc∞ (U (Qp ); E) des fonctions localement constantes `a support compact sur le radical unipotent U (Qp ) de B(Qp ), a` valeurs dans un corps fini E, est irr´eductible. Ce r´esultat se g´en´eralise aux groupes r´eductifs G de tout rang sur un corps local F diff´erent de Qp et `a tout E. C’est l’essence de cet article. Naturellement (φ, Γ) n’apparait plus... Cet article est inspir´e de l’article tr`es clair de Berger [Be] et des m´ethodes de Colmez [Co] pour d´emontrer l’irr´eductibilit´e des repr´esentations de Banach de GL(2, Qp ) construites par Breuil. Le cas G = GL(2) a ´et´e expos´e dans mon cours le 22 mars 2006 `a Chevaleret. Donnons un apercu de la d´emonstration des th´eor`emes. Notons U le radical unipotent de B, puis wo l’´el´ement le plus long de W , et enfin Uw = U ∩ w−1 wo−1 U wo w pour tout w ∈ W . La double classe B(F )wB(F ) est ´egale `a B(F )wUw (F ) [C]. D´ efinition 1. πw est la repr´esentation naturelle du groupe B(F ) sur Cc∞ (B(F )\B(F )wB(F ); E). Notons T le tore maximal de G contenu dans B et t+ ∈ T (F ) un element qui contracte strictement U (F ). eductible. Proposition 1. La restriction de πw au monoide Uw (F )tN + est irr´ Nous donnons deux d´emonstrations. L’une en passant au dual et l’autre directe. Nous donnons les deux car le passage au dual est un outil important. La non existence d’une mesure de Haar sur Uw (F ) a` valeurs dans E implique que l’espace des U (F )-coinvariants des repr´esentations πw de B(F ) pour w = 1, est nul. C’est la clef des trois th´eor`emes. G(F )

La s´erie principale indB(F ) λ admet une filtration B(F )-´equivariante de u w λ(t) = λ(wtw−1 ) pour t ∈ T (F ). La restriction quotients (πw ⊗w λ)w∈W o` `a B(F ) de la repr´esentation de Steinberg est πwo . La repr´esentation de G(F ) T (F ) sur les U (F )-coinvariants de indB(F ) λ est le caract`ere λ. Notons Qa , Qb les deux sous-groupes paraboliques maximaux de GL(3) contenant B, GL(3,F ) indQa (F ) idE , VQa = idE

´ M.-F. VIGNERAS

2092

GAFA

et id2 , St2 la repr´esentation triviale, de Steinberg, de GL(2, F ). Le produit tensoriel de la repr´esentation de Steinberg et d’un caract`ere s’appelle une repr´esentation sp´eciale. Notons Fq , I(1), H respectivement le corps r´esiduel de OF , le sousgroupe d’Iwahori de G(OF ) image inverse de B(Fq ) et la E-alg`ebre de Hecke de I(1). Nous avons test´e les trois th´eor`emes sur GL(3, F ): avec la description par Ollivier des I(1)-invariants des s´eries principales comme H-module [O1, 5.4], ils permettent d’obtenir la d´ecomposition des s´eries principales de GL(3, F ), et les I(1)-invariants de ses sous-quotients (sauf pour la repr´esentation de Steinberg). Mise en garde: Ollivier se restreint a` un caract`ere du tore non ramifi´e, mais en disant que les r´esultats sont valables pour tous les caract`eres. Th´ eor` eme 4. a) Les E-repr´esentations irr´eductibles de GL(3, F ) sousquotients des s´eries principales sont λ ◦ det , (λ ◦ det) ⊗ St , (λ ◦ det) ⊗ VQa , λ ◦ det) ⊗ VQb , GL(3,F )

(λ ◦ det) ⊗ indQb (F ) (λ1 ⊗ St2 ) , GL(3,F )

(λ ◦ det) ⊗ indQa (F ) (St2 ⊗λ3 ) ,

GL(3,F )

(λ ◦ det) ⊗ indQb (F ) (λ1 ⊗ id2 ) ,

GL(3,F )

(λ ◦ det) ⊗ indB(F ) F∗

GL(3,F )

(λ ◦ det) ⊗ indQa (F ) (id2 ⊗λ3 ) , (λ1 ⊗ id ⊗λ3 ) ,

→ E ∗ avec λ1 et λ3 non triviaux. pour tous les caract`eres λ, λ1 , λ3 : b) Les restrictions `a B(F ) de ces repr´esentations sont non isomorphes et de longueur finie, ´egale `a 1 pour les caract`eres ou les sp´eciales, 2 pour les V∗ , 3 pour les induites des sous-groupes paraboliques maximaux, 6 pour les s´eries principales. c) Les I(1)-invariants de ces repr´esentations sont des H-modules non isomorphes; ils sont simples et leur dimension est ´egale `a la longueur de la restriction a` B(F ) donn´ee en b), sauf peut-ˆetre pour les repr´esentations sp´eciales. Nous r´eduisons le th´eor`eme `a l’irr´eductibilit´e des deux repr´esentations GL(3,F ) VQa et de indQb(F ) (λ1 ⊗ St2 ), puis au fait qu’ils n’ont pas plus de I(1)invariants en caract´eristique p qu’en caract´eristique 0. Mˆeme si l’irr´eductibilit´e de la repr´esentation de Steinberg St est connue par le th´eor`eme 2, la question de savoir si StI(1) est de dimension 1 reste importante. Ceci a ´et´e d´emontr´e par Vasserot lorsque F est de caract´eristique p et par Grosse–Klonne pour GL(n, F ), sans hypoth`ese sur la caract´eristique de F , en utilisant l’immeuble de Bruhat–Tits.

´ SERIE PRINCIPALE MODULO p

Vol. 17, 2007

2

2093

Irr´ eductibilit´ e de πw

Liste de notations. F est un corps local non archim´edien d’anneau d’entiers OF d’id´eal maximal PF d’uniformisante pF de corps r´esiduel Fq de caract´eristique p, G est un groupe r´eductif d´eploy´e sur F distinct de son centre Z, T est un tore maximal d´eploy´e sur F de normalisateur N dans G, W = N/T est le groupe de Weyl, nw est un repr´esentant de w ∈ W dans N , B = T U est un sous-groupe de Borel de radical unipotent U et d’oppos´e − B = T U −, G = ∪w∈W Bnw B est la d´ecomposition de Bruhat, Φ est l’ensemble des racines, Φ+ celui des racines positives pour B, ∆ celui des racines simples. On suppose le syst`eme de racines r´eduit. wo est l’´el´ement le plus long de W , unique ´el´ement de W tel que wo (α) < 0 pour tout α ∈ ∆ [C, 2.2.11]. A α ∈ Φ est associ´e une reflexion sα ∈ W , α∨ : Gm → T (la coracine) d’image Tα et le morphisme uα : Ga → Uα tel que −1 tuα (?)t
t ∈ T,
= uα (α(t)?) pour U = α>0 Uα , T = Z α∈∆ Tα . − −1 Pour w ∈ W , Uw = U ∩ n−1 w U nw , Uwo w = U ∩ nw U nw , U = Uw Uwo w = Uwo w Uw , Uw ∩ Uwo w = {1} [C] 2.5.12. u sij = sαij Si w = si1 . . . sik est une expression r´eduite de w ∈ W o` pour αij ∈ ∆, les racines positives rendues n´egatives par w sont β1 , . . . , βk d´efinies par [C, 2.2.9]: β1 = αik , β2 = sik (αik−1 ), . . . , βk = sik sik−1 . . . si2 (αi1 ) et Uw = Uβ1 . . . Uβk avec unicit´e, chaque u ∈ Uw s’´ecrit uniquement u1 . . . uk avec u1 ∈ Uβ1 , . . . , uk ∈ Uβk [C, 2.5.16]. On a Uwo = U , U1 = {1}. Le groupe Uwo w est le produit des Uα pour les racines α > 0 telles que w(α) > 0. Bnw B = Bnw Uw d´ecomposition unique, chaque g ∈ Bnw B s’´ecrit uniquement g = bnw u avec b ∈ B, u ∈ Uw [C, 2.5.13]. Lemme 1. Soit w ∈ W et b ∈ B. Alors, nw ub = yw,b (u)nw jw,b (u) , yw,b (u) = w(t)nw v  n−1 w ∈ T Uwo w −1 ,

jw,b (u) = u ∈ Uw ,

pour t ∈ T , u, u , u ∈ Uw , v, v  ∈ Uwo w et b = tu v, t−1 utu v = v  u .

2094

´ M.-F. VIGNERAS

GAFA

Preuve. On a nw ub = ynw j avec y ∈ B, j ∈ Uw . Pour b = tu ∈ T Uw on a nw utu = w(t)nw t−1 utu , donc y = w(t), j = t−1 utu . Pour b = v ∈ Uwo w c’est moins simple. Il existe u ∈ Uw , v  ∈ Uwo w tels que uv = v  u , donc  nw uv = nw v  n−1 w nw u ,  donc y = nw v  n−1 w , j = u . Si α est une racine et β = w(α), alors α > 0, w(α) > 0 est ´equivalent a` β > 0, w−1 β > 0 donc

nw Uwo w n−1 w = Uwo w −1 . Lemme 2. Il existe t+ ∈ T (F ) tel que α(t+ ) ∈ PF pour toute racine positive α.
Preuve. t+ = α∈∆ α∨ (pF ) convient. On choisit un tel t+ ∈ T (F ). On dit que t+ contracte strictement U (F ) et que son inverse t− = t−1 + le dilate strictement.

Pour tout w ∈ W , les groupes tn+ Uw (OF )t−n + pour n ≥ 0 forment une suite strictement d´ecroissante d’intersection triviale, et les groupes n t−n + Uw (OF )t+ pour n ≥ 0 forment une suite strictement croissante d’union Uw (F ). ´finition 2. Soit E un anneau commutatif. On note πw la E-reDe pr´esentation lisse de B(F ) par translation a` droite sur l’espace Cc∞ (B(F )\B(F )nw B(F ), E) des fonctions localement constantes a` support a valeurs dans E. compact sur B(F )\B(F )nw B(F ) ` Lemme 3. La repr´esentation πw de B(F ) admet comme mod`ele le Emodule libre Cc∞ (Uw (F ), E) muni de l’action de g ∈ B(F ) d´efinie par   gf (?) = f jw,g (?) . Preuve. Utiliser la d´ecomposition unique Bnw B = Bnw Uw et poser φ(nw ?) = f (?) pour φ ∈ Cc∞ (B(F )\B(F )nw B(F ), E). Le Z-module Cc∞ (Uw (F ), Z) est libre [SS, Cor. 5]. a T (F )Uw (F ) est l’action naturelle La restriction ρw de πw ` tf (?) = f (t−1 ?t), uf (?) = f (?u) pour t ∈ T (F ), u ∈ Uw (F ), par le lemme 1. Exemple 1. π1 est la repr´esentation triviale de B(F ) et πwo est la repr´esentation naturelle de B(F ) sur Cc∞ (U (F ), E).

Vol. 17, 2007

´ SERIE PRINCIPALE MODULO p

2095

Th´ eor` eme 5. Lorsque E est un corps de caract´eristique p, un sous∞ egal espace W de Cc (Uw (F ), E) stable par le monoide tN + Uw (F ) est nul ou ´ `a Cc∞ (Uw (F ), E). Ma preuve initiale (donn´ee plus loin) se fait apr`es passage au dual. Henniart a vu que c’´etait inutile, en utilisant la propri´et´e suivante: Soit N un pro-p-groupe et E un corps commutatif de caract´eristique p; l’espace Cc∞ (N, E) est une repr´esentation lisse de N agissant par translation `a droite; l’espace des points fixes est de dimension 1, engendr´e par la fonction caract´eristique 1N . Toute sous-repr´esentation non nulle de Cc∞ (N, E) a un point fixe par N , donc contient 1N . Application: Soient E, W comme dans le th´eor`eme 5 et f ∈ W non nul. Le groupe Uw (F ) est l’union de ses sous-groupes ouverts compacts C; il existe donc un sous-groupe ouvert compact C de Uw (F ) tel que f ∈ Cc∞ (C, E). La propri´et´e pr´ec´edente appliqu´ee au pro-p-groupe C implique que W contient 1C . Il suffit alors d’appliquer le lemme 4 ci-dessous. Lemme 4. Pour tout anneau commutatif E et pour tout sous-groupe ouvert compact C de Uw (F ), la repr´esentation du monoide tN + Uw (F ) sur Cc∞ (Uw (F ), E) est engendr´ee par 1C . Preuve. Les sous-groupes ouverts Cn = tn+ Ct−n + pour n ≥ 0 forment un syst`eme fondamental de voisinages de 0 dans Uw (F ), et le EUw (F ) module engendr´e par 1Cn contient les translat´es 1Cn u pour tout u ∈ Uw (F ). 2.1 Passage au dual. Soit E un corps commutatif. Le groupe Uw (F ) est l’union de ses sous-groupes ouverts compacts. Fixons l’un d’entre eux que nous notons N . C’est un pro-p-groupe, limite projective de p-groupes finis Hn pour n ∈ N. L’espace C ∞ (N ; E) est naturellement contenu dans Cc∞ (Uw (F ), E) et la multiplication par la fonction caract´eristique 1N de ot´e dual, notons N est un projecteur Cc∞ (Uw (F ), E) → C ∞ (N ; E). Du cˆ ∞ resN µ la restriction a` C (N ; E) d’une forme lin´eaire µ sur Cc∞ (Uw (F ), E) et appelons, comme c’est classique, volume vol(N, µ) de N pour µ la valeur de µ on 1N . Le groupe B(F ) agit sur le dual Cc∞ (Uw (F ), E)’ par l’action contragr´ediente:     tµ, f = µ, f (t−1 ?t) , uµ, f = µ, f (?u−1 ) , pour µ ∈ Cc∞ (Uw (F ); E) , f ∈ Cc∞ (Uw (F ); E) et t ∈ T (F ), u ∈ Uw (F ). Le dual C ∞ (N ; E) muni du produit de convolution est une alg`ebre bien connue. Le produit de convolution de deux distributions µ, µ ∈ C ∞ (N ; E)

´ M.-F. VIGNERAS

2096

GAFA

est d´efini par µ ∗ µ , f = µ ⊗ µ , f (xy)

pour f ∈ C ∞ (N × N ; E) ,

via l’isomorphisme naturel C ∞ (N × N ; E) C ∞ (N ; E) ⊗E C ∞ (N ; E). Pour u ∈ N , le produit de convolution de µ et de δu−1 la “valeur en u−1 ” est µ ∗ δu−1 = uµ . Pour u, u ∈ N , on a δu ∗ δu
= δuu
. Comme 1N (xy) = 1N (x) ⊗ 1N (y), on a vol(N, µ∗µ ) = vol(N, µ) vol(N, µ ) et le volume de N d´efinit un morphisme de E-alg`ebres vol(N, ?) : C ∞ (N ; E) → E . ´finition 3. On appelle vol(N, ?) le morphisme d’augmentation de De C ∞ (N ; E) et son noyau l’id´eal d’augmentation. Dans un anneau A, un ´el´ement a est appel´e inversible s’il existe b ∈ A tel que ab = ba = 1. L’anneau A est dit local si ses ´el´ements non inversibles forment un id´eal `a gauche (ou a` droite ou bilat`ere, c’est ´equivalent). Th´ eor` eme 6. Soit E un corps commutatif de caract´eristique p et N = lim ←−n Hn une limite projective de p-groupes finis Hn pour n ∈ N. Muni du produit de convolution, C ∞ (N ; E) lim ←− E[Hn ] n

est un anneau local dont l’id´eal maximal est l’id´eal d’augmentation. Preuve. C’est bien connu et cela se d´emontre en utilisant [Se, IX §1 Cor.] et [L, II 2.2.3] comme en [L, II.22.2]. Corollaire 1. Une distribution µ ∈ C ∞ (N ; E) est inversible si et seulement si vol(N, µ) = 0. On munit E[Hn ] de la topologie discr`ete et C ∞ (N ; E) de la topologie de la limite projective. Lemme 5. Un sous-espace ferm´e de C ∞ (N ; E) stable par N est un id´eal `a droite de C ∞ (N ; E) . Preuve. Il est stable par convolution a` droite par δu pour tout u ∈ N , donc par produit a` droite par E[N ]. Comme E[N ] est dense dans lim ←−n E[Hn ], le sous-espace ´etant ferm´e est un id´eal `a droite. Lemme 6. La restriction `a N commute avec la translation `a droite par N ; elle ne commute pas avec t− mais resN (t− µ) ne d´epend que de resN µ pour

´ SERIE PRINCIPALE MODULO p

Vol. 17, 2007

2097

tout µ ∈ Cc∞ (Uw (F ); E) . On a: resN (uµ) = u(resN µ) pour u ∈ N , resN (t− µ) = t− (rest+ N t−1 µ) . +

t+ N t−1 +

⊂ N , la restriction `a t+ N t−1 Preuve. Comme + factorise par la restriction a` N . Soit f ∈ Cc∞ (N ; E). Pour u ∈ N , on a N u = N mais erent de N . Ceci donne: t−1 + N t+ contient et est diff´     resN (uµ), f = uµ, f 1N = µ, f (?u−1 )1N (?u−1 )     = µ, f (?u−1 )1N = resN µ, f (?u−1 ) .     −1 resN (t− µ), f = t− µ, f 1N = µ, f (t−1 + ?t+ )1N (t+ ?t+ )     −1 = µ, f (t−1 + ?t+ )1t+ N t−1 = rest+ N t−1 µ, f (t+ ?t+ ) . +

D´ efinition 4. On note ψ l’op´erateur de

+

C ∞ (N ; E)

d´efini par:

µ → resN (t− µ) = t− (rest+ N t−1 µ) . +

C’est l’analogue du ψ de la th´eorie des (φ, Γ)-modules. Adoptant la  notation int´egrale historique, on note resN µ, f = N f (x)dµ; alors   f (?)d(uµ) = f (?u−1 )dµ pour u ∈ N , N N   f (?)d(ψµ) = f (t−1 + ?t+ )dµ . N

t+ N t−1 +

Th´ eor` eme 7. Lorsque E est un corps de caract´eristique p, un id´eal `a droite non nul de C ∞ (N ; E) stable par ψ est ´egal `a C ∞ (N ; E) . Preuve. Soit Y un tel id´eal et µ ∈ Y non nul; il existe alors n ≥ 0 et u ∈ N ` droite, tel que vol(tn+ N t−n + u, µ) = 0. Comme Y est stable par translation a on peut supposer que u = 1. Comme Y est stable par ψ, il contient ψ n (µ) pour tout entier n ≥ 0. On a   vol N, ψ(µ) = vol(t+ N t−1 + , µ) donc vol(N, ψ n (µ)) = 0, et ψ n (µ) est inversible par le corollaire 1. Seconde d´emonstration du th´eor`eme 5. Soit W un sous-espace de Cc∞ (Uw (F ); E) stable par le monoide Uw (F )tN + et diff´erent de Cc∞ (Uw (F ); E). Nous allons montrer W = 0. Il existe un sous-groupe ouvert compact No de Uw (F ) tel que W ∩ Cc∞ (No ; E) est diff´erent de Cc∞ (No ; E). Ceci reste vrai pour tous les sous-groupes compacts N contenant No et W est l’union des W ∩ Cc∞ (N ; E) pour tous les N

´ M.-F. VIGNERAS

2098

GAFA

contenant No . L’orthogonal (W ∩ Cc∞ (N ; E))o de W ∩ Cc∞ (N ; E) dans Cc∞ (N ; E) est un sous-espace ferm´e non nul stable par N . Il est stable par ψ car l’orthogonal W o de W dans Cc∞ (Uw (F ); E) est stable par t− . Le th´eor`eme 7 implique que (W ∩ Cc∞ (N ; E))o = C ∞ (N ; E) . Ceci implique W ∩ Cc∞ (N ; E) = 0. Comme ceci est vrai pour tout N contenant No , on a W = 0.

3

Coinvariants de πw

E est un anneau commutatif de caract´eristique p. Proposition 2. Soit w ∈ W . L’espace des Uα (OF )-coinvariants de πw est nul, pour toute racine α > 0 telle que w(α) < 0. Preuve. On remplace πw par son dual. Si les Uα (OF )-coinvariants de πw sont non nuls alors les Uα (OF )-invariants du dual de πw sont non nuls. Pour toute fonction f : Φ+ → N qui est concave, i.e. pour a, b et a + b ∈ Φ+ ,

f (a + b) ≤ f (a) + f (b) on a le sous-groupe ouvert compact



Uw (OF , f ) :=

f (a)

Ua (PF

)

a∈Φ+ ,w(a)<0

quelque soit l’ordre dans lequel est rang´e le produit [BrT, 6.4.9]. La fonction constante f (a) = m est concave pour tout entier m ≥ 0 car m ≤ 2m. Posons  Ua (PFm ). Uw (OF , m) := a∈Φ+ ,w(a)<0

Soit µ une forme lin´eaire non nulle sur Cc∞ (Uw (F ); E). On choisit u ∈ Uw (F ) et m ≥ 1 tel que vol(uUw (OF , m), µ) = 0. Soit α une racine positive telle que w(α) soit n´egative. On consid`ere la fonction f : Φ+ → R ´egale `a m sur les racines positives a = α et telle que f (α) = m + 1 . Elle est concave car m + 1 ≤ 2m. L’union disjointe Uw (OF , m) = ∪x∈Uα (P m+1 )\Uα (P m ) Uw (OF , f )x . F

F

et l’additivit´e du volume impliquent l’´egalit´e     vol uUw (OF , f )x, µ . vol uUw (OF , m), µ = x

Le nombre de x est q, o` u q est l’ordre du corps r´esiduel de F .

´ SERIE PRINCIPALE MODULO p

Vol. 17, 2007

2099

Si µ ´etait invariante par translation a` droite par Uα (OF ), les volumes de uUw (OF , f )x seraient ´egaux pour tout x et vol(uUw (OF , m), µ) serait nul puisque la caract´eristique de E est p, ce qui est contraire `a l’hypoth`ese. Corollaire 2. Si w ∈ W et w = 1, les U (F )-coinvariants de πw sont nuls. Preuve. Par transitivit´e du foncteur des coinvariants. D´ efinition 5. Une repr´esentation de G(F ) est cuspidale si ses UQ (F )coinvariants sont nuls, pour tout sous-groupe parabolique Q de G distinct de G, de radical unipotent UQ . Une repr´esentation de B(F ) est cuspidale si cette propri´et´e est vraie lorsqu’elle a un sens, i.e. pour UQ ⊂ U . Lemme 7. Une repr´esentation de B(F ) ou de G(F ) est cuspidale si et seulement si ses Uα (F )-coinvariants sont nuls pour toute racine simple α. Preuve. C’est la preuve usuelle bas´ee sur la transitivit´e du foncteur des coinvariants. Un sous-groupe parabolique Q de G est conjugu´e `a un sousgroupe parabolique contenant B, donc on peut supposer que Q contient B. Alors Q = G est contenu dans un sous-groupe parabolique maximal Q = G; le radical unipotent de Q contient celui de Q . Il existe une unique racine simple α ∈ ∆ telle que le radical unipotent de Q est  Uβ U≥α = β≥α

Φ+ ;

o` u β ≥ α signifie que β − α ∈ donc UQ contient Uα . Par transitivit´e du foncteur des coinvariants, si les Uα (F )-coinvariants sont nuls, il en est de mˆeme des UQ (F )-coinvariants. Corollaire 3. La repr´esentation πwo de B(F ) est cuspidale. Preuve. Pour toute racine simple α on a wo (α) < 0.

4

Applications ` a la s´ erie principale

4.1 La B(F )-filtration. Soit E un anneau commutatif et soit V une E-repr´esentation lisse de T (F ) inflat´ee `a B(F ). Notons ≤ l’ordre (partiel) de Bruhat sur W [Ja, II 13.7]. Soient w, w
∈ W ; on a w ≤ w si et seulement si w s’obtient en supprimant certains ´el´ements d’une d´ecomposition r´eduite de w; cela ne d´epend pas du choix de la d´ecomposition r´eduite de w. Pour tout w ∈ W , on a 1 ≤ w ≤ wo . On choisit un ordre (total) sur W = {wo , w1 , . . . , 1}

´ M.-F. VIGNERAS

2100

GAFA

anti-compatible avec l’ordre de Bruhat: si w ≤ w alors w pr´ec`ede w . Il est bien connu que ∪w
≤w B(F )nw
B(F ) est ferm´e dans G(F ) pour tout w ∈ W ce qui permet de filtrer G(F ) par les ouverts compl´ementaires Xwo = B(F )nwo B(F ) ⊂ Xw1 = Xo ∪ B(F )nw1 B(F ) ⊂ · · · ⊂ X1 = G(F ) . La filtration induit une filtration B(F )-´equivariante de la repr´esentation G(F ) lisse induite indB(F ) V . w Pour tout w ∈ W , notons indX B(F ) V le sous-espace des fonctions de

G(F )

w indB(F ) V `a support dans l’ouvert Xw et pour φ ∈ indX B(F ) V , u ∈ Uw (F ), posons f (u) = φ(nw u) .

∞ w On obtient une application lin´eaire φ → f : indX B(F ) V → Cc (Uw (F ), V ). ∞ w Lemme 8. L’application φ → f : indX B(F ) V → Cc (Uw (F ), V ) est surjective et pour i > 0, induit une suite exacte   Xw Xwi ∞ 0 → indB(Fi−1 ) V → indB(F ) V → Cc Uwi (F ), V → 0 .

Preuve. Il suffit de v´erifier la surjectivit´e. Les m-i`emes groupes de congru ence Ua (PFm ) Km := a∈Φ

pour les entiers m ≥ 1, forment une suite d´ecroissante de sous-groupes ouverts compacts d’intersection triviale. On a pour tout u ∈ Uw (F ), B(F )nw uKm ∩ B(F )nw Uw (F ) = B(F )nw uNm o` u Nm est un sous-groupe ouvert compact de Uw (F ) et la suite (Nm )m≥1 est d´ecroissante d’intersection triviale. Pour u ∈ Uw (F ), v ∈ V , et un entier m assez grand tel que v soit invariant par le groupe B(F ) ∩ nw uKm (nw u)−1 , il existe une fonction dans G(F ) indB(F ) V nulle hors de B(F )nw uKm et ´egale `a v sur nw uKm . Son image est la fonction fm,u,v ∈ Cc∞ (Uw (F ), V ) nulle hors de uNm et ´egale `a v sur uNm . Les fonctions fm,u,v pour tout u, v, m engendrent le E-module Cc∞ (Uw (F ), V ). Lemme 9. Pour tout espace localement profini X, tout anneau commutatif E et tout E-module V , l’application lin´eaire naturelle Cc∞ (X, E) ⊗E V → Cc∞ (X, V ) est un isomorphisme.

´ SERIE PRINCIPALE MODULO p

Vol. 17, 2007

2101

∞ Preuve. Ceci r´esulte de ce que

tout ´el´ement de Cc (X, E) ⊗E V s’´ecrit comme une somme finie f = N,v 1N ⊗ v pour des ouverts compacts disjoints N de X et des v ∈ V , et l’image de 1N ⊗ v est la fonction ´egale `a v sur N et nulle hors de N .

Notons w V l’inflat´ee `a B(F ) de la repr´esentation de T (F ) d’espace V sur lequel t ∈ T (F ) agit par ? → w(t)?, et Proposition 3. ´equivariante

G(F )

La repr´esentation indB(F ) V admet la filtration B(F ) Xw

X

G(F )

wo 1 0 ⊂ indB(F ) V ⊂ indB(F ) V ⊂ · · · ⊂ indB(F ) V ,

de quotients πwo ⊗E

wo V,

πw 1 ⊗E

w1 V, . . . , V.

Preuve. Soit b = tu v ∈ B(F ) = T (F )Uw (F )Uwo w (F ) et u ∈ Uw (F ). Par le lemme 1 et le fait que U (F ) agisse trivialement sur V on a φ(nw ub) = w(t)φ(nw jw,b (u)) donc f (ub) = w(t)f (jw,b (u)). Lorsque E est un corps de caract´eristique p, les repr´esentations πw sont irr´eductibles pour tout w ∈ W par le th´eor`eme 5, donc le th´eor`eme 1 r´esulte de la proposition 3. 4.2 Induction parabolique. Soit Q un sous-groupe parabolique de G contenant B et soit E un anneau commutatif. Les sous-groupes paraboliques Q de G contenant B sont en bijection avec les parties ∆Q de ∆ [C, 2.1]; la partie ∆Q est l’ensemble des α ∈ ∆ u Q = LQ UQ est la d´ecomposition de telles que Uα est contenue dans LQ o` Levi de Q avec T ⊂ LQ et UQ le radical unipotent; l’intersection BQ = B ∩ LQ est un sous-groupe de Borel de LQ et ∆Q est l’ensemble des racines simples de LQ par rapport a` BQ [C, 2.6] 2.6; l’ensemble Φ+ Q des racines positives dans LQ est l’intersection de l’ensemble ΦQ des racines de LQ avec Φ+ ; le groupe de Weyl WQ ⊂ W de LQ est engendr´e par sα pour tout α ∈ ∆Q ; il param´etrise les doubles classes de Q modulo B (on note souvent Q = BWQ B) [C, 2.7.3]; on notera woQ l’´el´ement le plus long de WQ . ´finition 6. La partie DQ de W distingu´ee par Q est form´ee par les De ´el´ements w ∈ W tel que w−1 (∆Q ) ⊂ Φ+ . La partie DQ,f in de W finement distingu´ee par Q est form´ee par les ´el´ements w ∈ DQ tels que w−1 (∆ − ∆Q ) ⊂ Φ− . Exemple 2. L’unit´e de W appartient a` DQ . Pour Q = B, on a ∆B = ∅, DB = W, DB,f in = {wo }. Pour Q = G, on a ∆G = ∆, DG = DG,f in = {1}.

2102

´ M.-F. VIGNERAS

GAFA

Proposition 4. a) On a l’union disjointe G = ∪d∈DQ Qnd B. b) Pour d ∈ DQ , on a Qnd B = Qnd Ud (´ecriture unique). c) Si R est un groupe parabolique de G contenant Q, alors DR ⊂ DQ . d) DQ − DQ,f in = ∪R =Q DR , pour les sous-groupes paraboliques R de G contenant Q et distincts de Q. e) pour w ∈ DQ on a LQ ∩ Uwo w−1 = LQ ∩ U . Preuve. a) DQ est un ensemble de repr´esentants de WQ\W et de Q\G/B [C, 2.8.1]. Chaque morceau Qnw B est une union disjointe ∪v∈WQ Bnvw B. b) Soit w ∈ DQ . Comme Bnw B = Bnw Uw , a fortiori Qnw B = Qnw Uw ; le groupe Uw est le produit des Uβ pour les racines β ∈ Φ+ rendues n´egatives −1 par w, et nw Uβ n−1 w = Uw(β) . Donc nw Uw nw ∩ Q est le produit des Uw(β) pour tout β > 0, w(β) < 0, w(β) ∈ Φ− Q ; mais comme w ∈ DQ on −1 − a w w(β) ∈ Φ , contradiction. Donc nw Uw n−1 w ∩ Q est trivial. c) On a Q ⊂ R si et seulement si ∆Q ⊂ ∆R . d) Soit R contenant Q et distinct de Q; il existe α ∈ ∆R − ∆Q ; aucun ´el´ement w ∈ DR n’est contenu dans DQ,f in car w−1 (α) > 0. Inversement soit w ∈ DQ − DQ,f in ; il existe α ∈ ∆ − ∆Q tel que w−1 (α) > 0 donc w ∈ DR pour ∆R = ∆Q ∪ α. −1 e) pour w ∈ DQ et α ∈ Φ+ Q on a w (α) > 0. L’ordre total sur W induit un ordre total sur l’ensemble distingu´e DQ = {do , . . . , 1} anticompatible avec l’ordre de Bruhat (si di ≤ dj alors i ≥ j) tel que G(F ) est filtr´e par les ouverts XQ,do = Q(F )ndo B(F ) ⊂ XQ,d1 = XQ,do ∪ Q(F )nd1 B(F ) ⊂ . . . . Soit V une E-repr´esentation lisse de LQ (F ) inflat´ee `a Q(F ). On note la repr´esentation de B(F ) sur V triviale sur U (F ) sur laquelle t ∈ T (F ) agit comme w(t).

wV

G(F )

Proposition 5. La repr´esentation induite lisse indQ(F ) V de G(F ) admet une filtration B(F )-´equivariante param´etr´ee par w ∈ DQ . L’action de T (F )Uw (F ) sur le quotient associ´e `a w ∈ DQ est isomorphe `a celle sur πw ⊗ w V . Si l’action de (U ∩ L)(F ) sur V est triviale, l’action de B(F ) sur le quotient associ´e `a w ∈ DQ est isomorphe `a πw ⊗ w V . Preuve. Comme dans la proposition 3 dans le cas B = Q, la repr´esentation G(F ) indQ(F ) V de G(F ) admet une filtration B(F )-´equivariante canonique param´etr´ee par DQ . Par la proposition 4 et le lemme 1, le quotient de la

Vol. 17, 2007

´ SERIE PRINCIPALE MODULO p

2103

filtration associ´e `a w ∈ DQ est Cc∞ (Uw (F ), V ) muni de l’action de B(F ) donn´ee par les formules:  b.f (u) = w(t)nw v  n−1 w f (u ) ,

b = tu v ,

t−1 utu v = v  u ,

pour u, u , u ∈ Uw (F ), v, v  ∈ Uwo w (F ), f ∈ Cc∞ (Uw (F ), V ). En particulier, tu .f (u) = w(t)f (t−1 utu ) ,

 v.f (u) = nw v  n−1 w f (u ) ,

uv = v  u .

Corollaire 4. Soit w ∈ DQ . Les coinvariants de Cc∞ (Uw (F ), V ) par Uα (F ) sont nuls pour toute racine α > 0 telle que w(α) < 0. Preuve. Appliquer la proposition 2 aux coinvariants de πw ⊗ V w . D´ efinition 7. La E-repr´esentation StQ E de G(F ) est le quotient G(F )

StQ E

=

indQ(F ) idE G(F )

.

R =Q indR(F ) idE

pour tous les sous-groupes paraboliques R de G contenant Q et distincts de Q. On d´eduit de la proposition 5: a B(F ) admet une filtration de Proposition 6. La restriction de StQ E ` sous-quotients isomorphes `a πw pour w ∈ DQ,f in . Corollaire 5. Le E-module StQ E est libre. Preuve. Les E-modules πw sont libres pour tout w ∈ W (lemme 3). esentation trivLa E-repr´esentation de Steinberg StE est StB E , la E-repr´ G iale est StE . Corollaire 6. La restriction de StE `a B(F ) est isomorphe `a πwo . Lorsque E est un corps commutatif de caract´eristique p, on en d´eduit le th´eor`eme 2 puisque πwo est irr´eductible et cuspidale. La repr´esentation de Steinberg est-elle l’unique prolongement de la repr´esentation irr´eductible πwo de B(F ) a` G(F ) ? 4.3 Pas d’entrelacement. Soient E un anneau commutatif de caract´eristique p et V une E-repr´esentation lisse de T (F ) inflat´ee `a B(F ). Th´ eor` eme 8. La repr´esentation de B(F ) sur l’espace des U (F )-coinvariants G(F ) de indB(F ) V est isomorphe `a V .

´ M.-F. VIGNERAS

2104

GAFA

Preuve. Utilisons la filtration B(F )-´equivariante de la proposition 3 o` u les w repr´esentations V de B(F ) sont triviales sur U (F ) pour tout w ∈ W . Soit G(F ) µ une forme lin´eaire U (F )-invariante non nulle sur indB(F ) V . Sa restriction o `a πwo ⊗ wo V = indX B(F ) V est nulle car les coinvariants de πwo par U (F ) sont

w1 1 nuls par le corollaire 2; sa restriction a` indX B(F ) V se factorise par πw1 ⊗ V , donc si w1 = 1 elle est nulle par le corollaire 2; elle se factorise par le dernier quotient V trivial sur U (F ).

Corollaire 7. Soient V, V  deux E-repr´esentations lisses de T (F ) inflat´ee `a B(F ). On a   G(F ) G(F ) HomEG(F ) indB(F ) V, indB(F ) V  = HomET (F ) (V, V  ) . Preuve. L’induction est l’adjointe a` droite de la restriction. On en d´eduit le th´eor`eme 3.

5

Invariants par le pro-p-Iwahori I(1)

E est un anneau commutatif. ´finition 8. L’Iwahori est l’image inverse de B(Fq ) dans G(OF ). Le De pro-p-Iwahori I(1) est l’image inverse de U (Fq ) dans G(OF ). L’alg`ebre de Hecke de I(1) est  H = EndEG(F ) E I(1)\G(F ) . Notons V I(1) l’espace des I(1)-invariants d’une E-repr´esentation lisse V de G(F ); c’est un H-module `a droite. On s’int´eresse aux I(1)-invariants car ils fournissent l’un des rares outils utiles pour montrer l’irr´eductibilit´e d’une repr´esentation non nulle V de G(F ) sur un corps E de caract´eristique p: V I(1) est toujours non nul; on en d´eduit que si V est engendr´e par V I(1) et si V I(1) est un H-module simple, alors V est irr´eductible [V1, Crit. 4.5]. Soit Q un sous-groupe parabolique de G contenant B. L’ensemble (nd )d∈DQ forme un syst`eme de repr´esentants des doubles classes de G(F ) modulo (Q(F ), B(F )) par la proposition 4; ceci reste vrai pour les doubles classes modulo (Q(F ), I) ou modulo (Q(F ), I(1)). Proposition 7. On a la d´ecomposition disjointe en ouverts G(F ) = ∪d∈DQ Q(F )nd I = ∪d∈DQ Q(F )nd I(1). Preuve. [BrT] Proposition 8. Q(F )nd I ⊂ ∪d
∈D

Q
Q Q ,wo d wo ≤wo dwo

Q(F )nd
B(F ).

Vol. 17, 2007

´ SERIE PRINCIPALE MODULO p

2105

Ceci r´esulte de l’´egalit´e Q(F )nd IB(F ) = Q(F )nd U (PF )B(F ) et des deux lemmes suivants qui utilisent les trois propri´et´es fondamentales de la longueur de W et celle de l’ordre de Bruhat: (1) (ud) = (u) + (d) pour tout u ∈ WQ et d ∈ DQ [C, 2.3.3]. (2) (w) + (wwo ) = (w−1 ) + (wwo ) = (wo ) pour tout w ∈ W . (3) Bns Bnw B = Bnw B∪Bnsw B ou Bnsw B pour tout s ∈ W de longueur 1 et tout w ∈ W selon que (sw) = (w)−1 ou (w)+1 [C, 1.10, 2.1.3]. (4) w ≤ w si et seulement si nw
appartient a` la clˆoture Bnw B de Bnw B [C, 1.10]. Lemme 10. Soient d, d ∈ DQ et u ∈ WQ . a) woQ dwo appartient a` DQ . b) (d) < (d ) est ´equivalent a` (woQ dwo ) > (woQ d wo ) et (d) = (d ) est ´equivalent a` (woQ dwo ) = (woQ d wo )). c) d ≤ d est ´equivalent a` ud ≤ woQ d. d) woQ d wo < woQ dwo implique (d ) > (d). Preuve. L’´el´ement de longueur maximale dans WQ d est woQ d par (1) et l’´element de longueur minimale dans WQ dwo est woQ dwo par (2). Donc woQ dwo appartient a` DQ . Par (1) (d) < (d ) est ´equivalent a` (woQ d) < (woQ d ) et par (2) `a (woQ dwo ) > (woQ d wo ). Mˆeme argument pour l’´egalit´e. oture de BnwoQ B est Enfin Bnud
B = Bnu Bnd
B par (1) et (3) et la clˆ Q par (4). Ceci implique que la clˆ oture de BnwQ d B = BnwQ Bnd B est o o Qnd B; il est clair que Bnu Bnd
B ⊂ Qnd B est ´equivalent a` nd
∈ Qnd B. Donc ud ≤ woQ d si et seulement nd
∈ Qnd B, si et seulement s’il existe u ∈ WQ such that u d ≤ d. Ceci est ´equivalent a` d ≤ d par (1). Si woQ d wo < woQ dwo alors (woQ d wo ) < (woQ dwo ) et (d ) > (d) par b). Lemme 11. Qnd U B est contenu dans ∪d
∈D ,wQ d
wo ≤wQ dwo Qnd
B pour Q o o tout d ∈ DQ . Preuve. Pour tout w ∈ W , on a Qnw U B = Qnw nwo U nwo B = Qnwwo Bnwo B et par induction sur la longueur de wwo ∈ W on d´eduit de (3) Bnwwo Bnwo B ⊂ ∪v∈W,v≤wwo Bnvwo B. Soit v ∈ W . On a vwo = uwoQ d wo avec d ∈ DQ , u ∈ WQ . La condition v ≤ dwo , ´equivalente `a uwoQ d wo ≤ d, est ´equivalente `a d ≤ woQ dwo par le

´ M.-F. VIGNERAS

2106

GAFA

lemme 10 a) et c). L’inclusion pr´ec´edente implique Qndwo Bnwo B ⊂ ∪d
≤wQ dwo QnwQ d
wo B. o

On termine en appliquant l’involution

o

woQ d wo

→ d de DQ .

Corollaire 8. Q(F )ndo I = Q(F )ndo B pour do = woQ wo . Soit E un anneau commutatif et V une E-repr´esentation lisse de Q(F ). Lemme 12. La valeur en (nd )d∈DQ induit une bijection G(F )

(indQ(F ) V )I(1) ⊕d∈DQ V I(1)d o` u I(1)d := I(1) ∩ n−1 d I(1)nd . Preuve. Par la proposition 7, on a une somme directe I(1)-´equivariante G(F )

Q(F )nd I(1)

indQ(F ) V = ⊕d∈DQ indQ(F )

V.

Proposition 9. Soient E un corps commutatif de caract´eristique p et G(F ) λ un E-caract`ere de Q(F ). Alors le E-espace vectoriel (indQ(F ) V )I(1) de G(F )

dimension |DQ | engendre indQ(F ) λ comme repr´esentation de B(F ). Preuve. Pour tout entier r ≥ 1 consid´erons l’ensemble W≥r des ´el´ements G(F ) de indQ(F ) V de support dans l’ouvert ∪d∈DQ ,(d)≥r Q(F )nd B(F ). Mˆeme d´efinition pour l’in´egalit´e stricte. La proposition 8, le lemme 10 d), la proposition 4 et l’irr´eductibilit´e de πw restricted to T (F )Uw (F ) impliquent EB(F )fd , W≥r = W>r + d∈DQ ,(d)=r Q(F )nd I(1)

o` u fd ∈ indQ(F )

λ satisfies f (nd ) = 1. Par induction sur r croissant, G(F ) EB(F )fnd . indQ(F ) λ = d∈DQ G(F )

Remarque 1. By [SS, cor. 9’], la repr´esentation de G(F ) sur indQ(F ) λ est engendr´ee par fn1 (la r´ef´erence suppose G = GL(n) et λ trivial). G(F )

Les I(1)-invariants de indQ(F ) idE sont aussi les I-invariants. Il en est de mˆeme pour les repr´esentations StQ E. Remarque 2. Tr`es probablement, pour tout sous-groupe parabolique Q de G :

´ SERIE PRINCIPALE MODULO p

Vol. 17, 2007

2107

I 1) (StQ E ) est un E-module libre de rang Card(DQ,f in ). 2) Lorsque E est un corps de caract´eristique p, la repr´esentation StQ E est irr´eductible.

1) est bien connu et r´esulte de la proposition 10 ci-dessous, pour un corps de caract´eristique diff´erente de p. Lorsque Q est un sous-groupe parabolique maximal, c’est la proposition 11 ci-dessous. La combinatoire des autres cas reste `a faire. 2) en caract´eristique 0 est d´emontr´e dans [BoW]; il avait ´et´e annonc´e auparavant sans d´emonstration par Casselman. C’est la g´en´eralisation naive de l’irr´eductibilit´e de la repr´esentation de Steinberg (th´eor`eme 2). Pour G = GL(3), on le d´eduit de la proposition 11 et de la classification des modules simples de l’alg`ebre de Hecke de l’Iwahori [O2]. 1) et 2) viennent d’ˆetre montr´es par Grosse–Klonne pour les repr´esentations StQ E “harmoniques” lorsque G = GL(n, F ), en utilisant la combinatoire de l’immeuble de Bruhat–Tits. Proposition 10. Si E est un corps, G(F )



(indQ(F ) id)I

R⊃Q,R =Q

G(F )

(indR(F ) id)I

est de dimension Card(DQ,f in ). Preuve. Soit f la fonction qui associe `a chaque partie ∆Q de ∆ la dimension du quotient, et φ celle qui associe a` ∆Q la dimension du num´erateur. Notons nQ le nombre d’´el´ements de ∆Q . Alors f (∆R ) , φ(∆Q ) = ∆R ⊃∆Q

et par le principe d’inclusion-exclusion [J, 8.6], (−1)nR −nQ φ(∆R ) . f (∆Q ) = ∆R ⊃∆Q

Par la proposition 9, on a φ(∆Q ) = card(DQ ) donc f (∆Q ) = card(DQ,f in ) , comme pour la longueur de la restriction a` B(F ) (propositions 5, 6). I Proposition 11. Si Q est un sous-groupe parabolique maximal, (StQ E) est un E-module libre de rang Card(DQ,f in ) = |W/WQ | − 1, pour tout anneau commutatif E.

´ M.-F. VIGNERAS

2108

GAFA

Preuve. La preuve de Barthel–Livne pour GL(2) s’´etend [V1, 4.4]. Par G(F ) d´efinition StQ E est le quotient de indQ(F ) id par les fonctions constantes. G(F )

Soit f ∈ indQ(F ) id dont l’image dans StQ E est invariante par I. Il existe une fonction a : I → E telle que f (gi) = f (g) + a(i) pour tout g ∈ G(F ), i ∈ I. On veut montrer que cette fonction a est nulle. Ceci provient des propri´et´es a(i1 i2 ) = a(i1 ) + a(i2 ) et a(i) = 0 s’il existe g ∈ G(F ) tel que gig−1 ∈ Q(F ). Donc a(i) = 0 sur le sous-groupe de I engendr´e par Q(F )∩I et par wo Q(F )wo ∩ I. La d´ecomposition d’Iwahori de I implique alors que G(F ) I I a(i) = 0 pour tout i ∈ I. Donc (StQ E ) est le quotient de (indQ(F ) id) G(F )

par les fonctions constantes. Le E-module (indQ(F ) id)I est libre de base

(fnd )d∈DQ et d∈DQ fnd est une base des fonctions constantes.

6

GL(2, F )

Soit E un corps commutatif de caract´eristique p. La d´ecomposition des s´eries principales de GL(2, F ) r´esulte des th´eor`emes 1, 2, et 3; la preuve est donn´ee dans [V2]. GL(2,F )

Th´ eor` eme 9. a) La repr´esentation indB(F ) 1E est ind´ecomposable de longueur 2, contient la repr´esentation triviale, a pour quotient la repr´esentation de Steinberg. GL(2,F ) La s´erie principale indB(F ) (λ1 ⊗ λ2 ) est irr´eductible, si les caract`eres λ1 , λ2 : F ∗ → E ∗ sont distincts. b) Les repr´esentations irr´eductibles sous-quotients des s´eries principales sont: λ ◦ det , (λ ◦ det) ⊗ StE , (λ ◦ det) ⊗ indG B (λ1 ⊗ id) , pour tous les caract`eres λ, λ1 : F ∗ → E ∗ avec λ1 non trivial. c) Les repr´esentations irr´eductibles en b) ont des restrictions `a B(F ) non isomorphes, et leurs I(1)-invariants sont des H-modules simples non isomorphes. d) Pour les repr´esentations irr´eductibles de b), la dimension des I(1)invariants est ´egale `a la longueur de la restriction a` B(F ); ce nombre est 1 pour les caract`eres et les repr´esentations de Steinberg, et 2 pour les s´eries principales. Remarque 3. Une repr´esentation irr´eductible supersinguli`ere de GL(2, Qp ) ne v´erifie pas d), car la restriction `a B(F ) est irr´eductible [Be], et les I(1)invariants forment un H-module simple de dimension 2 [V1].

´ SERIE PRINCIPALE MODULO p

Vol. 17, 2007

7

2109

GL(3, F )

Soit E un corps commutatif de caract´eristique p. Nous allons d´ecrire les sous-quotients irr´eductibles des s´eries principales de GL(3, F ) en utilisant la classification des modules simples de la E-alg`ebre du pro-p-Iwahori par Ollivier [O1,2]. Notons a, b les deux racines simples de GL(3) et Qa , Qb les deux sousgroupes paraboliques maximaux de GL(3) telles que ∆Qa = {a}, ∆Qb = {b}, de sous-groupes de Levi La = GL(2) × GL(1) et Lb = GL(1) × GL(2) diagonalement plong´es. Notons λ : F ∗ → E ∗ un caract`ere lisse. En faisant le produit tensoriel par un caract`ere λ ◦ det, et en utilisant la sym´etrie entre a, b, on se ram`ene `a trois types de s´eries principales: GL(3,F )

a) indB(F ) (λ1 ⊗ id ⊗λ3 ) avec λ1 , λ3 non trivial. On sait qu’elle est irr´eductible, que ses I(1)-invariants sont de dimension 6 et forment un H-module simple par [O1, 5.4]. GL(3,F ) b) indB(F ) id. Elle contient le caract`ere trivial et admet pour quotient la repr´esentation de Steinberg qui est irr´eductible par le th´eor`eme 2; GL(3,F ) GL(3,F ) il reste `a semi-simplifier indQa (F ) id et indQb (F ) id et par sym´etrie GL(3,F )

a uniquement indQa (F ) id, ou plutot son quotient VQa = StQ E par le caract`ere trivial. GL(3,F ) c) indB(F ) (λ ⊗ id ⊗ id) pour λ non trivial. La sous-repr´esentation

GL(3,F )

indQ (F ) (λ ⊗ id2 ) est irr´eductible, ses I(1)-invariants sont de dimenb sion 3 et forment un H-module simple [O1, 5.4]. La d´ecomposition de la s´erie principale pour GL(2, F ) montre que le quotient par cette GL(3,F ) sous-repr´esentation est indQb (F ) (λ ⊗ St2 ). On va montrer l’irr´eductibilit´e des repr´esentations de GL(3, F ), GL(3,F )

VQ a = GL(3,F )

indQa (F ) id

indQb (F ) (λ ⊗ St2 ) =

, id GL(3,F ) indB(F ) (λ ⊗ id ⊗ id) GL(3,F )

indQb (F ) (λ ⊗ id2 )

,

pour λ non trivial; ceci terminera la semi-simplification des s´eries principales, i.e. la partie a) du th´eor`eme 4. Elles sont engendr´ees par leur I(1)-invariants, car ce sont des quotients de repr´esentations ayant cette propri´et´e par la proposition 9. Il suffit de montrer que leurs I(1)-invariants sont des H-modules simples. Comme ils contiennent respectivement les

´ M.-F. VIGNERAS

2110

GAFA

H-sous-modules non nuls GL(3,F )

M1 =

(indQa (F ) id)I(1) id GL(3,F )

Mλ =

(indB(F )

,

(λ ⊗ id ⊗ id))I(1)

GL(3,F )

(indQb (F ) (λ ⊗ id2 ))I(1)

,

qui sont simples [O1, 5.4], nous devons montrer qu’ils sont ´egaux `a ces I(1) sous-modules. Par la proposition 11, VQa = M1 . Par la proposition 9, Mλ est de dimension 3; Il faut donc montrer GL(3,F )

dimE (indQb (F ) (λ ⊗ St2 ))I(1) = 3 . Ceci r´esulte du fait que l’espace des I(1) ∩ Lb (F )-invariants de λ ⊗ St2 est de dimension 1 (proposition 11), du lemme 12 et de: Lemme 13. Pour tout d ∈ DQb we have I(1)d = I(1) ∩ Lb (F ). Preuve. Les racines positives sont a, b, a + b et le groupe de Weyl est W = {wo , sa sb , sb sa , sa , sb , 1} . L’´el´ement le plus long est wo = sb sa sb = sa sb sa . L’action de w ∈ W sur les racines positives est triviale pour w = 1, la multiplication par −1 pour w = wo , sa (a) = −a et sa permute b, a + b; sb (b) = −b et sb permute a, a + b, par sym´etrie. sb sa (a) = −a − b, sb sa (b) = sb (a + b) = a, sb sa (a + b) = −b; sa sb (b) = −a − b, sa sb (a) = b, sa sb (a + b) = −a par sym´etrie. wo (a) = −b, wo (b) = −a, wo (a + b) = −a − b. La partie distingu´ee par Qb est l’ensemble des w tels que w−1 (b) > 0, DQb = {sa sb , sa , 1} . L’´egalit´e des trois groupes Lb ∩ sa sb I(1)sb sa = Lb ∩ sa I(1)sa = Lb ∩ I(1) , provient de sa sb Ua Ub Ua+b sb sa = Ub U−a−b U−a ,

sa Ua Ub Ua+b sa = U−a Ua+b Ub .

Remarque 4. Les s´eries principales sont ind´ecomposables par le th´eor`eme 3; la d´ecomposition compl`ete des s´eries principales de GL(3, F ) (pas uniquement la semi-simplification) est claire dans chaque cas; elle est la mˆeme que celle de leurs I(1)-invariants en tant que H-modules [O1].

´ SERIE PRINCIPALE MODULO p

Vol. 17, 2007

2111

Remarque 5. Soit E un anneau commutatif. On peut d´efinir Va sur E. a B(F ) v´erifie la suite exacte La restriction de VQa ` 0 → πsb sa → VQa → πsb → 0 par la proposition 6, car la partie finement distingu´ee par Qa est DQa ,f in = {sb sa , sb }. Remarque 6. Soit E un anneau commutatif de caract´eristique p. L’espace des coinvariants de VQa par le radical unipotent de Qb (F ) est ´egal `a πsb , comme repr´esentation de B(F ). L’action de Lb sur πsb est isomorphe a` id ⊗ St2 . En effet, le radical unipotent de Qb est Usb sa = Ua Ua+b , et Uwo sb sa = Ub . Les coinvariants de πsb sa par Ua (F ) sont nuls par la proposition 2. Le groupe Ua (F )Ua+b (F ) = Uwo sb (F ) agit trivialement sur πsb par le lemme 3 car Ub normalises Ua Ua+b . L’espace des Ua (F )Ua+b (F )-coinvariants de VQa est donc ´egal `a πsb par la remarque 5 et l’exactitude a` droite du foncteur des coinvariants. On laisse en exercice la d´emonstration que l’action de Lb sur πb est id ⊗ St2 si E est un corps. Remarque 7. Soit E un corps commutatif de caract´eristique p. La remarque 6 fournit par adjonction une suite exacte GL(3,F )

0 → VQa → indQb (F ) (id ⊗ St2 ) → St → 0, de quotient la repr´esentation de Steinberg St de GL(3, F ). Fin de la preuve du th´eor`eme 4. La restriction au sous-groupe de Borel B(F ) des sous-quotients irr´eductibles de la s´erie principale, i.e. la partie b) du th´eor`eme 4, et la description de leurs invariants par le pro-p-groupe d’Iwahori I(1) comme module sur l’alg`ebre de Hecke H (sauf pour une repr´esentation sp´eciale), i.e. la partie c) du th´eor`eme 4, se font sans difficult´es. Pour b): irr´eductibilit´e de πwo pour la repr´esentation de Steinberg, remarque 5 pour les repr´esentations Va , Vb , proposition 3 pour les s´eries principales, proposition 5 pour les induites d’un caract`ere d’un sous-groupe G(F ) parabolique maximal. Pour indQb (F ) (λ1 ⊗ St2 ), on utilise la suite exacte G(F )

G(F )

G(F )

0 → indQb (F ) (λ1 ⊗ id2 ) → indB(F ) (λ1 ⊗ id ⊗ id) → indQb (F ) (λ1 ⊗ St2 ) → 0 . G(F )

Comme la longueur de la restriction a` B(F ) de indB(F ) (λ1 ⊗ id ⊗ id) est 6 G(F )

G(F )

et celle de indQb (F ) (λ1 ⊗ id2 ) est 3, celle de indQb (F ) (λ1 ⊗ St2 ) est 3. Par G(F )

sym´etrie, celle de indQa (F ) (St2 ⊗λ3 ) est 3.

2112

´ M.-F. VIGNERAS

GAFA

Pour c) : ceci r´esulte de b) et du fait que l’on a d´eja d´etermin´e la I(1)-invariants sauf pour une repr´esentation sp´eciale.

Bibliographie [BL]

L. Barthel, R. Livne, Irreducible modular representations of GL2 of a local field. Duke Math. J. 75 (1994), 261–292. [Be] L. Berger, Repr´esentations modulaires de GL(2, Qp ) et repr´esentations galosiennes de dimension 2, pr´epublication (2005). [BoW] A. Borel, N. Wallach, Continuous Cohomology, Discrete Subgroups and Representations of Reductive Groups, Princeton University Press, 2001. [Bou] N. Bourbaki, Groupes et alg`ebres de Lie, ch. 4,5,6, Hermann, 1968. [BrT] F. Bruhat, J. Tits, Groupes r´eductifs sur un corps local, Institut des Hautes Etudes Scientifiques 41 (1972). [C] R. Carter, Finite Groups of Lie Type, Wiley Interscience, 1985. [Co] P. Colmez, Une correspondance de Langlands locale p-adique pour les repr´esentations semi-stables de dimension 2, pr´epublication, 2004. [L] M. Lazard, Groupes analytiques p-adiques, Publications math´ematiques de l’IHES 26 (1965). [J] N. Jacobson, Basic Algebra, Freeman, New-York, 1974. [Ja] J.C. Jantzen, Representations of Algebraic Groups, Mathematical Surveys and Monographs, vol. 107, 2nd edition, AMS, 2003. [O1] R. Ollivier, Crit`ere d’irr´eductibilit´e pour les s´eries principales de GLn (F ) en caract´eristique p, A paraitre au J. of Algebra. [O2] R. Ollivier, Modules simples en caract´eristique p sur l’alg`ebre de Hecke du pro-p-Iwahori de GL3 (F ), A paraitre au J. of Algebra. [SS] P. Schneider, U. Stuhler, The cohomology of p-adic symmetric spaces, Invent. Math. 105 (1991), 47–122. [Se] J.-P. Serre, Corps locaux, Hermann 1968, deuxi`eme ´edition. [V1] M.-F. Vign´ eras, Representations modulo p of the p-adic group GL(2, F ), Compositio Math. 140 (2004), 333–358. [V2] M.-F. Vign´ eras, Repr´esentations lisses irr´eductibles de GL(2, F ), Notes de cours mars 2006.

Marie-France Vign´ eras, Institut de Math´ematiques de Jussieu, Universit´e de Paris 7-Denis Diderot, 2 place Jussieu 75251, Paris Cedex 05, France [email protected] Submitted: May 2006 Accepted: November 2006