2.1 Paires paraboliques

Soit $G$ le groupe des points réels d’un groupe algébrique connexe réductif défini sur $\mathbb{R}$. On fixe une involution de Cartan $\unicode[STIX]{x1D703}$ de $G$ et l’on note $K$ le sous-groupe des points fixes de $\unicode[STIX]{x1D703}$ : c’est un sous-groupe compact maximal de $G$. On suppose que $G$ et $K$ sont de même rang ; autrement dit, $G$ possède un sous-groupe de Cartan $T$ inclus dans $K$ et donc compact. On note $\mathfrak{t}_{0}$, $\mathfrak{k}_{0}$ et $\mathfrak{g}_{0}$ les algèbres de Lie respectives de $T$, $K$ et $G$, et $\mathfrak{t}$, $\mathfrak{k}$ et $\mathfrak{g}$ leur complexifiées. Les sous-algèbres paraboliques $\unicode[STIX]{x1D703}$-stables de $\mathfrak{g}$ sont obtenues de la manière suivante. On fixe un élément $\unicode[STIX]{x1D708}\in \sqrt{-1}\mathfrak{t}_{0}^{\ast }$, et l’on pose :

$$\begin{eqnarray}\displaystyle & \displaystyle \mathfrak{l}=\mathfrak{g}^{\unicode[STIX]{x1D708}}=\mathfrak{t}\oplus \left(\mathop{\bigoplus }_{\unicode[STIX]{x1D6FC}\in \unicode[STIX]{x1D6E5}(\mathfrak{g},\mathfrak{t}),\langle \unicode[STIX]{x1D708},\unicode[STIX]{x1D6FC}\rangle =0}\mathfrak{g}^{\unicode[STIX]{x1D6FC}}\right),\qquad \mathfrak{u}=\mathop{\bigoplus }_{\unicode[STIX]{x1D6FC}\in \unicode[STIX]{x1D6E5}(\mathfrak{g},\mathfrak{t}),\langle \unicode[STIX]{x1D708},\unicode[STIX]{x1D6FC}\rangle >0}\mathfrak{g}^{\unicode[STIX]{x1D6FC}}, & \displaystyle \nonumber\\ \displaystyle & \mathfrak{q}=\mathfrak{l}\oplus \mathfrak{u},\qquad L=\text{Norm}_{G}(\mathfrak{q}). & \displaystyle \nonumber\end{eqnarray}$$

Dans cet article, nous appellerons paire parabolique une paire $(\mathfrak{q},L)$ obtenue comme ci-dessus, avec $\mathfrak{q}$ sous-algèbre parabolique $\unicode[STIX]{x1D703}$-stable de $\mathfrak{g}$. Le sous-groupe $L$ de $G$ sera appelé $c$-Levi de $G$ (terminologie de Shelstad [Reference ShelstadShe15]).

On note ${\mathcal{R}}_{\mathfrak{q},L,G}^{i}$ le foncteur d’induction cohomologique de Vogan-Zuckerman (cf. [Reference VoganVog81, Section 6.3.1]) en degré $i$, de la catégorie des $(\mathfrak{l},K\cap L)$-modules vers la catégorie des $(\mathfrak{g},K)$-modules. Dans ce contexte, le degré qui nous intéresse particulièrement, et même exclusivement, est $S=\dim (\mathfrak{u}\cap \mathfrak{k})$, et dans l’article, nous écrirons ${\mathcal{R}}_{\mathfrak{q},L,G}^{S}$ sans préciser de nouveau ce qu’est $S$.

Si $\unicode[STIX]{x1D6EC}$ est un caractère unitaire de $L$, on note $\unicode[STIX]{x1D706}$ sa différentielle, que l’on voit comme un élément de $i\mathfrak{t}_{0}^{\ast }$. On pose alors $A_{\mathfrak{q}}(\unicode[STIX]{x1D6EC})={\mathcal{R}}_{\mathfrak{q},L,G}^{S}(\unicode[STIX]{x1D6EC})$. Si le groupe $L$ est connexe, $\unicode[STIX]{x1D706}$ détermine $\unicode[STIX]{x1D6EC}$ et l’on note alors cette représentation $A_{\mathfrak{q}}(\unicode[STIX]{x1D706})$.

Sous certaines conditions sur le caractère infinitésimal de la représentation $\unicode[STIX]{x1D70E}$ de $L$ que l’on induit, on a des résultats d’annulation, d’irréductibilité et d’unitarité des modules ${\mathcal{R}}_{\mathfrak{q},L,G}^{i}(\unicode[STIX]{x1D70E})$. Nous renvoyons à [Reference Knapp and VoganKV95] pour les définitions du (weakly) good range, du (weakly) fair range et des représentations faiblement unipotentes, pour lesquels on a les résultats suivants : dans le weakly good range, les modules ${\mathcal{R}}_{\mathfrak{q},L,G}^{i}(\unicode[STIX]{x1D70E})$ sont nuls si $i\neq S=\dim (\mathfrak{u}\cap \mathfrak{k})$. Si $\unicode[STIX]{x1D70E}$ est irréductible et dans le good range (resp. weakly good range), ${\mathcal{R}}_{\mathfrak{q},L,G}^{S}(\unicode[STIX]{x1D70E})$ est irréductible (resp. irréductible ou nul). Si $\unicode[STIX]{x1D70E}$ est unitaire et dans le weakly good range, ${\mathcal{R}}_{\mathfrak{q},L,G}^{S}(\unicode[STIX]{x1D70E})$ est unitaire. Si $\unicode[STIX]{x1D70E}$ est faiblement unipotente et dans le weakly fair range, alors les modules ${\mathcal{R}}_{\mathfrak{q},L,G}^{i}(\unicode[STIX]{x1D70E})$ sont nuls si $i\neq S$ et ${\mathcal{R}}_{\mathfrak{q},L,G}^{S}(\unicode[STIX]{x1D70E})$ est unitaire si $\unicode[STIX]{x1D70E}$ est de plus unitaire. En revanche, on n’a pas de résultat d’irréductibilité en général dans le weakly fair range, ni même dans le fair range.

2.2 Le groupe symplectique

On suppose $\mathbb{R}^{2n}$ (identifié à ${\mathcal{M}}_{2n,1}(\mathbb{R})$, les matrices colonnes) muni de sa forme symplectique usuelle, c’est-à-dire, si $X,Y\in \mathbb{R}^{2n}$,

$$\begin{eqnarray}(X|Y)=^{t}XJY\quad \text{où }J=\left(\begin{array}{@{}cc@{}}0_{n} & I_{n}\\ -I_{n} & 0_{n}\end{array}\right).\end{eqnarray}$$

Soit $G=\mathbf{Sp}(2n,\mathbb{R})$ le groupe des isomorphismes de $(\mathbb{R}^{2n},(.|.))$, que l’on munit de l’involution de Cartan $\unicode[STIX]{x1D703}:g\mapsto ^{t}g^{-1}$. Le sous-groupe de $G$ des points fixes sous $\unicode[STIX]{x1D703}$ est un sous-groupe compact maximal de $G$, que l’on note $K$, et qui est isomorphe au groupe unitaire $\mathbf{U}(n)$. On note $\mathfrak{g}_{0}$ et $\mathfrak{k}_{0}$ les sous-algèbres de Lie respectives de $G$ et $K$, réalisées comme sous-algèbres de Lie de ${\mathcal{M}}_{2n}(\mathbb{R})$. Pour tout $(a_{1},\ldots ,a_{n})\in \mathbb{R}^{n}$, on pose :

Alors $\mathfrak{t}_{0}:=\{t(a_{1},\ldots ,a_{n}),(a_{1},\ldots ,a_{n})\in \mathbb{R}^{n}\}$ est une sous-algèbre de Cartan de $\mathfrak{k}_{0}$ et aussi de $\mathfrak{g}_{0}$.

Notons $\mathfrak{g},\mathfrak{k}et\mathfrak{t}$ les complexifications des algèbres de Lie $\mathfrak{g}_{0},\mathfrak{k}_{0}et\mathfrak{t}_{0}$ respectivement. Soit $\unicode[STIX]{x1D6E5}(\mathfrak{g},\mathfrak{t})$ et $\unicode[STIX]{x1D6E5}(\mathfrak{k},\mathfrak{t})$ les systèmes de racines de $\mathfrak{g}$ et $\mathfrak{k}$ respectivement, relativement à la sous-algèbre de Cartan $\mathfrak{t}$. On a

$$\begin{eqnarray}\displaystyle & \unicode[STIX]{x1D6E5}(\mathfrak{g},\mathfrak{t})=\{\pm (e_{i}\pm e_{j}),1\leqslant i<j\leqslant n\}\cup \{\pm 2e_{i},1\leqslant i\leqslant n\}, & \displaystyle \nonumber\\ \displaystyle & \unicode[STIX]{x1D6E5}(\mathfrak{k},\mathfrak{t})=\{\pm (e_{i}-e_{j}),1\leqslant i<j\leqslant n\}, & \displaystyle \nonumber\end{eqnarray}$$

où $e_{i}\in \sqrt{-1}\,\mathfrak{t}_{0}^{\ast }\subset \mathfrak{t}^{\ast }$ est la forme linéaire $t(a_{1},\ldots ,a_{n})\mapsto \sqrt{-1}\,a_{i}$. On fixe les systèmes de racines positives

$$\begin{eqnarray}\displaystyle & \unicode[STIX]{x1D6E5}^{+}(\mathfrak{g},\mathfrak{t})=\{(e_{i}\pm e_{j}),1\leqslant i<j\leqslant n\}\cup \{2e_{i},1\leqslant i\leqslant n\}, & \displaystyle \nonumber\\ \displaystyle & \unicode[STIX]{x1D6E5}^{+}(\mathfrak{k},\mathfrak{t})=\{(e_{i}-e_{j}),1\leqslant i<j\leqslant n\}. & \displaystyle \nonumber\end{eqnarray}$$

On identifie $\mathfrak{t}^{\ast }$ et $\mathbb{C}^{n}$ grâce à la base $(e_{i})_{1\leqslant i\leqslant }$ de $\mathfrak{t}^{\ast }$, et de même pour $\mathfrak{t}$ grâce à la base duale. On note encore $\unicode[STIX]{x1D703}$ la différentielle de l’involution de Cartan de $G$, et l’on pose

$$\begin{eqnarray}\mathfrak{g}_{0}=\mathfrak{k}_{0}\stackrel{\unicode[STIX]{x1D703}}{\oplus }\mathfrak{p}_{0}\,;\qquad \mathfrak{g}=\mathfrak{k}\stackrel{\unicode[STIX]{x1D703}}{\oplus }\mathfrak{p}.\end{eqnarray}$$

On a alors

$$\begin{eqnarray}\displaystyle & \displaystyle \mathfrak{p}=\mathfrak{p}^{+}\oplus \mathfrak{p}^{-},\qquad \mathfrak{p}^{+}=\mathop{\bigoplus }_{1\leqslant i<j\leqslant n}\mathfrak{g}_{e_{i}+e_{j}}\oplus \mathop{\bigoplus }_{1\leqslant i\leqslant n}\mathfrak{g}_{2e_{i}}, & \displaystyle \nonumber\\ \displaystyle & \displaystyle \mathfrak{p}^{-}=\mathop{\bigoplus }_{1\leqslant i<j\leqslant n}\mathfrak{g}_{-e_{i}-e_{j}}\oplus \mathop{\bigoplus }_{1\leqslant i\leqslant n}\mathfrak{g}_{-2e_{i}}. & \displaystyle \nonumber\end{eqnarray}$$

On note $W$ le groupe de Weyl du système de racines $\unicode[STIX]{x1D6E5}(\mathfrak{g},\mathfrak{t})$. Il agit sur $\mathfrak{t}^{\ast }$, identifié comme expliqué ci-dessus à $\mathbb{C}^{n}$, par permutations et changements de signes des coordonnées. Via l’isomorphisme d’Harish-Chandra, le caractère infinitésimal d’une représentation de $G$ s’identifie à une $W$-orbite dans $\mathfrak{t}^{\ast }$. Nous ne considérerons que des caractères infinitésimaux entiers.

2.3 Paires paraboliques maximales et induction cohomologique

Dans ce paragraphe, $G=\mathbf{Sp}(2n,\mathbb{R})$ et l’on continue avec les notations du paragraphe précédent. Soit $(\mathfrak{q},L)$ une paire parabolique pour $G$, et l’on suppose que la sous-algèbre parabolique $\unicode[STIX]{x1D703}$-stable $\mathfrak{q}=\mathfrak{l}\oplus \mathfrak{u}$ est maximale. Une telle sous-algèbre est obtenue en prenant un élément de $\mathfrak{t}$ de la forme

$$\begin{eqnarray}t_{p,q}=(\underbrace{1,\ldots ,1}_{p},\underbrace{0,\ldots ,0}_{n-p-q},\underbrace{-1,\ldots ,-1}_{q})\end{eqnarray}$$

avec $p+q\leqslant n$. On pose alors

(2)$$\begin{eqnarray}\mathfrak{l}=\mathfrak{l}_{p,q}=\mathfrak{g}^{t_{p,q}}=\mathfrak{t}\oplus \left(\mathop{\bigoplus }_{\unicode[STIX]{x1D6FC}\in \unicode[STIX]{x1D6E5}(\mathfrak{g},\mathfrak{t})|\unicode[STIX]{x1D6FC}(t)=0}\mathfrak{g}_{\unicode[STIX]{x1D6FC}}\right),\qquad \mathfrak{u}=\mathfrak{u}_{p,q}=\mathop{\bigoplus }_{\unicode[STIX]{x1D6FC}\in \unicode[STIX]{x1D6E5}(\mathfrak{g},\mathfrak{t})|\unicode[STIX]{x1D6FC}(t)>0}\mathfrak{g}_{\unicode[STIX]{x1D6FC}}.\end{eqnarray}$$

Les racines de $\mathfrak{t}$ dans $\mathfrak{l}$ sont :

$$\begin{eqnarray}\begin{array}{@{}lr@{}}\pm (e_{i}-e_{j}), & 1\leqslant i<j\leqslant p\text{ ou }n-q+1\leqslant i<j\leqslant n,\\ \pm (e_{i}\pm e_{j}),\,\pm 2e_{i}, & p+1\leqslant i<j\leqslant n-q,\\ \pm (e_{i}+e_{j}), & 1\leqslant i\leqslant p\leqslant n-q+1\leqslant j\leqslant n.\end{array}\end{eqnarray}$$

On choisit comme système de racines positives :

$$\begin{eqnarray}\unicode[STIX]{x1D6E5}^{+}(\mathfrak{l},\mathfrak{t})=\left\{\begin{array}{@{}ll@{}}-(e_{i}-e_{j}), & 1\leqslant i<j\leqslant p,\\ e_{i}-e_{j}, & n-q+1\leqslant i<j\leqslant n\\ e_{i}-e_{j},-(e_{i}+e_{j}),-2e_{i}, & p+1\leqslant i<j\leqslant n-q\\ -(e_{i}+e_{j}), & 1\leqslant i\leqslant p\leqslant n-q+1\leqslant j\leqslant n\end{array}\right\}.\end{eqnarray}$$

On pose

$$\begin{eqnarray}\displaystyle \unicode[STIX]{x1D6FF}(\mathfrak{l})=\frac{1}{2}\mathop{\sum }_{\unicode[STIX]{x1D6FC}\in \unicode[STIX]{x1D6E5}^{+}(\mathfrak{l},\mathfrak{t})}\unicode[STIX]{x1D6FC} & = & \displaystyle \frac{1}{2} (\underbrace{-q-p+1,-q-p+3,\ldots ,-q+p-1}_{p},\nonumber\\ \displaystyle & & \displaystyle \underbrace{-2,-4,\ldots -2(n-p-q)}_{n-p-q},\nonumber\\ \displaystyle & & \displaystyle \underbrace{-p+q-1,\ldots ,-p-q+3,\ldots ,-p-q+1}_{q}).\nonumber\end{eqnarray}$$

Les racines de $\mathfrak{t}$ dans $\mathfrak{u}\cap \mathfrak{p}$ sont :

$$\begin{eqnarray}\begin{array}{@{}lr@{}}e_{i}+e_{j},2e_{i}, & 1\leqslant i<j\leqslant p\\ -e_{i}-e_{j},-2e_{i}, & n-q+1\leqslant i<j\leqslant n,\\ e_{i}+e_{j}, & 1\leqslant i\leqslant p<j\leqslant n-q\\ -e_{i}-e_{j}, & p+1\leqslant i\leqslant n-q<j\leqslant n.\end{array}\end{eqnarray}$$

Les racines de $\mathfrak{t}$ dans $\mathfrak{u}\cap \mathfrak{k}$ sont : $e_{i}-e_{j}$, $1\leqslant i\leqslant p<j\leqslant n$ ou $p+1\leqslant i\leqslant n-q<j\leqslant n$. On pose :

$$\begin{eqnarray}\displaystyle \unicode[STIX]{x1D6FF}(\mathfrak{u}\cap \mathfrak{p}) & = & \displaystyle \frac{1}{2}\mathop{\sum }_{\unicode[STIX]{x1D6FC}\in \unicode[STIX]{x1D6E5}(\mathfrak{u}\cap \mathfrak{p})}\unicode[STIX]{x1D6FC}=\frac{1}{2} (\underbrace{n-q+1,\ldots ,n-q+1}_{p},\nonumber\\ \displaystyle & & \displaystyle \underbrace{p-q,\ldots ,p-q}_{n-p-q},\underbrace{-n+p-1,\ldots -n+p-1}_{q}),\nonumber\\ \displaystyle \unicode[STIX]{x1D6FF}(\mathfrak{u}\cap \mathfrak{k}) & = & \displaystyle \frac{1}{2}\mathop{\sum }_{\unicode[STIX]{x1D6FC}\in \unicode[STIX]{x1D6E5}(\mathfrak{u}\cap \mathfrak{k})}\unicode[STIX]{x1D6FC}=\frac{1}{2} (\underbrace{n-p,\ldots ,n-p}_{p},\nonumber\\ \displaystyle & & \displaystyle \underbrace{-p+q,\ldots ,-p+q}_{n-p-q},\underbrace{-(n-q),\ldots -(n-q)}_{q}),\nonumber\\ \displaystyle \unicode[STIX]{x1D6FF}(\mathfrak{u}) & = & \displaystyle \unicode[STIX]{x1D6FF}(\mathfrak{u}\cap \mathfrak{p})+\unicode[STIX]{x1D6FF}(\mathfrak{u}\cap \mathfrak{k})\nonumber\\ \displaystyle & = & \displaystyle \frac{1}{2}(2n-p-q+1)(\underbrace{1,\ldots ,1}_{p},\underbrace{0,\ldots ,0}_{n-p-q},\underbrace{-1,\ldots ,-1}_{q}),\nonumber\\ \displaystyle \unicode[STIX]{x1D6FF}_{p,q} & = & \displaystyle \unicode[STIX]{x1D6FF}(\mathfrak{l})+\unicode[STIX]{x1D6FF}(\mathfrak{u})= (\underbrace{n-p-q+1,n-p-q+2,\ldots ,n-q}_{p},\nonumber\\ \displaystyle & & \displaystyle \underbrace{-1,-2,\ldots ,-(n-p-q)}_{n-p-q},\underbrace{-(n-q+1),-(n-q+2)\ldots ,-n}_{q})\!.\nonumber\end{eqnarray}$$

De plus, $L$ est isomorphe à $\mathbf{Sp}(2(n-p-q),\mathbb{R})\times \mathbf{U}(p,q)$. Nous allons considérer des induites cohomologiques à partir de cette paire $(\mathfrak{q},L)$ de la forme

(3)$$\begin{eqnarray}{\mathcal{R}}_{\mathfrak{q},L,G}^{S}(\unicode[STIX]{x1D70C}\boxtimes \unicode[STIX]{x1D6EC}),\end{eqnarray}$$

où $\unicode[STIX]{x1D6EC}$ est un caractère unitaire du facteur $\mathbf{U}(p,q)$ de $L$ et $\unicode[STIX]{x1D70C}$ une représentation du facteur $\mathbf{Sp}(2(n-p-q),\mathbb{R})$.

Le centre $\mathfrak{z}$ de $\mathfrak{l}$ est contenu dans $\mathfrak{t}$, de dimension $1$ et engendré par $t_{p,q}$. Soit

(4)$$\begin{eqnarray}\unicode[STIX]{x1D706}=(\underbrace{y,\ldots ,y}_{p},\underbrace{0,\ldots ,0}_{n-p-q},\underbrace{-y,\ldots ,-y}_{q})\end{eqnarray}$$

la différentielle de $\unicode[STIX]{x1D6EC}$. Le caractère infinitésimal de $\unicode[STIX]{x1D70C}\boxtimes \unicode[STIX]{x1D6EC}$ est donné par un élément $\unicode[STIX]{x1D708}$ de $\mathfrak{t}^{\ast }$ de la forme

$$\begin{eqnarray}\unicode[STIX]{x1D708}=(\underbrace{y,\ldots ,y}_{p},\underbrace{\ast ,\ldots ,\ast }_{n-p-q},\underbrace{-y,\ldots ,-y}_{q})+\unicode[STIX]{x1D6FF}(\mathfrak{l}).\end{eqnarray}$$

La condition pour que l’induction soit dans le weakly fair range est que pour tout $\unicode[STIX]{x1D6FC}\in \unicode[STIX]{x1D6E5}(\mathfrak{u},\mathfrak{t})$,

$$\begin{eqnarray}\langle \unicode[STIX]{x1D708}+\unicode[STIX]{x1D6FF}(\mathfrak{u}),\unicode[STIX]{x1D6FC}_{|\mathfrak{z}}\rangle \geqslant 0.\end{eqnarray}$$

Or pour un tel $\unicode[STIX]{x1D6FC}$, $\langle \unicode[STIX]{x1D6FF}(\mathfrak{l}),\unicode[STIX]{x1D6FC}_{|\mathfrak{z}}\rangle =0$, et donc la condition est, pour tout $\unicode[STIX]{x1D6FC}\in \unicode[STIX]{x1D6E5}(\mathfrak{u},\mathfrak{t})$,

$$\begin{eqnarray}y+\frac{1}{2}(2n-p-q+1)\langle (\underbrace{1,\ldots ,1}_{p},\underbrace{\ast ,\ldots ,\ast }_{n-p-q},\underbrace{-1,\ldots ,-1}_{q}),\unicode[STIX]{x1D6FC}_{|\mathfrak{z}}\rangle \geqslant 0.\end{eqnarray}$$

Cela est équivalent à $y+(1/2)(2n-p-q+1)\geqslant 0$. Posons $t=2y+n+1-p-q$, de sorte que

(5)$$\begin{eqnarray}\displaystyle \unicode[STIX]{x1D706} & = & \displaystyle \biggl(\underbrace{\frac{t+p+q-1}{2}-n,\ldots ,\frac{t+p+q-1}{2}-n}_{p},\nonumber\\ \displaystyle & & \displaystyle \underbrace{0,\ldots ,0}_{n-p-q},\underbrace{n-\frac{t+p+q-1}{2},\ldots ,n-\frac{t+p+q-1}{2}}_{q}\biggr)\end{eqnarray}$$

et la condition de weakly fair range est $t\geqslant 0$. On note aussi $\unicode[STIX]{x1D706}_{t}$ l’élément défini par (5) pour insister sur sa dépendance en $t$.

Une inégalité fondamentale. Nous allons rappeler maintenant un résultat de [Reference Knapp and VoganKV95] qui donne des informations sur les $K$-types de ${\mathcal{R}}_{\mathfrak{q},L,G}^{S}(\unicode[STIX]{x1D70C}\boxtimes \unicode[STIX]{x1D6EC})$. Dans [Reference Knapp and VoganKV95, équation (4.71) p. 272], il est introduit un élément de $\mathfrak{t}_{0}$, que l’on note ici $h_{\mathfrak{q}}$ et qui est dual de $\unicode[STIX]{x1D6FF}(\mathfrak{u})$, c’est-à-dire

(6)$$\begin{eqnarray}h_{\mathfrak{q}}=2\times (2n-p-q+1)^{-1}\times (\underbrace{1,\ldots ,1}_{p},\underbrace{0,\ldots ,0}_{n-p-q},\underbrace{-1,\ldots ,-1}_{q}).\end{eqnarray}$$

L’élément $h_{\mathfrak{q}}$ agit par un scalaire $c$ dans la représentation $\unicode[STIX]{x1D70C}\boxtimes \unicode[STIX]{x1D6EC}$. On fixe une représentation irréductible de $K$ de plus haut poids $\unicode[STIX]{x1D707}=(-m_{n},\ldots ,-m_{1})$ et l’on suppose que cette représentation est un $K$-type de ${\mathcal{R}}_{\mathfrak{q},L,G}^{S}(\unicode[STIX]{x1D70C}\boxtimes \unicode[STIX]{x1D6EC})$. L’inégalité de la troisième ligne de la p. 369 de [Reference Knapp and VoganKV95] est

(7)$$\begin{eqnarray}\unicode[STIX]{x1D707}(h_{\mathfrak{q}})\geqslant c+2\unicode[STIX]{x1D6FF}(\mathfrak{u}\cap \mathfrak{p})(h_{\mathfrak{q}}).\end{eqnarray}$$

Le terme de gauche est

$$\begin{eqnarray}\unicode[STIX]{x1D707}(h_{\mathfrak{q}})=2\times (2n-p-q+1)^{-1}\times \left(-\mathop{\sum }_{j=i}^{p}m_{n-i+1}+\mathop{\sum }_{j=1}^{q}m_{j}\right).\end{eqnarray}$$

On a aussi

$$\begin{eqnarray}2\unicode[STIX]{x1D6FF}(\mathfrak{u}\cap \mathfrak{p})(h_{\mathfrak{q}})=2\times (2n-p-q+1)^{-1}\times (p(n-q+1)+q(n-p+1)).\end{eqnarray}$$

Le scalaire $c$ est donné alors par

$$\begin{eqnarray}\displaystyle c & = & \displaystyle \langle \unicode[STIX]{x1D708},h_{\mathfrak{q}^{\prime }}\rangle =2(2n-p-q+1)^{-1}((p+q)y+\langle \unicode[STIX]{x1D6FF}(\mathfrak{l}),h_{\mathfrak{q}^{\prime }}\rangle )\nonumber\\ \displaystyle & = & \displaystyle 2(2n-p-q+1)^{-1}(p+q)y.\nonumber\end{eqnarray}$$

L’inégalité (7) s’écrit donc, en simplifiant par $2\times (2n-p-q+1)^{-1}$ :

$$\begin{eqnarray}\displaystyle -\mathop{\sum }_{j=i}^{p}m_{n-i+1}+\mathop{\sum }_{j=1}^{q}m_{j} & {\geqslant} & \displaystyle (p+q)\left(\frac{t+p+q-1}{2}-n\right)\nonumber\\ \displaystyle & & \displaystyle +\,(p(n-q+1)+q(n-p+1))\nonumber\\ \displaystyle & {\geqslant} & \displaystyle (p+q)\left(\frac{t+p+q+1}{2}\right)-2pq.\nonumber\end{eqnarray}$$

Si tous les $m_{j}$ sont égaux à $m$, on obtient

(8)$$\begin{eqnarray}m(q-p)\geqslant (p+q)\left(\frac{t+p+q+1}{2}\right)-2pq.\end{eqnarray}$$

3.1 Modules de plus haut poids

On appelle module de plus haut poids de $G=\mathbf{Sp}(2n,\mathbb{R})$ un $(\mathfrak{g},K)$-module irréductible $\unicode[STIX]{x1D70B}$ admettant un vecteur non nul annulé par le radical unipotent d’une sous-algèbre de Borel de $\mathfrak{g}$. Si $\unicode[STIX]{x1D70B}$ n’est pas de dimension finie, une telle sous-algèbre de Borel $\mathfrak{b}$ est nécessairement à conjugaison par $G$ près

$$\begin{eqnarray}\mathfrak{b}^{+}=\mathfrak{b}_{\mathfrak{ k}}\oplus \mathfrak{p}^{+}\quad \text{ou bien}~\mathfrak{b}^{-}=\mathfrak{b}_{\mathfrak{ k}}\oplus \mathfrak{p}^{-},\end{eqnarray}$$

où $\mathfrak{b}_{\mathfrak{k}}=\mathfrak{t}\oplus \bigoplus _{\unicode[STIX]{x1D6FC}\in \unicode[STIX]{x1D6E5}^{+}(\mathfrak{k},\mathfrak{t})}\mathfrak{g}_{\unicode[STIX]{x1D6FC}}$ est une sous-algèbre de Borel de $\mathfrak{k}$. Dans le premier cas, on dit que $\unicode[STIX]{x1D70B}$ est holomorphe, et dans le second, que $\unicode[STIX]{x1D70B}$ est antiholomorphe (cf. remarque 2.2).

Comme un $(\mathfrak{g},K)$-module irréductible de dimension finie possède pour toute sous-algèbre de Borel $\mathfrak{b}$ de $\mathfrak{g}$ un vecteur non nul annulé par $\mathfrak{b}$, un tel module est à la fois holomorphe et antiholomorphe, mais si $\unicode[STIX]{x1D70B}$ est de dimension infinie, les deux possibilités sont exclusives.

Dans cet article, nous ne nous intéressons qu’aux modules $(\mathfrak{g},K)$-holomorphes, les antiholomorphes étant leurs contragrédients. Les modules unitaires holomorphes de $G$ sont décrits dans [Reference Kashiwara and VergneKV78] (voir aussi [Reference Enright, Howe and WallachEHW83] et [Reference JakobsenJak83]). Donnons cette description.

Si $(\unicode[STIX]{x1D6FF},V)$ est une représentation irréductible de dimension finie de $K$, sa différentielle, encore notée $\unicode[STIX]{x1D6FF}$, est une représentation irréductible $\mathfrak{k}$, qui détermine complètement $(\unicode[STIX]{x1D6FF},V)$ puisque $K$ est connexe. Soit $\unicode[STIX]{x1D707}=\unicode[STIX]{x1D707}_{\unicode[STIX]{x1D6FF}}=(m_{1},\ldots ,m_{n})\in \mathfrak{t}^{\ast }$ le plus haut poids de $(\unicode[STIX]{x1D6FF},V)$, relativement à $\unicode[STIX]{x1D6E5}^{+}(\mathfrak{k},\mathfrak{t})$, on a donc $m_{1}\geqslant m_{2}\geqslant \cdots \geqslant m_{n}$ et les $m_{i}$ dans $\mathbb{Z}$.

3.2 Description par la correspondance de Howe

Les modules unitaires holomorphes $\unicode[STIX]{x1D70B}(\unicode[STIX]{x1D707})$ du théorème ci-dessus sont dans l’image de la correspondance de Howe [Reference HoweHow89] pour des paires duales de la forme $(\mathbf{O}(0,2\ell ),\mathbf{Sp}(2n,\mathbb{R}))$ avec $\ell \leqslant n$.

Introduisons des notations pour les représentations irréductibles des groupes compacts $\mathbf{O}(0,2\ell )$. Les représentations de $\mathbf{SO}(0,2\ell )$, groupe compact et connexe, sont déterminées par leur plus haut poids, que l’on peut voir comme un $n$-uplet $(\unicode[STIX]{x1D708}_{1},\ldots ,\unicode[STIX]{x1D708}_{\ell })$, où les $\unicode[STIX]{x1D708}_{i}$ sont des entiers, avec $\unicode[STIX]{x1D708}_{1}\geqslant \unicode[STIX]{x1D708}_{2}\geqslant \cdots \geqslant |\unicode[STIX]{x1D708}_{\ell }|$. Si est une représentation irréductible de $\mathbf{O}(0,2\ell )$, alors soit sa restriction à $\mathbf{SO}(0,2\ell )$ est réductible, somme de deux représentations irréductibles de plus hauts poids respectifs $(\unicode[STIX]{x1D708}_{1},\ldots ,\unicode[STIX]{x1D708}_{\ell })$ et $(\unicode[STIX]{x1D708}_{1},\ldots ,-\unicode[STIX]{x1D708}_{\ell })$, avec $\unicode[STIX]{x1D708}_{\ell }>0$, soit sa restriction à $\mathbf{SO}(0,2\ell )$ est irréductible, de plus haut poids $(\unicode[STIX]{x1D708}_{1},\ldots ,\unicode[STIX]{x1D708}_{\ell -1},\unicode[STIX]{x1D708}_{\ell }=0)$. Dans le premier cas, on note $[\unicode[STIX]{x1D708}_{1},\ldots ,\unicode[STIX]{x1D708}_{\ell }]_{+}$ cette représentation et, dans le second cas, il y a deux extensions possibles de la représentation de $\mathbf{SO}(0,2\ell )$ à $\mathbf{O}(0,2\ell )$, que l’on note $[\unicode[STIX]{x1D708}_{1},\ldots ,\unicode[STIX]{x1D708}_{\ell }]_{+}$ et $[\unicode[STIX]{x1D708}_{1},\ldots ,\unicode[STIX]{x1D708}_{\ell }]_{-}$ (voir [Reference Kashiwara and VergneKV78] pour la façon de les distinguer). Le résultat suivant est dû à Kashiwara-Vergne [Reference Kashiwara and VergneKV78].

4.1 Paramètres et paquets d’Arthur

Soit $G$ le groupe des points réels d’un groupe algébrique réductif connexe $\mathbf{G}$ défini sur $\mathbb{R}$. Rappelons qu’un paramètre d’Arthur (ou $A$-paramètre) pour le groupe $G$ est un morphisme $\unicode[STIX]{x1D713}:W_{\mathbb{R}}\times \mathbf{SL}_{2}(\mathbb{C})\rightarrow ^{L}G$, où $W_{\mathbb{R}}$ est le groupe de Weil de $\mathbb{R}$.

Soit donc $\unicode[STIX]{x1D713}$ un paramètre d’Arthur et notons $A(\unicode[STIX]{x1D713})$ le groupe des composantes connexes du centralisateur de $\unicode[STIX]{x1D713}$ dans $\widehat{G}$ (en réalité, il faut passer en général à un revêtement, cf. [Reference ArthurArt13, chapitre 9], mais cela est inutile dans le cas du groupe $G=\mathbf{Sp}(2n,\mathbb{R})$ qui va nous occuper ici). Arthur suggère qu’au paramètre $\unicode[STIX]{x1D713}$ est attaché une combinaison linéaire de représentations irréductibles de $G$ à coefficients dans l’espace des fonctions sur le groupe $A(\unicode[STIX]{x1D713})$ à valeurs complexes et invariantes par conjugaison. On note $\unicode[STIX]{x1D70B}^{A}(\unicode[STIX]{x1D713})$ cette combinaison linéaire. Ces objets $\unicode[STIX]{x1D70B}^{A}(\unicode[STIX]{x1D713})$ doivent être compatibles à l’endoscopie. Cela ne suffit pas à les définir dans le cas quasi déployé. Pour compléter la définition dans ce cas et pour les groupes classiques, Arthur ajoute la compatibilité à l’endoscopie tordue, et cela suffit alors. Limitons-nous dans ce qui suit aux cas des groupes classiques. Le groupe $A(\unicode[STIX]{x1D713})$ est alors abélien (c’est même un 2-groupe), les fonctions invariantes par conjugaison sur ce groupe sont donc des combinaisons linéaires à coefficients complexes de caractères de ce groupe et $\unicode[STIX]{x1D70B}^{A}(\unicode[STIX]{x1D713})$ est donc une combinaison linéaire à coefficients complexes de représentations irréductibles de $G\times A(\unicode[STIX]{x1D713})$.

Quand le groupe classique est quasi déployé, Arthur montre dans [Reference ArthurArt13] que cette combinaison linéaire est en réalité à coefficients dans les entiers positifs, et $\unicode[STIX]{x1D70B}^{A}(\unicode[STIX]{x1D713})$ est donc une représentation semi-simple (par construction). Il montre même plus : c’est une représentation unitaire de $G\times A(\unicode[STIX]{x1D713})$. On peut décomposer cette représentation unitaire de $G\times A(\unicode[STIX]{x1D713})$ en l’écrivant comme somme de produits tensoriels extérieurs de représentations irréductibles unitaires de $G$ avec des représentations de dimension finie du groupe $A(\unicode[STIX]{x1D713})$. Si l’on note $\unicode[STIX]{x1D6F1}(\unicode[STIX]{x1D713})$ l’ensemble des représentations irréductibles unitaires de $G$ qui interviennent dans cette décomposition, on a

$$\begin{eqnarray}\unicode[STIX]{x1D70B}^{A}(\unicode[STIX]{x1D713})=\mathop{\bigoplus }_{\unicode[STIX]{x1D70B}\in \unicode[STIX]{x1D6F1}(\unicode[STIX]{x1D713})}\unicode[STIX]{x1D70B}\boxtimes \unicode[STIX]{x1D70C}_{\unicode[STIX]{x1D70B}}.\end{eqnarray}$$

L’ensemble $\unicode[STIX]{x1D6F1}(\unicode[STIX]{x1D713})$ est le paquet d’Arthur attaché au paramètre $\unicode[STIX]{x1D713}$ et la dimension de la représentation $\unicode[STIX]{x1D70C}_{\unicode[STIX]{x1D70B}}$ est la multiplicité de $\unicode[STIX]{x1D70B}$ dans le paquet. Pour les groupes classiques, on conjecture que cette multiplicité est 1, et cela est démontré pour certaines familles de paramètres (voir [Reference Mœglin and RenardMRb] pour une discussion détaillée).

Prenons maintenant $G=\mathbf{Sp}(2n,\mathbb{R})$. Les problèmes qui nous occupent dans cet article sont :

1. – déterminer les couples $(\unicode[STIX]{x1D70B}(\unicode[STIX]{x1D707}),\unicode[STIX]{x1D713})$, où $\unicode[STIX]{x1D70B}(\unicode[STIX]{x1D707})$ est un module holomorphe unitaire comme dans le théorème 3.1 et $\unicode[STIX]{x1D713}$ un $A$-paramètre, tels que $\unicode[STIX]{x1D70B}(\unicode[STIX]{x1D707})\in \unicode[STIX]{x1D6F1}(\unicode[STIX]{x1D713})$ ;

2. – montrer la propriété de multiplicité $1$, à savoir que la représentation $\unicode[STIX]{x1D70C}_{\unicode[STIX]{x1D70B}(\unicode[STIX]{x1D707})}$ de $A(\unicode[STIX]{x1D713})$ est de dimension 1 ;

3. – calculer ce caractère $\unicode[STIX]{x1D70C}_{\unicode[STIX]{x1D70B}(\unicode[STIX]{x1D707})}$ de $A(\unicode[STIX]{x1D713})$.

Remarquons que les $\unicode[STIX]{x1D70B}^{A}(\unicode[STIX]{x1D713})$ dépendent du choix des facteurs de transfert géométrique et, en suivant Kottwitz et Shelstad, les facteurs de transfert sont normalisés par des choix de données de Whittaker. Cela est l’objet de la section suivante.

4.2 Donnée de Whittaker

Rappelons qu’une donnée de Whittaker d’un groupe quasi deployé $\mathbf{G}$ est un couple $(N,\unicode[STIX]{x1D712}_{N})$, où $N=\mathbf{N}(\mathbb{R})$ est le groupe des points réels du radical unipotent d’un sous-groupe de Borel $\mathbf{B}$ de $\mathbf{G}$ défini sur $\mathbb{R}$ et d’un caractère non dégénéré $\unicode[STIX]{x1D712}_{N}$ de $N$ (voir [Reference Adams, Barbasch and VoganABV92, chapter 3]).

Pour cela, on considère la réalisation standard de $\mathbf{Sp}(2n,\mathbb{R})$ et l’épinglage standard $\mathbf{spl}_{\mathbf{Sp}(2n,\mathbb{R})}=(\mathbf{B}_{d},\mathbf{T}_{d},\{{X_{\unicode[STIX]{x1D6FC}}\}}_{\unicode[STIX]{x1D6FC}\in \unicode[STIX]{x1D6E5}})$. En particulier, on a un sous-groupe de Borel $B_{d}=\mathbf{B}_{d}(\mathbb{R})$ de $\mathbf{Sp}(2n,\mathbb{R})$, son radical unipotent $N$, son algèbre de Lie $\mathfrak{n}$ et une base $(X_{\unicode[STIX]{x1D6FC}})_{\unicode[STIX]{x1D6FC}\in \unicode[STIX]{x1D6E5}}$ de $\mathfrak{n}/[\mathfrak{n},\mathfrak{n}]$ donnée par les vecteurs radiciels pour les racines simples venant de l’épinglage. Pour avoir une donnée de Whittaker, il suffit alors de choisir un caractère unitaire additif non trivial $\unicode[STIX]{x1D713}_{\mathbb{R}}$ de $\mathbb{R}$, et l’on définit un caractère unitaire non dégénéré $\unicode[STIX]{x1D712}_{N}$ de $N$ par

(9)$$\begin{eqnarray}\unicode[STIX]{x1D712}_{N}\left(\exp \left(\mathop{\sum }_{\unicode[STIX]{x1D6FC}\in R(B,T)}x_{\unicode[STIX]{x1D6FC}}X_{\unicode[STIX]{x1D6FC}}\right)\right)=\unicode[STIX]{x1D713}_{\mathbb{R}}\left(\mathop{\sum }_{\unicode[STIX]{x1D6FC}\in \unicode[STIX]{x1D6E5}}x_{\unicode[STIX]{x1D6FC}}\right).\end{eqnarray}$$

On pose

(10)$$\begin{eqnarray}\unicode[STIX]{x1D713}_{\mathbb{R},1}:x\mapsto \exp (2i\unicode[STIX]{x1D70B}x).\end{eqnarray}$$

C’est un caractère unitaire additif de $\mathbb{R}$ et $\unicode[STIX]{x1D713}_{\mathbb{R},-1}=\unicode[STIX]{x1D713}_{\mathbb{R},1}^{-1}$. On note $\text{Wh}_{\pm 1}$ la classe de conjugaison de la donnée de Whittaker $(N,\unicode[STIX]{x1D712}_{N})$ définie comme ci-dessus avec $\unicode[STIX]{x1D713}_{\mathbb{R}}=\unicode[STIX]{x1D713}_{\mathbb{R},\pm 1}$.

Il y a deux classes de conjugaison de données de Whittaker pour le groupe $\mathbf{Sp}(2n,\mathbb{R})$, qui sont $\text{Wh}_{\pm 1}$.

Pour un groupe $\mathbf{G}$ défini sur $\mathbb{R}$ et quasi déployé admettant des séries discrètes, les classes de conjugaison de données de Whittaker sont en bijection avec les classes de conjugaison de paires de Borel fondamentales de type Whittaker $(\mathbf{B},\mathbf{T})$. Rappelons que cela signifie que $\mathbf{T}$ est un tore maximal de $\mathbf{G}$ défini sur $\mathbb{R}$ tel que $T=\mathbf{T}(\mathbb{R})$ soit compact, et $\mathbf{B}$ un sous-groupe de Borel contenant $\mathbf{T}$. La paire de Borel $(\mathbf{B},\mathbf{T})$ est alors fondamentale et une telle paire détermine par la paramétrisation d’Harish-Chandra une unique série discrète $\unicode[STIX]{x1D70B}_{(\mathbf{B},\mathbf{T})}$ de $G$ de même caractère infinitésimal que la représentation triviale. De plus, la condition « être de type Whittaker » signifie que les racines simples de $\mathbf{T}$ dans $\mathbf{B}$ sont toutes imaginaires non compactes et la série discrète $\unicode[STIX]{x1D70B}_{(\mathbf{B},\mathbf{T})}$ est alors générique. Elle admet donc un modèle de Whittaker pour une certaine donnée de Whittaker, et cela réalise la bijection. Dans [Reference Mœglin and RenardMRb], nous avons utilisé cela pour fixer les données de Whittaker sur les groupes classiques, sans rendre cette bijection explicite. Nous le faisons maintenant ici pour les groupes symplectiques.

Dans l’article, nous avons fixé un sous-groupe de Cartan compact $T$ de $\mathbf{Sp}(2n,\mathbb{R})$ et le système de racines $\unicode[STIX]{x1D6E5}(\mathfrak{t},\mathfrak{g})=\{\pm e_{i}\pm e_{j},1\leqslant i<j\leqslant n,\pm 2e_{i},1\leqslant i\leqslant n\}$.

Il y a deux classes de conjugaison de paires de Borel fondamentales de type Whittaker dans $\mathbf{Sp}(2n,\mathbb{R})$, admettant comme représentants $(\mathbf{B}_{\pm },\mathbf{T})$, où le sous-groupe de Borel $\mathbf{B}_{+}$ est celui dont les racines simples sont $\{e_{1}+e_{2},-(e_{2}+e_{3}),(-1)^{n}(e_{n-1}+e_{n}),(-1)^{n-1}2e_{n}\}$ et $\mathbf{B}_{-}$ est celui dont les racines simples sont les opposées de celles-là.

Proposition 4.1. La série discrète générique $\unicode[STIX]{x1D70B}_{(\mathbf{B}_{+},\mathbf{T})}$ de $\mathbf{Sp}(2n,\mathbb{R})$ admet un modèle de Whittaker pour la donnée $Wh_{1}$ de ce groupe. La bijection entre classes de conjugaison de données de Whittaker et classes de conjugaison de paires fondamentales de type Whittaker est donc

$$\begin{eqnarray}\text{Wh}_{1}\leftrightarrow (\mathbf{B}_{+},\mathbf{T}),\qquad \text{Wh}_{-1}\leftrightarrow (\mathbf{B}_{-},\mathbf{T}).\end{eqnarray}$$

4.3 Décomposition des $A$-paramètres pour $G=\mathbf{Sp}(2n,\mathbb{R})$

On compose un $A$-paramètre $\unicode[STIX]{x1D713}$ comme ci-dessus pour $G=\mathbf{Sp}(2n,\mathbb{R})$ avec la représentation standard de $^{L}G=\mathbf{SO}(2n+1,\mathbb{C})$ dans $\mathbf{GL}(2n+1,\mathbb{C})$ et l’on note encore $\unicode[STIX]{x1D713}$ le morphisme obtenu, que l’on voit comme une représentation de $W_{\mathbb{R}}\times \mathbf{SL}_{2}(\mathbb{C})$. Cette représentation est complètement réductible. Pour tout $a\in \mathbb{N}^{\times }$, notons $R[a]$ la représentation algébrique de $\mathbf{SL}_{2}(\mathbb{C})$ de dimension $a$ et, pour tout $t\in \mathbb{N}^{\times }$, notons $\unicode[STIX]{x1D6FF}_{t}$ la représentation irréductible de $W_{\mathbb{R}}$ de dimension $2$ qui est le paramètre de Langlands de la série discrète de $\mathbf{GL}_{2}(\mathbb{R})$ de caractère infinitésimal $(t/2,-t/2)$ (elle est notée $V(0,t)$ dans [Reference Mœglin and RenardMRb]). La forme générale de la décomposition de $\unicode[STIX]{x1D713}$ en irréductibles est écrite dans [Reference Mœglin and RenardMRb, Section 4.1]. Ici, on ne considère que des paquets ayant des caractères infinitésimaux entiers, et ceux-là se décomposent de la manière suivante :

(11)$$\begin{eqnarray}\unicode[STIX]{x1D713}=\unicode[STIX]{x1D713}_{u}\oplus \unicode[STIX]{x1D713}_{d}=\left(\mathop{\bigoplus }_{i=1}^{r}\unicode[STIX]{x1D702}_{i}\boxtimes R[a_{i}^{\prime }]\right)\oplus \left(\mathop{\bigoplus }_{j=1}^{s}\unicode[STIX]{x1D6FF}_{t_{j}}\boxtimes R[a_{j}]\right).\end{eqnarray}$$

Dans la première somme qui constitue la partie unipotente $\unicode[STIX]{x1D713}_{u}$ du paramètre, $\unicode[STIX]{x1D702}_{i}$ désigne un caractère quadratique de $W_{\mathbb{R}}$ (le caractère trivial que nous notons $1_{W_{\mathbb{R}}}$ ou le caractère signe que nous notons $\mathbf{sgn}_{W_{\mathbb{R}}}$) et les $a_{i}^{\prime }$ sont impairs. Dans la seconde somme, qui constitue la partie discrète $\unicode[STIX]{x1D713}_{d}$ du paramètre, les $t_{j}$ sont dans $\mathbb{N}\setminus \{0\}$ et $t_{j}+a_{j}$ est impair. On a de plus

$$\begin{eqnarray}\mathop{\sum }_{i=1}^{r}a_{i}^{\prime }+2\mathop{\sum }_{j=1}^{s}a_{j}=2n+1,\quad \text{et}~\mathop{\prod }_{i=1}^{r}\unicode[STIX]{x1D702}_{i}=\mathbf{sgn}_{W_{\mathbb{R}}}^{|\{j;a_{j}~\text{impair}\}|}.\end{eqnarray}$$

Le caractère infinitésimal (cf. convention 2.3) des éléments de $\unicode[STIX]{x1D6F1}(\unicode[STIX]{x1D713})$ est obtenu en rangeant dans l’ordre décroissant les éléments des ensembles (avec multiplicités) d’entiers

$$\begin{eqnarray}\displaystyle & \displaystyle \left\{\frac{a_{i}^{\prime }-1}{2},\frac{a_{i}^{\prime }-3}{2},\ldots ,-\frac{a_{i}^{\prime }-1}{2}\right\}_{i}, & \displaystyle \nonumber\\ \displaystyle & \displaystyle \left\{\frac{t_{j}+a_{j}-1}{2},\frac{t_{j}+a_{j}-3}{2},\ldots ,\frac{t_{j}-a_{j}+1}{2}\right\}_{j}, & \displaystyle \nonumber\\ \displaystyle & \displaystyle \left\{\frac{-t_{j}+a_{j}-1}{2},\frac{-t_{j}+a_{j}-3}{2},\ldots ,\frac{-t_{j}-a_{j}+1}{2}\right\}_{j}. & \displaystyle \nonumber\end{eqnarray}$$

Définition 4.4. Soit $\unicode[STIX]{x1D713}$ un A-paramètre pour le groupe $G=\mathbf{Sp}(2n,\mathbb{R})$, avec

$$\begin{eqnarray}\unicode[STIX]{x1D713}=\unicode[STIX]{x1D713}_{u}\oplus \unicode[STIX]{x1D713}_{d}=\left(\mathop{\bigoplus }_{i=1}^{r}\unicode[STIX]{x1D702}_{i}\boxtimes R[a_{i}^{\prime }]\right)\oplus \left(\mathop{\bigoplus }_{j=1}^{s}\unicode[STIX]{x1D6FF}_{t_{j}}\boxtimes R[a_{j}]\right).\end{eqnarray}$$

On définit alors :

$$\begin{eqnarray}a(\unicode[STIX]{x1D713})=\max (a_{i}^{\prime },i=1,\ldots ,r,a_{j},j=1,\ldots ,s)\end{eqnarray}$$

et

$$\begin{eqnarray}a(\unicode[STIX]{x1D713}_{u})=\max (a_{i}^{\prime },i=1,\ldots ,r).\end{eqnarray}$$

Ainsi $a(\unicode[STIX]{x1D713})$ (resp. $a(\unicode[STIX]{x1D713}_{u})$) est la plus grande dimension d’une représentation de $\mathbf{SL}_{2}(\mathbb{C})$ intervenant dans le paramètre $\unicode[STIX]{x1D713}$ (resp. dans la partie unipotente $\unicode[STIX]{x1D713}_{u}$).

Ces entiers associés au paramètre $\unicode[STIX]{x1D713}$ vont jouer un grand rôle dans la suite.

4.4 Description des paquets d’Arthur pour $\mathbf{Sp}(2n,\mathbb{R})$ d’après [Reference Mœglin and RenardMRb]

Soit $\unicode[STIX]{x1D713}$ un $A$-paramètre pour $G=\mathbf{Sp}(2n,\mathbb{R})$, que l’on écrit comme dans (11). Dans [Reference Mœglin and RenardMRb], les représentations dans le paquet $\unicode[STIX]{x1D6F1}(\unicode[STIX]{x1D713})$ sont décrites comme les composantes irréductibles de représentations obtenues par induction cohomologique à partir de représentations unipotentes de $c$-Levi $L$ de $G$. Rappelons brièvement ceci. En général, il n’est pas vrai que $\unicode[STIX]{x1D713}_{u}$ est un $A$-paramètre pour le groupe $G_{u}=\mathbf{Sp}(2n_{u},\mathbb{R})$ où $n_{u}=(\dim \unicode[STIX]{x1D713}_{u}-1)/2$. En effet, ce paramètre est à valeur dans $\mathbf{O}(2n_{u}+1)$ et non nécessairement dans $\mathbf{SO}(2n_{u}+1)$. Il faut donc le corriger par le caractère $\mathbf{sgn}_{W_{\mathbb{R}}}^{\dim (\unicode[STIX]{x1D713}_{d})/2}$. Alors

$$\begin{eqnarray}\unicode[STIX]{x1D713}_{u}^{\prime }=\mathbf{sgn}_{W_{\mathbb{R}}}^{\dim (\unicode[STIX]{x1D713}_{d})/2}\otimes \unicode[STIX]{x1D713}_{u}\end{eqnarray}$$

est un $A$-paramètre pour $G_{u}=\mathbf{Sp}(2n_{u},\mathbb{R})$. On a donc un paquet $\unicode[STIX]{x1D6F1}(\unicode[STIX]{x1D713}_{u}^{\prime })$ associé, et l’on sait qu’il est constitué de représentations faiblement unipotentes de $G_{u}$ au sens de [Reference Knapp and VoganKV95] et que leur multiplicité dans le paquet est 1 (voir [Reference MœglinMœg17] et [Reference Mœglin and RenardMRa]).

D’autre part, pour tout $j$ indexant un terme de la partie discrète $\unicode[STIX]{x1D713}_{d}$ de $\unicode[STIX]{x1D713}$, donnons-nous un entier $c_{j}$ entre 0 et $a_{j}$, et notons

(12)$$\begin{eqnarray}\mathscr{C}=\{\text{}\underline{c}=(c_{1},\ldots ,c_{s})\}\end{eqnarray}$$

l’ensemble des familles d’entiers ainsi obtenues. Chaque $\text{}\underline{c}\in \mathscr{C}$ détermine à conjugaison près une paire $(L_{\text{}\underline{c}},\mathfrak{q}_{\text{}\underline{c}})$ où $L_{\text{}\underline{c}}$ est un $c$-Levi de $G$, isomorphe à

(13)$$\begin{eqnarray}G_{u}\times (\times _{j=1}^{s}\mathbf{U}(c_{j},a_{j}-c_{j}))\end{eqnarray}$$

et $\mathfrak{q}_{\text{}\underline{c}}$ une sous-algèbre parabolique $\unicode[STIX]{x1D703}$-stable de $\mathfrak{g}$. Cela est clair par une récurrence immédiate vu la description des paires paraboliques maximales en (2).

Les représentations du paquet $\unicode[STIX]{x1D6F1}(\unicode[STIX]{x1D713})$ sont alors les composantes irréductibles des induites cohomologiques

$$\begin{eqnarray}{\mathcal{R}}_{L_{\text{}\underline{c}},\mathfrak{q}_{\text{}\underline{c}}}^{S}(\unicode[STIX]{x1D70B}_{u}\otimes \unicode[STIX]{x1D6EC})\end{eqnarray}$$

où $\unicode[STIX]{x1D70B}_{u}$ est une représentation unipotente dans le paquet $\unicode[STIX]{x1D6F1}(\unicode[STIX]{x1D713}_{u}^{\prime })$ et $\unicode[STIX]{x1D6EC}$ un caractère du groupe $\times _{j=1}^{s}\mathbf{U}(c_{j},a_{j}-c_{j})$ uniquement déterminé par son caractère infinitésimal, et que l’on calcule aisément à partir des formules (4) et (5) par récurrence. La condition pour que l’induction parabolique soit dans le weakly fair range est $t_{1}\geqslant t_{2}\geqslant \cdots \geqslant t_{s}$, ce que l’on a supposé.