Réciprocité de Frobenius

Soient G un groupe fini et H un sous-groupe de G, et soit K un corps fixé, dont la caractéristique ne divise pas l'ordre de G.

Soient θ une représentation K-linéaire de H, ψ son caractère, Ind(θ) la représentation de G induite par θ et Ind(ψ) son caractère.

Soient d'autre part ρ une représentation K-linéaire de G, χ son caractère, Res(ρ) la restriction de ρ à H et Res(χ) son caractère.

La forme bilinéaire canonique sur l'espace des fonctions centrales est notée < | >_H ou < | >_G selon le groupe utilisé.

Ces notations permettent d'exprimer la propriété suivante, appelée formule de réciprocité de Frobenius :

${\displaystyle \langle \mathrm {Ind} (\psi )~|~\chi \rangle _{G}=\langle \psi ~|~\mathrm {Res} (\chi )\rangle _{H}.}$

Par définition de la représentation induite,

${\displaystyle \hom _{G}(\mathrm {Ind} (\theta ),\rho )~{\text{et}}~\hom _{H}(\theta ,\mathrm {Res} (\rho ))~{\text{sont isomorphes}}.}$

Leurs dimensions sont donc égales, et a fortiori les images dans K de ces dimensions, qui sont exactement les « produits scalaires » des différents caractères.

Dans le cas particulier où K est de caractéristique nulle, la loi de réciprocité de Frobenius possède un intérêt à la fois théorique et pratique :

• de nombreux théorèmes se démontrent, sous cette hypothèse, à l'aide de cette loi, par exemple le critère d'irréductibilité de Mackey en caractéristique nulle ;
• elle est aussi utilisée pour déterminer la décomposition d'une représentation induite en somme directe de représentations irréductibles. En voici un exemple, avec une représentation induite du groupe symétrique S₃ :

Exemple

Soit G le groupe S₃, engendré par un 3-cycle c et une transposition t, K le sous-groupe {1,t}, ψ_K le caractère de K de degré 1 dont les valeurs sur 1 et t sont respectivement 1 et –1, χ le caractère irréductible de S₃ de degré 2, dont les valeurs sur 1 et t sont 2 et 0, et σ le caractère irréductible de S₃ dont ψ_K est restriction. Alors Ind(ψ_K) est de degré 3,${\displaystyle \langle \mathrm {Ind} (\psi _{K})~|~\chi \rangle _{G}=\langle \psi _{K}~|~\mathrm {Res} (\chi )\rangle _{K}={\frac {1}{2}}\left(1\times 2+(-1)\times 0\right)=1}$et${\displaystyle \langle \mathrm {Ind} (\psi _{K})~|~\sigma \rangle _{G}=\langle \psi _{K}~|~\mathrm {Res} (\sigma )\rangle _{K}={\frac {1}{2}}\left(1^{2}+(-1)^{2}\right)=1,}$donc la représentation induite est la somme directe des représentations associées à χ et σ.

La formule qui permet de calculer le caractère induit s'étend linéairement aux fonctions centrales par la définition suivante :

• Soient f une fonction centrale sur H à valeurs dans K et C une transversale à gauche de H dans G, alors la fonction Ind_H^G (f ) est définie par :

${\displaystyle \forall t\in G\quad \mathrm {Ind} _{H}^{G}f(t)=\sum _{c\in C \atop c^{-1}tc\in H}f(c^{-1}tc).}$

Cette définition permet de généraliser la formule de réciprocité de Frobenius :

• Soient f une fonction centrale sur H et g une fonction centrale sur G, alors l'égalité suivante est vérifiée :

${\displaystyle \langle \mathrm {Ind} _{H}^{G}f~|~g\rangle _{G}=\langle f~|~\mathrm {Res} _{H}^{G}g\rangle _{H}.}$

On peut le vérifier par un calcul explicite[1], ce qui redémontre en particulier la réciprocité de Frobenius pour les caractères. Une autre méthode, sous l'hypothèse supplémentaire que le polynôme X^e - 1, où e désigne l'exposant de G, est scindé sur K, est d'utiliser qu'alors, les caractères de représentations forment une famille génératrice de l'espace des fonctions centrales.