Caractère d'une représentation d'un groupe fini

Les travaux de Jordan avec la publication d'un livre[2] sur les équations algébriques représentent une première analyse d'un groupe fini de matrices représentant un groupe de Galois. Frobenius démarre en 1896 l'étude de la théorie des caractères des groupes finis[3], les caractères ne sont pas encore liés à la notion de représentation. Cette même année il communique, dans une lettre à Dedekind les caractères des représentations irréductibles des groupes symétriques S₄ et S₅.

La théorie est rapidement développée ; entre 1897 et 1899, la machinerie est mise en place. Frobenius développe le produit tensoriel, les représentations induites ainsi que son théorème de réciprocité. En 1900 il détermine les caractères des groupes symétriques et l'année suivante ceux des groupes alternés. Durant cette époque, Heinrich Maschke démontre le théorème portant maintenant son nom[4] qui stipule que toute représentation d'un groupe fini est somme directe de représentations irréductibles.

William Burnside comprend rapidement la profondeur des travaux de Frobenius. Il utilise la théorie des caractères pour montrer[5] qu'un groupe d'ordre pⁿ.q^m si p et q sont premiers est un groupe résoluble. Il publie en 1911 la deuxième édition d'un livre de référence[6]. Elle formalise en une théorie le savoir de l'époque sur les groupes finis, l'édition contient les travaux sur les caractères de Frobenius.

Un autre acteur important de la théorie, Issai Schur, est un élève de Frobenius. Non seulement il travaille sur les aspects théoriques et démontre son lemme[7], mais de plus, dans l'année 1925, il applique la théorie à la physique quantique.

La théorie est l'objet d'un large développement durant le XX^e siècle. On peut citer les travaux d'Emil Artin avec la notion de caractère virtuel, ceux de Richard Brauer avec son théorème sur les combinaisons linéaires à coefficients entiers ou encore plus récemment John Griggs Thompson, qui reçoit en 1970 une médaille Fields pour avoir démontré une vieille conjecture de Burnside annonçant que tout groupe fini d'ordre impair est résoluble.

Le théorème de Maschke démontre que si la caractéristique du corps de base ne divise pas l'ordre du groupe G étudié alors toute représentation est somme directe de représentations irréductibles.

La théorie se concentre alors sur deux points clés : comment connaître les représentations irréductibles et comment, pour une représentation donnée, connaître ses facteurs irréductibles. La théorie des caractères répond partiellement à ces deux questions.

Représentation de S₃ comme groupe des isométries du triangle

Considérons le polynôme P(X) = X³ + X + 1, à coefficients dans le corps ℚ des rationnels. La théorie montre que son groupe de Galois est isomorphe au groupe symétrique S₃, donc que la dimension du ℚ-espace vectoriel sur lequel il opère naturellement est égale à 6. Le groupe se représente par six matrices carrées 6×6, ce qui rend le problème un peu ardu. Mais un autre théorème assure que cette action du groupe de Galois est équivalente à la représentation régulière λ de S₃, qu'il s'agit donc de décomposer.

Recherchons dans un premier temps toutes les représentations irréductibles. Comme pour tout groupe, la représentation unité est le morphisme trivial t qui à tout élément du groupe associe l'identité de ℚ. Pour un groupe symétrique, une autre représentation de degré 1 (donc irréductible elle aussi) est le morphisme signature σ, qui à toute permutation impaire associe –1. On dispose également de la représentation standard de S₃, illustrée sur la figure de gauche. Le ℚ-espace vectoriel est de dimension 2. Lorsqu'on étend à ℝ le corps de base et qu'on munit ce plan d'une structure euclidienne ad hoc, le morphisme θ envoie chaque élément du groupe sur une isométrie : pour l'élément neutre c'est l'identité ; pour les trois transpositions, ce sont des symétries orthogonales, d'axes représentés en rouge sur la figure ; pour les deux 3-cycles, ce sont les rotations d'angles 2π/3 et –2π/3. Le caractère associé χ_θ prend donc respectivement les valeurs 2, 0 et –1 sur ces trois classes de conjugaison 1 = {id}, T = {t₁, t₂, t₃} et C = {c₁, c₂}. Comme tout caractère, c'est donc bien une fonction centrale, c'est-à-dire constante sur chaque classe de conjugaison.

Ces trois représentations irréductibles t, σ et θ de S₃ sont les seules, car l'étude des fonctions centrales montre que le nombre de représentations irréductibles est égal au nombre de classes de conjugaison du groupe.

Décomposition du caractère de la représentation régulière de S₃

De plus, il existe sur l'espace des fonctions centrales une forme bilinéaire canonique pour laquelle les caractères irréductibles forment une base orthonormale. Ce résultat est au cœur de la théorie des caractères. Dans notre cas, si φ et ψ sont deux fonctions centrales, cette forme bilinéaire est donnée par :

${\displaystyle \langle \varphi \mid \psi \rangle ={\frac {1}{6}}{\Big (}\varphi (1){\psi (1)}+3\varphi (T)\psi (T)+2\varphi (C)\psi (C){\Big )}.}$

Ces propriétés permettent de calculer les coefficients (entiers naturels) a, b et c de la décomposition de la représentation régulière :

${\displaystyle \lambda =at\oplus b\sigma \oplus c\theta .}$

Notons χ_t, χ_σ, χ_θ les caractères des trois représentations irréductibles et χ_λ celui de la représentation régulière. Ainsi,

${\displaystyle \chi _{\lambda }=a\chi _{t}+b\chi _{\sigma }+c\chi _{\theta }.}$

Comme les trois caractères χ_t,χ_σ, χ_θ forment une famille orthonormée, les trois coefficients sont :

${\displaystyle a=\langle \chi _{\lambda }\mid \chi _{t}\rangle ,~b=\langle \chi _{\lambda }\mid \chi _{\sigma }\rangle {\text{ et }}c=\langle \chi _{\lambda }\mid \chi _{\theta }\rangle .}$

Or le caractère de la représentation régulière s'annule sur toutes les classes de conjugaisons sauf celle de l'identité, et sur cette classe la valeur d'un caractère est égale au degré de la représentation. On en déduit les trois valeurs : a = 1, b = 1, c = 2.

La figure de droite illustre les caractères du groupe S₃. Les caractères représentés par des boules orange sont les trois irréductibles, la boule bleue représente le caractère de la représentation régulière λ. Elle est somme directe des trois représentations irréductibles avec les coefficients 1 pour la triviale, 1 pour la signature et 2 pour celle des isométries du triangle.

Une fonction centrale est une application constante sur chaque classe de conjugaison du groupe. Les premières propriétés des caractères montrent que ce sont des fonctions centrales.

On montre alors (cf corollaire 4 de l'article « Lemme de Schur »), sous l'hypothèse supplémentaire que le polynôme X^g – 1 est scindé sur K (ou même seulement le polynôme X^e – 1, où g désigne l'ordre de G et e désigne son exposant), que

pour la forme bilinéaire symétrique non dégénérée sur K^G définie par

${\displaystyle (f_{1}|f_{2})={\frac {1}{g}}\sum _{s\in G}f_{1}(s)f_{2}(s^{-1}),}$

les caractères irréductibles forment une base orthonormée de l'espace vectoriel des fonctions centrales à valeur dans K.

Il en résulte :

• le nombre de représentations irréductibles de G à équivalence près est égal au nombre h de classes de conjugaison de G.
  Le groupe n'a donc sur K (à équivalence près) que h représentations irréductibles ρ₁, … , ρ_h, dont les caractères χ₁, … , χ_h forment une base orthonormée de l'espace des fonctions centrales ;
• ${\displaystyle \forall s,t\in G\quad \sum _{i=1}^{h}\chi _{i}(s)\chi _{i}(t^{-1})={\begin{cases}\left|C_{G}(s)\right|&{\mbox{ si }}s,t{\mbox{ sont conjugués}}\\0&{\mbox{ sinon,}}\end{cases}}}$
  où |C_G(s)| désigne l'ordre du centralisateur de s.

Variante.

Lorsque K est un sous-corps de ℂ, il est courant, au lieu de la forme bilinéaire symétrique ci-dessus, d'utiliser sur K^G un produit hermitien :

${\displaystyle \langle f_{1}|f_{2}\rangle ={\frac {1}{g}}\sum _{s\in G}f_{1}(s){\overline {f_{2}(s)}}.}$

Si f₂ est un caractère alors (f₁|f₂) = ⟨f₁|f₂⟩, et les caractères irréductibles forment aussi, pour ce produit hermitien, une base orthonormée de l'espace des fonctions centrales.

Le fait que les caractères irréductibles forment une base orthonormée a des conséquences théoriques immédiates : soit ρ une représentation dont la décomposition en somme directe d'irréductibles est :

${\displaystyle \rho \simeq \bigoplus _{i=1}^{h}m_{i}\rho _{i},}$

où la notation m_iρ_i signifie :

${\displaystyle m_{i}\rho _{i}=\rho _{i}\oplus \ldots \oplus \rho _{i}\quad (m_{i}{\text{ fois}}).}$

Alors la décomposition de son caractère χ en somme des caractères irréductibles χ₁, ..., χ_h est :

${\displaystyle \chi =\sum _{i=1}^{h}m_{i}\chi _{i},}$

et on en déduit les égalités :

${\displaystyle m_{i}=(\chi |\chi _{i})\quad {\text{et}}\quad \sum m_{i}^{2}=(\chi |\chi ).}$

En particulier lorsque la caractéristique de K est nulle :

• La multiplicité m_i de la représentation irréductible ρ_i dans ρ est égale à (χ|χ_i).
• Une représentation est entièrement déterminée (à équivalence près) par son caractère.
• (χ|χ) est un entier.
• Cet entier vaut 1 si et seulement si ρ est irréductible.
• Toute fonction χ qui est combinaison linéaire à coefficients entiers (positifs ou négatifs) de caractères et qui vérifie (χ|χ) = 1 et χ(1) > 0 est le caractère d'une représentation (irréductible)[8].

Les caractères irréductibles d'un groupe sont parfois donnés sous forme de table. Comme un caractère est constant sur une classe de conjugaison, la table est donnée sur les classes de conjugaison. Celle du groupe alterné A₄ est par exemple :

Un élément du type (ab)(cd) possède son inverse dans la même classe de conjugaison, la valeur du caractère est toujours réelle pour cette classe. En revanche, l'inverse de (abc) est (acb), les deux valeurs sont toujours conjuguées.

Le groupe des quaternions Q = {±1, ±i, ±j, ±k} a 5 classes de conjugaison : {1}, {–1}, {±i}, {±j}, {±k}, donc 5 caractères irréductibles. Ceux de degré 1 sont les éléments de son groupe dual, naturellement isomorphe à celui de son abélianisé Q/{±1} ≃ V (le groupe de Klein). Par conséquent, ce sont les 4 caractères t, χ_i, χ_j et χ_k du tableau ci-dessous. On complète cette famille orthonormale par l'unique fonction centrale de norme 1 qui leur est orthogonale et dont la valeur sur 1 est positive : (2, –2, 0, 0, 0). C'est le caractère de la cinquième représentation complexe irréductible, ρ, qui est par conséquent de degré 2 (on peut l'expliciter comme exemple de représentation induite par la représentation naturelle du sous-groupe {±1, ±i}).

La table des caractères de l'autre groupe non abélien d'ordre 8, le groupe diédral D₈, est identique mais — contrairement à ρ — la représentation irréductible de degré 2 de D₈ est réelle (en).

Le groupe GL₃(F₂) est, par son ordre (168), le plus petit groupe simple non commutatif après le groupe alterné A₅. On trouve la table suivante, établie dans l'article détaillé :

Les cardinaux des classes de conjugaisons sont C₁ : 1, C₂ : 21, C₃ : 56, C₄ : 42, C_7a : 24, C_7b : 24. On en déduit le produit hermitien pour deux caractères χ_φ et χ_ψ, dans le cas d'une représentation complexe :

${\displaystyle {\begin{aligned}\langle \chi _{\varphi },\chi _{\psi }\rangle ={\frac {1}{168}}{\Big (}&\chi _{\varphi }(C_{1})\cdot {\overline {\chi _{\psi }(C_{1})}}+21\chi _{\varphi }(C_{2})\cdot {\overline {\chi _{\psi }(C_{2})}}+56\chi _{\varphi }(C_{3})\cdot {\overline {\chi _{\psi }(C_{3})}}\\&+42\chi _{\varphi }(C_{4})\cdot {\overline {\chi _{\psi }(C_{4})}}+24\chi _{\varphi }(C_{7a})\cdot {\overline {\chi _{\psi }(C_{7a})}}+24\chi _{\varphi }(C_{7b})\cdot {\overline {\chi _{\psi }(C_{7b})}}{\Big )}.\end{aligned}}}$

Les caractères de la table sont bien tous de norme 1 et orthogonaux deux à deux.

La représentation régulière λ de G, sur le K-espace vectoriel K^G des applications de G dans K, est celle issue de l'action à gauche de G sur lui-même par translation. Son caractère χ est :

${\displaystyle \forall s\in G,\qquad \chi (s)={\begin{cases}g\quad {\text{si}}\quad s=1\\0\quad {\text{sinon.}}\end{cases}}}$

Or sous les mêmes hypothèses que précédemment (permettant d'appliquer le théorème de Maschke et le lemme de Schur), on démontre que sa décomposition en somme directe d'irréductibles est :

${\displaystyle (K^{G},\lambda )\simeq \bigoplus _{i=1}^{h}d_{i}(S_{i},\rho _{i}),\quad {\text{avec}}\quad d_{i}=\dim(S_{i}).}$

La décomposition du caractère χ de λ en somme des caractères irréductibles χ₁, ..., χ_h est donc :

${\displaystyle \chi =\sum _{i=1}^{h}d_{i}\chi _{i}.}$

En théorie des groupes, la première méthode d'extension est donnée par le produit direct de deux groupes. En termes de représentation, cette extension se traduit par un produit tensoriel de deux représentations de deux groupes.

Une relation analogue existe pour le produit tensoriel de représentations :

• Le caractère du produit tensoriel de deux représentations (V, ρ) et (V',ρ') d'un groupe G est le produit des caractères des deux représentations.

En utilisant les notations précédentes et si (r_ij) (resp. (r'_i'j') est la matrice R_s (resp. R_s') la matrice P_s du produit tensoriel associée est égal à (p_{ij i'j'}) avec p_{ij i'j'} = r_ij.r'_i'j'. Un simple calcul de trace permet de conclure.

• Si χ_σ (resp. χ_α) désigne le caractère de la représentation du carré symétrique (resp. alterné), alors les deux formules suivantes s'appliquent :

${\displaystyle \forall s\in G\quad \chi _{\sigma }(s)={\frac {1}{2}}(\chi _{\rho }(s)^{2}+\chi _{\rho }(s^{2}))\quad et\quad \chi _{\alpha }(s)={\frac {1}{2}}(\chi _{\rho }(s)^{2}-\chi _{\rho }(s^{2}))\;}$

Les définitions des représentations du carré symétrique et alterné sont données dans l'article détaillé.

Une représentation induite est un mode de construction d'une représentation d'un groupe G à l'aide d'un de ses sous-groupes H. Soit (W, θ) une représentation de H, une représentation (V, ρ) est dite induite par celle de (W, θ) si et seulement si les différents sous-espaces ρ_cW où les valeurs de c forment un système de représentants des classes à gauche de G/H, sont, en somme directe, égale à V.

Il existe une unique représentation induite de G par une représentation (W, θ) d'un sous-groupe H. En termes de G-module, la représentation induite s'exprime simplement :

${\displaystyle V\simeq K[G]\otimes _{K[H]}W\;}$

La représentation induite correspond, en termes de G-module à une extension des scalaires K[H] à l'anneau K[G] sur le H-module W.

Dans le cas où H est un sous-groupe normal de G, la représentation induite est équivalente à un produit semi-direct.

Il existe une méthode simple pour calculer le produit hermitien du caractère d'une représentation induite : la formule de réciprocité de Frobenius Si ψ désigne le caractère de la représentation θ de H et χ celui d'une représentation de G, si Ind ψ désigne le caractère d'une représentation induite et Res χ le caractère de la restriction de ρ à H, alors :

${\displaystyle <Ind_{H}^{G}\,\psi \,|\,\chi >_{G}=<\psi \,|\,Res_{H}^{G}\,\chi >_{H}\;}$