Représentation irréductible

• Ou bien il existe un sous-groupe H de G contenant N et différent G tel que (W, σ) soit induite par une représentation irréductible de H, ou bien la restriction de σ à N est isotypique. (Serre, p. II - 16)

Soit W_i, où i varie de 1 à n, la décomposition canonique de la restriction de σ à N en composantes isotypiques. On dispose alors de l'égalité :

${\displaystyle W=\bigoplus _{i=1}^{n}W_{i}}$

Si s est un élément de G et si i est un entier compris entre 1 et n, alors σ(s)W_i est encore une composante isotypique. On remarque que, comme W est une représentation irréductible de G, l'action du groupe σ(G) est transitive sur la famille des W_i.

Si n est égal à 1, c'est-à-dire que W₁ est égal à W, alors la restriction de σ à N est isotypique.

Dans le cas contraire, considérons le sous-groupe H de G formé des éléments laissant globalement invariant W₁. Il est distinct de G et contient N. Soient θ' la restriction de σ à H et θ la sous-représentation de θ' sur le sous-espace W₁. Alors θ est irréductible et σ est induite par θ.

Pour démontrer la proposition suivante, un lemme, dû à Schur[4], est nécessaire :

• Si C est le centre du groupe G, alors le degré de toute représentation irréductible de G divise l'ordre du groupe quotient G/C. (Serre, p. II - 4)

Notons c l'ordre du sous-groupe C de G, et (W, σ) une représentation irréductible de G, de degré d. Si z est un élément de C, alors σ(z) commute avec tous les éléments σ(s) si s parcourt G. Le lemme de Schur permet de conclure que σ(z) est une homothétie, notons λ(z) son rapport. On remarque que l'application λ est un morphisme de groupes de C dans K*.

Considérons alors un entier strictement positif m et la représentation irréductible σ^⊗m de G^m sur W^⊗m. L'image par σ de tout élément (z₁, …, z_m) de C^m est l'homothétie de rapport λ(z₁ … z_m).

Notons H le sous-groupe de C^m formé des éléments (z₁, …, z_m) tels que le produit des m composantes soit égal à un. Ce sous-groupe normal de G^m est inclus dans le noyau de σ^⊗m. Par passage au quotient, on obtient une représentation irréductible du groupe G^m/H. Son degré, d^m, est donc un diviseur de l'ordre du groupe, g^m/c^m-1. Cette relation est vraie pour tout m, ce qui démontre le lemme.

• Si N est un sous-groupe normal abélien de G, alors le degré de toute représentation irréductible de G divise l'ordre du groupe quotient G/N. (Serre, p. II - 17)

Démontrons cette proposition par récurrence sur l'ordre de G. La représentation irréductible de G est ici notée (W, σ).

Si la restriction de σ à N est isotypique, alors, comme N est abélien et que les seules représentations irréductibles d'un groupe abélien fini sont de degré un, l'image de N par σ est composée d'homothéties. Notons G' et N' les images de G et N par σ. Considérons la représentation identité de G' à valeur dans GL(W). Le lemme précédent montre que le degré de cette représentation divise l'ordre du groupe quotient de G' par son centre. Or son centre contient N' car ce sous-groupe est composé d'homothéties. Le degré de σ, c'est-à-dire la dimension de W est donc un diviseur de l'ordre de G' /N' . Enfin l'application canonique de G/N dans G' /N' est surjective donc l'ordre de G' /N' est un diviseur de celui de G/N, ce qui termine la démonstration dans ce cas.

Si la restriction de σ à N n'est pas isotypique, alors il existe un groupe H distinct de G et contenant N, tel que la représentation (W, σ) soit induite par une représentation irréductible (W₁, θ) de H. Alors le degré de la représentation θ divise l'indice [H:N] par hypothèse de récurrence. Le degré de σ est égal à celui de θ que multiplie l'indice [G:H] et donc est un diviseur de [G:H]⋅[H:N], c'est-à-dire de [G:N].