Théorème de Maschke

Précisons le vocabulaire et les propriétés utilisés dans les trois formulations du théorème.

• Une représentation (V, ρ) est dite complètement réductible si V est somme directe de sous-espaces irréductibles. En termes matriciels, cela signifie qu'il existe au moins une décomposition optimale, en somme de sous-espaces vectoriels, de l'espace vectoriel V, telle que tous les automorphismes de la représentation s'écrivent sous forme diagonale par blocs suivant cette décomposition ; l'optimalité étant choisie dans le sens qu'aucune décomposition plus fine ne conserverait la propriété d'écriture diagonale par blocs des automorphismes considérés.
• Cette propriété se reformule via le dictionnaire entre les représentations d'un groupe et les G-modules, c'est-à-dire les modules sur son algèbre : une représentation est complètement réductible si et seulement si le G-module correspondant est semi-simple, c'est-à-dire somme directe de modules simples.
• Un anneau A est dit semi-simple s'il est semi-simple en tant que module sur lui-même ou, ce qui est équivalent, si tous les A-modules sont semi-simples.

Démonstration

Puisqu'un module est semi-simple si et seulement si tout sous-module est facteur direct, il suffit, pour prouver que la représentation (V, ρ) est complètement réductible, de démontrer que tout sous-espace vectoriel stable W possède un sous-espace supplémentaire stable. Pour cela, notons p un projecteur quelconque sur W. On a donc p ∘ ρ_t ∘ p = ρ_t ∘ p pour tout t ∊ G. Considérons alors la moyenne de p suivant G, c'est-à-dire l'application linéaire r définie par :

${\displaystyle r={\frac {1}{g}}\sum _{t\in G}\rho _{t}\circ p\circ \rho _{t}^{-1},}$

où g ∈ K désigne l'unité de K additionnée à elle-même n fois, n étant l'ordre du groupe G (c'est pour pouvoir diviser par g qu'on a besoin de l'hypothèse sur la caractéristique).

On vérifie que p ∘ r = r et r ∘ p = p, ce qui prouve que r est un projecteur de même image que p. Il est de plus invariant par conjugaison par ρ_u pour tout élément u de G. En effet,

${\displaystyle \rho _{u}\circ r\circ \rho _{u}^{-1}={\frac {1}{g}}\sum _{t\in G}\rho _{u}\circ (\rho _{t}\circ p\circ \rho _{t}^{-1})\circ \rho _{u}^{-1}={\frac {1}{g}}\sum _{t\in G}\rho _{ut}\circ p\circ \rho _{ut}^{-1}={\frac {1}{g}}\sum _{s\in G}\rho _{s}\circ p\circ \rho _{s}^{-1}=r.}$

De cette invariance de r par conjugaison on déduit que son noyau est stable par la représentation. En effet, ρ_u ∘ r = r ∘ ρ_u donc pour tout vecteur v de Ker r, r(ρ_u(v)) = ρ_u(r(v)) = ρ_u(0) = 0 donc ρ_u(v) appartient à Ker r.

Ker r est un supplémentaire de W (car c'est le noyau d'un projecteur sur W) et il est stable par la représentation ; le théorème est donc démontré.

L'article « Groupe compact » détaille une généralisation partielle du théorème à certains groupes topologiques : les groupes compacts, grâce à l'existence d'une mesure positive finie compatible avec la loi du groupe et appelée mesure de Haar : pour un groupe compact, toute représentation continue de dimension finie sur ℝ ou ℂ est complètement réductible.

Le théorème voit le jour dans le contexte du développement de la théorie des représentations d'un groupe fini. Le mois d'avril 1896 voit dans trois réponses[1] épistolaires de Frobenius à Dedekind la naissance de cette théorie. Frobenius comprend immédiatement qu'il est à l'origine d'une vaste théorie. Le 16 juillet, il publie un premier article[2]. On peut y lire[3] je développerai ici le concept [de caractère pour un groupe fini quelconque] avec la croyance que, à travers son introduction, la théorie des groupes sera substantiellement enrichie.

L'école de mathématiques de l'université de Chicago étudie aussi ce sujet, avec un accent particulier sur les corps finis, un de ses membres, Heinrich Maschke, élève de Felix Klein, travaille sur le cas des caractères du groupe symétrique. En 1898, il démontre un cas particulier de ce qui deviendra son théorème[4]. Il trouve la preuve générale l'année suivante et elle est publiée[5] dans le journal Mathematische Annalen que dirige Klein. Un mathématicien allemand Alfred Loewy énonce, sans preuve, un résultat analogue au théorème en 1896.

En 1908, Joseph Wedderburn publie son article peut-être le plus célèbre, classifiant toutes les algèbres semi-simples (voir « Théorème d'Artin-Wedderburn ») ; la formulation du théorème s'en trouve modifiée.

• Ce théorème simplifie la théorie des représentations d'un groupe fini ou de sa K-algèbre. En effet, il suffit de se limiter aux représentations irréductibles. Les autres se déduisent directement par somme directe.
• Ce théorème permet de démontrer simplement que tout groupe abélien fini est un produit de groupes cycliques. Le lemme de Schur prouve que sur ℂ, les représentations irréductibles sont de degré 1. Il suffit alors de considérer la représentation régulière et d'appliquer le théorème de Maschke pour conclure.

Soit (V, λ) la représentation régulière gauche sur ℚ du groupe symétrique S₃, constitué des six permutations de l'ensemble {1, 2, 3} : l'identité notée id, les deux 3-cycles c₁ = (123) et c₂ = (132) et les trois transpositions t₁ = (23), t₂ = (13) et t₃ = (12). Le ℚ-espace vectoriel V a pour base canonique (id, c₁, c₂, t₁, t₂, t₃) à l'ordre près.

On remarque l'existence de deux vecteurs propres pour toutes les images par λ :

${\displaystyle w_{1}=\mathrm {id} +c_{1}+c_{2}+t_{1}+t_{2}+t_{3}\quad {\text{et}}\quad w_{2}=\mathrm {id} +c_{1}+c_{2}-t_{1}-t_{2}-t_{3}.}$

Toute permutation laisse w₁ invariant ; les trois permutations paires laissent w₂ invariant et les trois impaires transforment w₂ en –w₂.

Le plan vectoriel W engendré par w₁ et w₂ est stable ; le théorème de Maschke indique une méthode pour lui trouver un sous-espace supplémentaire stable : soit p n'importe quel projecteur sur W, alors l'application

${\displaystyle {\frac {1}{6}}\sum _{t\in S_{3}}\lambda _{t}\circ p\circ \lambda _{t}^{-1}}$

est encore un projecteur sur W, et son noyau U est stable par toutes les images par λ. On trouve que c'est le sous-espace défini, dans la base canonique, par les équations

${\displaystyle x_{1}+x_{2}+x_{3}=0,\quad x_{4}+x_{5}+x_{6}=0.}$

De plus, dans la base de U

${\displaystyle u_{1}=\mathrm {id} -c_{2}+t_{2}-t_{3},\quad u_{2}=c_{1}-c_{2}+t_{1}-t_{3},\quad u_{3}=c_{1}-c_{2}-t_{1}+t_{2},\quad u_{4}=-\mathrm {id} +c_{1}+t_{2}-t_{3},}$

les restrictions à U des images des deux générateurs c₁ et t₁ de S₃ ont pour matrices respectives :

${\displaystyle {\begin{pmatrix}-1&-1&0&0\\1&0&0&0\\0&0&-1&-1\\0&0&1&0\end{pmatrix}},\quad {\begin{pmatrix}0&1&0&0\\1&0&0&0\\0&0&0&1\\0&0&1&0\end{pmatrix}}.}$

Par conséquent, les deux plans H₁ = Vect(u₁, u₂) et H₂ = Vect(u₃, u₄), supplémentaires dans U, sont stables et les deux sous-représentations associées sont équivalentes. La décomposition en représentations irréductibles de S₃ prédite par le théorème de Maschke est alors :

${\displaystyle V={\rm {Vect}}(w_{1})\oplus {\rm {Vect}}(w_{2})\oplus H_{1}\oplus H_{2}.}$