Théorème de Maschke
# Théorème de Maschke

En mathématiques et plus précisément en algèbre, le théorème de Maschke est un des théorèmes fondamentaux de la théorie des représentations d'un groupe fini.

Ce théorème établit que si la caractéristique du corps ne divise pas l'ordre du groupe, alors toute représentation se décompose en facteurs irréductibles. Il se reformule en termes de modules sur l'algèbre d'un groupe fini et possède une généralisation partielle aux groupes compacts.

Ce théorème doit son nom au mathématicien allemand Heinrich Maschke.

## Énoncé

Précisons le vocabulaire et les propriétés utilisés dans les trois formulations du théorème.

* Une représentation (V, ρ) est dite complètement réductible si V est somme directe de sous-espaces irréductibles. En termes matriciels, cela signifie qu'il existe au moins une décomposition optimale, en somme de sous-espaces vectoriels, de l'espace vectoriel V, telle que tous les automorphismes de la représentation s'écrivent sous forme diagonale par blocs suivant cette décomposition ; l'optimalité étant choisie dans le sens qu'aucune décomposition plus fine ne conserverait la propriété d'écriture diagonale par blocs des automorphismes considérés.
* Cette propriété se reformule via le dictionnaire entre les représentations d'un groupe et les G-modules, c'est-à-dire les modules sur son algèbre : une représentation est complètement réductible si et seulement si le G-module correspondant est semi-simple, c'est-à-dire somme directe de modules simples.
* Un anneau A est dit semi-simple s'il est semi-simple en tant que module sur lui-même ou, ce qui est équivalent, si tous les A-modules sont semi-simples.

Théorème de Maschke (trois formulations équivalentes) — Soient G un groupe fini et K un corps dont la caractéristique ne divise pas l'ordre de G. Alors :

* toute représentation de G sur K est complètement réductible ;
* tout G-module sur K est semi-simple ;
* la K-algèbre de G est semi-simple.

Puisqu'un module est semi-simple si et seulement si tout sous-module est facteur direct, il suffit, pour prouver que la représentation (V, ρ) est complètement réductible, de démontrer que tout sous-espace vectoriel stable W possède un sous-espace supplémentaire stable. Pour cela, notons p un projecteur quelconque sur W. On a donc p ∘ $ρ_t$ ∘ p = $ρ_t$ ∘ p pour tout t ∊ G. Considérons alors la moyenne de p suivant G, c'est-à-dire l'application linéaire r définie par :

$r={\frac {1}{g}}\sum _{t\in G}\rho _{t}\circ p\circ \rho _{t}^{-1},$

où g ∈ K désigne l'unité de K additionnée à elle-même n fois, n étant l'ordre du groupe G (c'est pour pouvoir diviser par g qu'on a besoin de l'hypothèse sur la caractéristique).

On vérifie que p ∘ r = r et r ∘ p = p, ce qui prouve que r est un projecteur de même image que p. Il est de plus invariant par conjugaison par $ρ_u$ pour tout élément u de G. En effet,

$\rho _{u}\circ r\circ \rho _{u}^{-1}={\frac {1}{g}}\sum _{t\in G}\rho _{u}\circ (\rho _{t}\circ p\circ \rho _{t}^{-1})\circ \rho _{u}^{-1}={\frac {1}{g}}\sum _{t\in G}\rho _{ut}\circ p\circ \rho _{ut}^{-1}={\frac {1}{g}}\sum _{s\in G}\rho _{s}\circ p\circ \rho _{s}^{-1}=r.$

De cette invariance de r par conjugaison on déduit que son noyau est stable par la représentation. En effet, $ρ_u$ ∘ r = r ∘ $ρ_u$ donc pour tout vecteur v de Ker r, $r(ρ_u(v))$ = $ρ_u(r(v))$ = $ρ_u(0)$ = 0 donc $ρ_u(v)$ appartient à Ker r.

Ker r est un supplémentaire de W (car c'est le noyau d'un projecteur sur W) et il est stable par la représentation ; le théorème est donc démontré.

L'article « Groupe compact » détaille une généralisation partielle du théorème à certains groupes topologiques : les groupes compacts, grâce à l'existence d'une mesure positive finie compatible avec la loi du groupe et appelée mesure de Haar : pour un groupe compact, toute représentation continue de dimension finie sur ℝ ou ℂ est complètement réductible.

## Histoire

Le théorème voit le jour dans le contexte du développement de la théorie des représentations d'un groupe fini. Le mois d'avril 1896 voit dans trois réponses épistolaires de Frobenius à Dedekind la naissance de cette théorie. Frobenius comprend immédiatement qu'il est à l'origine d'une vaste théorie. Le 16 juillet, il publie un premier article. On peut y lire je développerai ici le concept [de caractère pour un groupe fini quelconque] avec la croyance que, à travers son introduction, la théorie des groupes sera substantiellement enrichie.

L'école de mathématiques de l'université de Chicago étudie aussi ce sujet, avec un accent particulier sur les corps finis, un de ses membres, Heinrich Maschke, élève de Felix Klein, travaille sur le cas des caractères du groupe symétrique. En 1898, il démontre un cas particulier de ce qui deviendra son théorème. Il trouve la preuve générale l'année suivante et elle est publiée dans le journal Mathematische Annalen que dirige Klein. Un mathématicien allemand Alfred Loewy énonce, sans preuve, un résultat analogue au théorème en 1896.

En 1908, Joseph Wedderburn publie son article peut-être le plus célèbre, classifiant toutes les algèbres semi-simples (voir « Théorème d'Artin-Wedderburn ») ; la formulation du théorème s'en trouve modifiée.

## Applications

* Ce théorème simplifie la théorie des représentations d'un groupe fini ou de sa K-algèbre. En effet, il suffit de se limiter aux représentations irréductibles. Les autres se déduisent directement par somme directe.
* Ce théorème permet de démontrer simplement que tout groupe abélien fini est un produit de groupes cycliques. Le lemme de Schur prouve que sur ℂ, les représentations irréductibles sont de degré 1. Il suffit alors de considérer la représentation régulière et d'appliquer le théorème de Maschke pour conclure.

## Exemple : représentation régulière du groupe symétrique $S_3$

Soit (V, λ) la représentation régulière gauche sur ℚ du groupe symétrique $S_3,$ constitué des six permutations de l'ensemble {1, 2, 3} : l'identité notée id, les deux 3-cycles $c_1$ = (123) et $c_2$ = (132) et les trois transpositions $t_1$ = (23), $t_2$ = (13) et $t_3$ = (12). Le ℚ-espace vectoriel V a pour base canonique (id, $c_1,$ $c_2,$ $t_1,$ $t_2,$ $t_3)$ à l'ordre près.

On remarque l'existence de deux vecteurs propres pour toutes les images par λ :

$w_{1}=\mathrm {id} +c_{1}+c_{2}+t_{1}+t_{2}+t_{3}\quad {\text{et}}\quad w_{2}=\mathrm {id} +c_{1}+c_{2}-t_{1}-t_{2}-t_{3}.$

Toute permutation laisse $w_1$ invariant ; les trois permutations paires laissent $w_2$ invariant et les trois impaires transforment $w_2$ en $–w_2.$

Le plan vectoriel W engendré par $w_1$ et $w_2$ est stable ; le théorème de Maschke indique une méthode pour lui trouver un sous-espace supplémentaire stable : soit p n'importe quel projecteur sur W, alors l'application

${\frac {1}{6}}\sum _{t\in S_{3}}\lambda _{t}\circ p\circ \lambda _{t}^{-1}$

est encore un projecteur sur W, et son noyau U est stable par toutes les images par λ. On trouve que c'est le sous-espace défini, dans la base canonique, par les équations

$x_{1}+x_{2}+x_{3}=0,\quad x_{4}+x_{5}+x_{6}=0.$

De plus, dans la base de U

$u_{1}=\mathrm {id} -c_{2}+t_{2}-t_{3},\quad u_{2}=c_{1}-c_{2}+t_{1}-t_{3},\quad u_{3}=c_{1}-c_{2}-t_{1}+t_{2},\quad u_{4}=-\mathrm {id} +c_{1}+t_{2}-t_{3},$

les restrictions à U des images des deux générateurs $c_1$ et $t_1$ de $S_3$ ont pour matrices respectives :

${\begin{pmatrix}-1&-1&0&0\\1&0&0&0\\0&0&-1&-1\\0&0&1&0\end{pmatrix}},\quad {\begin{pmatrix}0&1&0&0\\1&0&0&0\\0&0&0&1\\0&0&1&0\end{pmatrix}}.$

Par conséquent, les deux plans $H_1$ = $Vect(u_1,$ $u_2)$ et $H_2$ = $Vect(u_3,$ $u_4),$ supplémentaires dans U, sont stables et les deux sous-représentations associées sont équivalentes. La décomposition en représentations irréductibles de $S_3$ prédite par le théorème de Maschke est alors :

    $V={\rm {Vect}}(w_{1})\oplus {\rm {Vect}}(w_{2})\oplus H_{1}\oplus H_{2}.$
