Représentation irréductible
# Représentation irréductible

En mathématiques et plus précisément en théorie des représentations, une représentation irréductible est une représentation non nulle qui n'admet qu'elle-même et la représentation nulle comme sous-représentations. Le présent article traite des représentations d'un groupe. Le théorème de Maschke démontre que dans de nombreux cas, une représentation est somme directe de représentations irréductibles. Dans le cas des groupes finis, les informations liés aux représentations irréductibles sont encodées dans la table de caractères du groupe.

## Définitions et exemples

### Définitions

Dans toute la suite de l'article, G désigne un groupe et (V, ρ) une représentation linéaire de G sur un corps K.

* Une représentation (V, ρ) est dite irréductible si V et {0} sont distincts et sont les deux seuls sous-espaces stables.
* Un caractère d'une représentation est dit irréductible si la représentation associée l'est.

La théorie des représentations s'exprime aussi en termes de G-modules, c'est-à-dire de modules sur l'algèbre K[G] du groupe. V dispose naturellement d'une structure de G module. Dans ce contexte, la définition prend la forme suivante :

* Une représentation (V, ρ) est dite irréductible si V est simple en tant que G-module.
* Une représentation (V, ρ) est dite isotypique si ses sous-G-modules simples sont isomorphes deux à deux.

### Exemples

* Toute représentation de degré 1 est irréductible.
* Il n'existe qu'une représentation irréductible et fidèle du groupe symétrique d'indice trois. L'article Représentations du groupe symétrique contient une analyse exhaustive des représentations irréductibles de ce groupe, ainsi que de celui d'indice quatre.
* La représentation standard du groupe des isométries linéaires du plan euclidien (c'est-à-dire l'action linéaire naturelle du groupe orthogonal sur ce plan) est irréductible.

## Théorème de Maschke

Le théorème de Maschke indique que tout sous-espace irréductible de la représentation (V, ρ) est facteur direct, c'est-à-dire qu'il possède un sous-espace supplémentaire stable.

Ce théorème s'applique au moins dans deux cas importants :

* si le groupe est fini et si la caractéristique de K ne divise pas son ordre ;
* si le groupe est un groupe compact.

Dans ce cas, le module V est semi-simple. Toute représentation de G est alors somme directe de représentations irréductibles. Plus précisément, toute représentation de G est somme directe de ses sous-représentations isotypiques, et chacune de ces composantes est elle-même (de façon non unique) somme directe de sous-représentations irréductibles deux à deux équivalentes.

Par exemple pour la représentation régulière d'un groupe fini, chaque composante isotypique est somme directe de d copies d'une même représentation irréductible de degré d.

## Cas d'un groupe fini

On suppose dans ce paragraphe que G est un groupe fini d'ordre g et que la caractéristique de K ne divise pas g. Le théorème de Maschke s'applique alors. (W, σ) désigne ici une représentation irréductible de G de degré d. On suppose enfin que le polynôme $X^g$ – 1 est scindé dans K.

### Fonction centrale

L'espace vectoriel des fonctions centrales, c'est-à-dire constantes sur chaque classe de conjugaison, à valeurs dans K, est muni d'une forme bilinéaire symétrique canonique ( | ) pour laquelle les caractères irréductibles forment une base orthonormée. En particulier :

* Il existe autant de représentations irréductibles distinctes que de classes de conjugaison dans le groupe.

### Caractère

Lorsque K est de caractéristique nulle, la forme bilinéaire précédente fournit une condition nécessaire et suffisante commode pour déterminer l'irréductibilité d'une représentation.

* Un caractère χ est irréductible si et seulement si (χ|χ)=1.

### Algèbre du groupe

L'algèbre K[G] correspond à un enrichissement de la structure algébrique de la représentation régulière. Le centre de l'algèbre est l'anneau commutatif des fonctions centrales, sur lequel il est possible d'utiliser des théorèmes d'arithmétique. Ils permettent par exemple de démontrer la propriété suivante, originellement due à Frobenius pour les représentations complexes :

* Le degré d'une représentation irréductible divise l'ordre du groupe.

La démonstration en caractéristique nulle de (Serre, p. II - 4) est reproduite dans la section « Entier algébrique » de l'article « Algèbre d'un groupe fini ».

### Produit tensoriel

Le produit tensoriel permet, à partir de représentations de deux groupes $G_1$ et $G_2,$ de construire une représentation de leur produit direct $G_1×G_2,$ et pour les représentations irréductibles on a une bijection :

* Les représentations irréductibles de $G_1×G_2$ sont exactement (à isomorphisme près) les produits tensoriels d'une représentation irréductible de $G_1$ et d'une représentation irréductible de $G_2.$

### Représentation induite

Dans le cas où N est un sous-groupe normal de G, les représentations induites permettent d'établir une relation entre une représentation irréductible σ de G et sa restriction à N :

* ou bien il existe un sous-groupe H de G contenant N et différent G tel que σ soit induite par une représentation irréductible de H ;
* ou bien la restriction de σ à N est isotypique.

On en déduit le théorème d'Itô :

* Si N est un sous-groupe normal abélien de G, alors le degré de toute représentation irréductible de G divise l'ordre du groupe quotient G/N.
* Ou bien il existe un sous-groupe H de G contenant N et différent G tel que (W, σ) soit induite par une représentation irréductible de H, ou bien la restriction de σ à N est isotypique. (Serre, p. II - 16)

Soit $W_i,$ où i varie de 1 à n, la décomposition canonique de la restriction de σ à N en composantes isotypiques. On dispose alors de l'égalité :

$W=\bigoplus _{i=1}^{n}W_{i}$

Si s est un élément de G et si i est un entier compris entre 1 et n, alors $σ(s)W_i$ est encore une composante isotypique. On remarque que, comme W est une représentation irréductible de G, l'action du groupe σ(G) est transitive sur la famille des $W_i.$

Si n est égal à 1, c'est-à-dire que $W_1$ est égal à W, alors la restriction de σ à N est isotypique.

Dans le cas contraire, considérons le sous-groupe H de G formé des éléments laissant globalement invariant $W_1.$ Il est distinct de G et contient N. Soient θ' la restriction de σ à H et θ la sous-représentation de θ' sur le sous-espace $W_1.$ Alors θ est irréductible et σ est induite par θ.

Pour démontrer la proposition suivante, un lemme, dû à Schur, est nécessaire :

* Si C est le centre du groupe G, alors le degré de toute représentation irréductible de G divise l'ordre du groupe quotient G/C. (Serre, p. II - 4)

Notons c l'ordre du sous-groupe C de G, et (W, σ) une représentation irréductible de G, de degré d. Si z est un élément de C, alors σ(z) commute avec tous les éléments σ(s) si s parcourt G. Le lemme de Schur permet de conclure que σ(z) est une homothétie, notons λ(z) son rapport. On remarque que l'application λ est un morphisme de groupes de C dans K*.

Considérons alors un entier strictement positif m et la représentation irréductible $σ^{⊗m}$ de $G^m$ sur $W^{⊗m}.$ L'image par σ de tout élément $(z_1,$ …, $z_m)$ de $C^m$ est l'homothétie de rapport $λ(z_1$ … $z_m).$

Notons H le sous-groupe de $C^m$ formé des éléments $(z_1,$ …, $z_m)$ tels que le produit des m composantes soit égal à un. Ce sous-groupe normal de $G^m$ est inclus dans le noyau de $σ^{⊗m}.$ Par passage au quotient, on obtient une représentation irréductible du groupe $G^m/H.$ Son degré, $d^m,$ est donc un diviseur de l'ordre du groupe, $g^m/c^{m-1}.$ Cette relation est vraie pour tout m, ce qui démontre le lemme.

* Si N est un sous-groupe normal abélien de G, alors le degré de toute représentation irréductible de G divise l'ordre du groupe quotient G/N. (Serre, p. II - 17)

Démontrons cette proposition par récurrence sur l'ordre de G. La représentation irréductible de G est ici notée (W, σ).

Si la restriction de σ à N est isotypique, alors, comme N est abélien et que les seules représentations irréductibles d'un groupe abélien fini sont de degré un, l'image de N par σ est composée d'homothéties. Notons G' et N' les images de G et N par σ. Considérons la représentation identité de G' à valeur dans GL(W). Le lemme précédent montre que le degré de cette représentation divise l'ordre du groupe quotient de G' par son centre. Or son centre contient N' car ce sous-groupe est composé d'homothéties. Le degré de σ, c'est-à-dire la dimension de W est donc un diviseur de l'ordre de G' /N' . Enfin l'application canonique de G/N dans G' /N' est surjective donc l'ordre de G' /N' est un diviseur de celui de G/N, ce qui termine la démonstration dans ce cas.

Si la restriction de σ à N n'est pas isotypique, alors il existe un groupe H distinct de G et contenant N, tel que la représentation (W, σ) soit induite par une représentation irréductible $(W_1,$ θ) de H. Alors le degré de la représentation θ divise l'indice [H:N] par hypothèse de récurrence. Le degré de σ est égal à celui de θ que multiplie l'indice [G:H] et donc est un diviseur de [G:H]⋅[H:N], c'est-à-dire de [G:N].

De plus, le critère d'irréductibilité de Mackey fournit une condition nécessaire et suffisante pour qu'une représentation induite soit irréductible.

