Représentations du groupe symétrique
# Représentations du groupe symétrique

En mathématiques les représentations du groupe symétrique sont un exemple d'application de la théorie des représentations d'un groupe fini. L'analyse de ces représentations est une illustration des concepts comme le théorème de Maschke, les caractères, la représentation régulière, les représentations induites et la réciprocité de Frobenius.

## Histoire

L'histoire des représentations du groupe symétrique et du groupe alterné associés, joue un rôle particulier pour la théorie des caractères. Avril 1896 est le mois de naissance généralement considéré de cette théorie. Inspiré par une intense correspondance avec Dedekind qui avait calculé les représentations de $S_3$ et du groupe des quaternions, Frobenius analyse les représentations des groupes $S_4$ et $S_5$ et présente les fondements qu'il développe pendant les années à venir.

Si les méthodes sont différentes de celles maintenant utilisées – Frobenius adopte en effet comme outil essentiel l'idée de Dedekind des déterminants de groupes (en) tombés maintenant en désuétude – les bases de la théorie sont esquissées. Elle se développe rapidement ; Heinrich Maschke démontre le théorème portant maintenant son nom trois ans plus tard. En 1911, William Burnside publie la seconde édition du livre encore de référence contenant toutes les techniques utilisées dans cet article.

## Représentations irréductibles

### Quelques rappels

Les représentations d'un groupe fini G (sur un espace vectoriel complexe de dimension finie) possèdent une propriété simplifiant largement leur analyse, elles sont toutes sommes directes de représentations irréductibles. De plus, cette décomposition d'une représentation se « lit » sur son caractère, qui est l'application associant à tout élément de G la trace de son image par la représentation. En effet :

* le caractère d'une somme directe de représentations est la somme de leurs caractères ;
* tout caractère est une fonction centrale, c'est-à-dire une application (de G dans l'ensemble des nombres complexes) constante sur chaque classe de conjugaison ;
* pour le produit hermitien suivant, la famille des caractères irréductibles est une base orthonormale de l'espace de ces fonctions centrales :

$\langle \chi _{1}\mid \chi _{2}\rangle ={\frac {1}{|G|}}\sum _{s\in G}\chi _{1}(s).{\overline {\chi _{2}(s)}}.$

En résumé :

* le degré d'une représentation (i.e la dimension de l'espace vectoriel dans lequel se fait cette représentation) est égal à la valeur en 1 de son caractère,
* tout caractère est constant sur chacune des classes de conjugaison,
* les caractères irréductibles sont ceux de norme 1,
* ils sont orthogonaux deux à deux,
* leur nombre est égal au nombre de classes de conjugaison.

Enfin, les représentations irréductibles sont toutes isomorphes à des représentations régulières du groupe symétrique dans un sous-espace de son algèbre.

### Cas du groupe symétrique

Dans le cas particulier du groupe symétrique $S_n,$ il existe plusieurs méthodes permettant de construire les représentations irréductibles. L'une d'elles associe de façon bijective chaque représentation irréductible à un tableau de Young de n éléments.

Un tableau de Young est obtenu en répartissant les entiers de 1 à n en lignes de longueur décroissante. On remplit ces lignes par les entiers de 1 à n, dans l'ordre. Cela revient à effectuer une partition de l'entier n, en notant sa décomposition sous forme décroissante. Ainsi, le tableau ci-contre correspond à une partition de l'entier 10 sous la forme 5 + 4 + 1. On le désignera sous la forme [ [1, 2, 3, 4, 5], [6, 7, 8, 9], [10] ]. Il correspond également au choix de la classe de conjugaison dans le groupe symétrique $S_{10}$ formée des permutations ayant pour longueur de cycle respectivement 5, 4 et 1. En effet, deux permutations sont conjuguées si et seulement si leurs cycles à supports disjoints ont même longueur.

Comme il y a autant de représentations irréductibles de $S_n$ que de classes de conjugaison, et autant de classes de conjugaison que de tableaux de Young de longueur n, il y a autant de représentations irréductibles que de tableaux de Young. La correspondance se fait comme suit :

On se donne un tableau de Young de longueur n. On se place dans l'algèbre de groupe $\mathbb {C} [S_{n}]$ et l'on considère la représentation régulière de $S_n$ qui, à toute permutation s associe l'endomorphisme $a\in \mathbb {C} [S_{n}]\mapsto sa$. On associe au tableau de Young :

* D'une part les permutations p laissant globalement invariantes les lignes du tableau
* D'autre part les permutations q laissant globalement invariantes les colonnes du tableau
* L'élément c de $\mathbb {C} [S_{n}]$ égal à $\sum \epsilon (q)qp$ où $\epsilon (q)$ désigne la signature de q.
* L'idéal à gauche M de $\mathbb {C} [S_{n}]$ engendré par c, autrement dit, le sous-module sur $\mathbb {C} [S_{n}]$ engendré par les sc, s décrivant $S_n.$

On montre alors que :

* M est irréductible pour la représentation régulière
* Il existe $\mu$ non nul que $c^{2}=\mu c$
* Le nombre $d={\frac {n!}{\mu }}$ est la dimension de M comme espace vectoriel sur $\mathbb {C}$
* L'élément $e={\frac {1}{\mu ^{2}}}\sum _{t\in S_{n}}tct^{-1}$ est l'idempotent engendrant l'idéal bilatère R contenant M. Cet idéal forme un espace vectoriel sur $\mathbb {C}$ de dimension $d^{2}$.
* Le caractère de la représentation est donné par $\chi =\mu e$

On montre enfin que les représentations irréductibles associées à des tableaux de Young différents ne sont pas équivalentes. On obtient donc ainsi toutes les représentations irréductibles du groupe symétrique $S_n.$

## Quatre représentations irréductibles de $S_n$

Pour tout entier n supérieur ou égal à 2, on dispose de quatre représentations irréductibles de $S_n$ faciles à décrire :

### La représentation triviale t

Elle est associée au tableau de Young formé d'une seule ligne [ [1, 2, 3, ..., n] ]. Dans ce cas, :

* $c=\sum _{p\in S_{n}}p$
* $c^{2}=n!c$
* Pour tout s dans $S_n,$ $sc=c$, donc le sous-module M engendré est de dimension 1 et chaque élément du groupe est représenté par l'application identique.

### La représentation signature σ

Elle est associée au tableau de Young formé d'une seule colonne [ [1], [2], [3], ..., [n] ]. Dans ce cas, :

* $c=\sum _{q\in S_{n}}\epsilon q$
* $c^{2}=n!c$
* Pour tout s dans $S_n,$ $sc=\epsilon (s)c$, donc le sous-module M engendré est de dimension 1 et chaque élément du groupe est représenté par sa signature

### La représentation standard $φ_1$

Elle est associée au tableau de Young [ [1, 2, ..., n-1], [n] ]. On vérifie qu'il s'agit d'une représentation de degré n – 1, supplémentaire de t dans l'action naturelle ρ de $S_n$ sur $\mathbb {C} ^{n}$. Plus précisément, en notant $(e_i),$ pour i variant de 1 à n, la base canonique de $\mathbb {C} ^{n}$ :

* l'image ρ(s) d'une permutation s de $S_n$ est l'automorphisme de $\mathbb {C} ^{n}$ qui envoie la base $(e_i)$ sur la base $(e_{s(i)})$ ; sa matrice dans $(e_i)$ est donc la matrice de la permutation et le caractère de ρ, appliqué à s, est le nombre de points fixes de s ;
* t apparaît comme une sous-représentation de ρ car le vecteur somme des $e_i$ est fixe,
* $φ_1$ est la restriction de ρ à l'hyperplan supplémentaire stable constitué des vecteurs dont la somme des coordonnées est nulle ;
* l'irréductibilité de $φ_1$ se déduit du fait que son caractère est de norme 1, fait que nous vérifierons directement pour n = 4, mais qui se démontre de façon générale par 2-transitivité de $S_n$ ou par un calcul explicite ;

L'image de $S_n$ dans la représentation $φ_1$ peut se voir comme le groupe des isométries laissant globalement invariant un simplexe régulier dans un espace euclidien de dimension n, le groupe permutant les sommets de ce simplexe.

### La représentation $φ_2$

Il s'agit du produit de $φ_1$ par la signature σ, également de degré n–1. Elle est associée au tableau de Young [ [1, 2], [3], ..., [n] ]. D'une manière générale, lorsqu'une représentation irréductible est associée à un tableau de Young, le produit de cette représentation par la signature est la représentation irréductible associée au tableau de Young obtenu en inversant les rôles des lignes et des colonnes dans le tableau de Young initial.

## Les trois représentations irréductibles de $S_3$

Il existe trois tableaux de Young ayant 3 éléments, à savoir [ [1, 2, 3] ], [ [1, 2], [3] ] et [ [1], [2], [3] ]. Il existe donc trois représentations irréductibles du groupe $S_3.$

On peut dire aussi qu'il existe trois classes de conjugaisons, à savoir : 1 (l'identité), (ab) (transposition), (abc) (3-cycle).

Les quatre représentations ci-dessus épuisent la liste des trois représentations irréductibles de $S_3,$ et $φ_2$ est nécessairement équivalente à $φ_1.$

Les deux représentations t (triviale) et σ (signature) sont de degré 1, donc le caractère est égal à la représentation ; l'image des trois classes ci-dessus est (1, 1, 1) pour t et (1, –1, 1) pour σ.

Le caractère de $φ_1,$ appliqué à une permutation s, s'obtient en retranchant 1 au nombre de points fixes de s.

La table des caractères irréductibles de $S_3$ est donc :

| Car. irr. | 1 | (ab) | (abc) |
| - | - | - | - |
| t | 1 | 1 | 1 |
| σ | 1 | –1 | 1 |
| $φ_1$ | 2 | 0 | –1 |

On peut retrouver la représentation complexe $φ_1$ (par extension des scalaires) à partir de la représentation réelle qui réalise $S_3$ comme le groupe diédral $D_3$ des isométries du triangle $équilatéral^,$ : l'identité est de trace 2, les trois symétries axiales sont de trace nulle, et les deux rotations d'angles ±2π/3 ont pour trace –1.

La représentation irréductible $φ_2,$ produit de $φ_1$ par la fonction scalaire σ, a pour caractère le produit par σ du caractère de $φ_1.$ On peut donc vérifier sur cette table l'équivalence de $φ_1$ et $φ_2.$

On peut aussi vérifier que ces trois caractères forment bien une famille orthonormale (en particulier ils sont de norme 1, ce qui confirme leur irréductibilité), que les degrés des représentations associées sont des diviseurs de l'ordre du groupe, et que la représentation régulière, dont le caractère est (6, 0, 0), contient autant de copies d'une représentation irréductible donnée que le degré de cette représentation irréductible : (6, 0, 0)=(1, 1, 1)+(1, –1, 1)+2(2, 0, –1).

On remarque par ailleurs que toutes les valeurs de la table sont des entiers (donc tous les caractères du groupe sont à valeurs entières). C'est une propriété générale des groupes symétriques.

## Les cinq caractères irréductibles de $S_4$

Il existe cinq tableaux de Young de longueur 4, à savoir [ [1, 2, 3, 4] ], [ [1, 2, 3], [4] ], [ [1, 2], [3, 4] ], [ [1, 2], [3], [4] ] et [ [1], [2], [3], [4] ]. Il existe donc cinq représentations irréductibles du groupe $S_4,$ dont quatre ont déjà été données plus haut. Il s'agit de la représentation triviale t, la représentation σ correspondant à la signature, les deux représentations $φ_1$ et $φ_2,$ qui sont de degré 3, et la représentation θ associée au tableau de Young [ [1, 2], [3, 4] ] qui s'avère être de degré 2. Chaque représentation s'obtient à partir d'une autre par produit tensoriel avec la représentation correspondant à la signature. Par cette opération, θ redonne une représentation équivalente à elle-même.

$φ_1$ correspond aux isométries laissant invariant un tétraèdre, $φ_2$ correspond aux rotations linéaires laissant invariant un cube.

### Classes de conjugaison

Dans le cas de $S_4,$ la décomposition en cycles disjoints d'une permutation peut être de la forme : 1, (ab), (abc), (ab)(cd) (produit de deux transpositions disjointes) ou (abcd) (4-cycle). Les 24 éléments du groupe se répartissent donc en cinq classes de conjugaison, que nous prendrons toujours dans l'ordre arbitraire suivant :

| Décomposition | 1 | (ab) | (abc) | (ab)(cd) | (abcd) |
| - | - | - | - | - | - |
| Cardinal de la classe | 1 | 6 | 8 | 3 | 6 |

### Calcul de la table

Le calcul des caractères de t, σ, $φ_1$ et $φ_2$ (par la même méthode que pour $S_3)$ donne ici : (1, 1, 1, 1, 1), (1, –1, 1, 1, –1), (3, 1, 0, –1, –1) et (3, –1, 0, –1, 1).

Les quatre représentations irréductibles déjà identifiées ont des caractères distincts, donc ne sont pas équivalentes. On complète cette famille orthonormale par l'unique fonction centrale de norme 1 qui leur est orthogonale et dont la valeur sur 1 est positive : (2, 0, –1, 2, 0). C'est le caractère de la cinquième représentation irréductible, θ, qui est par conséquent de degré 2. (Comme c'était prévisible, il est invariant par produit par σ.) Le tableau des caractères est finalement :

| Car. irr. | 1 | (ab) | (abc) | (ab)(cd) | (abcd) |
| - | - | - | - | - | - |
| t | 1 | 1 | 1 | 1 | 1 |
| σ | 1 | –1 | 1 | 1 | –1 |
| θ | 2 | 0 | –1 | 2 | 0 |
| $φ_1$ | 3 | 1 | 0 | –1 | –1 |
| $φ_2$ | 3 | –1 | 0 | –1 | 1 |

La décomposition du caractère de la représentation régulière (qui aurait d'ailleurs pu servir à calculer le caractère de θ) est ici :

On peut préciser et interpréter les trois représentations $φ_1,$ $φ_2$ et θ. Le groupe symétrique est engendré par les transpositions, il n'est donc nécessaire de déterminer les représentations que pour celles-ci. De plus, on remarque que les transpositions (12), (23), (34) engendrent toutes les transpositions de $S_4,$ donc le groupe entier. Dans les paragraphes qui suivent (sauf pour $φ_2$ où on choisira d'autres générateurs), les représentations ne sont exprimées que sur ces trois éléments. Leur valeur sur le reste du groupe s'en déduit par produits.

### Représentation $φ_1$

Considérons la représentation standard $φ_1.$ Une base de l'hyperplan d'équation $x_1$ + $x_2$ + $x_3$ + $x_4$ = 0 est :

$u_{1}=e_{1}+e_{2}-e_{3}-e_{4},\quad u_{2}=e_{1}-e_{2}+e_{3}-e_{4},\quad u_{3}=e_{1}-e_{2}-e_{3}+e_{4}.$

Dans cette base, $φ_1$ est décrite par :

$\varphi _{1}(12)={\begin{pmatrix}1&0&0\\0&0&-1\\0&-1&0\end{pmatrix}},\quad \varphi _{1}(23)={\begin{pmatrix}0&1&0\\1&0&0\\0&0&1\end{pmatrix}},\quad \varphi _{1}(34)={\begin{pmatrix}1&0&0\\0&0&1\\0&1&0\end{pmatrix}}.$

Les images par $φ_1$ des permutations de $S_4$ sont alors les matrices orthogonales laissant globalement invariant le tétraèdre régulier de sommets $M_1$ = (–1,–1,–1), $M_2$ = (–1,1,1), $M_3$ = (1,–1,1) et $M_4$ = (1,1,–1), et permutant ces quatre sommets.

Les transpositions (ab) correspondent à des réflexions par rapport au plan médiateur du segment [a, b], les permutations (ab)(cd) à des demi-tours d'axe passant par les milieux de deux côtés opposés du tétraèdre, les permutations (abc) à des tiers de tour d'axe passant par le sommet invariant et le centre de la face opposée, et les permutations (abcd) aux composées d'un quart de tour d'axe passant par les milieux de deux côtés opposés et d'une réflexion par rapport au plan orthogonal à cet axe.

### Représentation $φ_2$

Pour obtenir la représentation $φ_2,$ il suffit de multiplier la représentation matricielle de $φ_1$ par le caractère σ. On peut la décrire sur les générateurs suivants :

$\varphi _{2}(1324)={\begin{pmatrix}1&0&0\\0&0&-1\\0&1&0\end{pmatrix}},\quad \varphi _{2}(1234)={\begin{pmatrix}0&0&-1\\0&1&0\\1&0&0\end{pmatrix}},\quad \varphi _{2}(1342)={\begin{pmatrix}0&1&0\\-1&0&0\\0&0&1\end{pmatrix}}.$

On reconnait trois rotations laissant invariant le cube, la première suivant l'axe des x, la deuxième suivant l'axe des y et la troisième suivant celui des z. La figure de gauche illustre l'interprétation géométrique de ces trois rotations : l'image de (1324) est celle représentée par la flèche rouge, celle de (1234) par la bleue et celle de (1342) par la verte.

Les rotations du cube permutent alors les quatre diagonales du cube ou, de manière équivalente, les quatre paires de sommets opposés. Les permutations (abcd) (les trois générateurs ci-dessus et leurs inverses) correspondent à des quarts de tour d'axes passant par les centres des faces, les permutations (ab)(cd), qui sont leurs carrés, à des demi-tours de mêmes axes, les transpositions (ab) à des demi-tours d'axes joignant les milieux de deux arêtes opposées, et les permutations (abc) à des tiers de tour d'axes joignant deux sommets opposés.

On peut également visualiser ce groupe de rotations comme celui du cuboctaèdre, puisque c'est le cube rectifié (en) : les milieux d'arêtes du cube deviennent les sommets du cuboctaèdre, les huit coins du cube sont coupés et remplacés par des faces triangulaires, et les rotations permutent alors les quatre paires de triangles opposés.

### Représentation θ

Vu son caractère, la représentation θ est de degré 2 et son noyau est inclus dans le sous-ensemble H formé de l'identité et des trois involutions de la forme (ab)(cd) (groupe de Klein). Cette inclusion est en fait une égalité, puisque dans le plan, la seule involution linéaire de trace 2 est l'identité. On en déduit que H est un sous-groupe normal de $S_4$ et que θ = $θ_2∘s,$ où s : $S_4$ → $S_4/H$ est la surjection canonique et $θ_2$ est une représentation du groupe quotient $S_4/H.$ Or ce quotient est isomorphe à $S_3$ (on peut voir cet isomorphisme, par exemple, en réalisant $S_4$ comme le groupe des rotations du cube (voir supra) et en considérant son action sur les trois paires de faces opposées). Via cette identification, $θ_2$ est donc entièrement déterminée : c'est la représentation irréductible de degré 2 de $S_3.$ Ceci détermine complètement θ :

$\theta _{(12)}=\theta _{(34)}={\begin{pmatrix}1&0\\0&-1\end{pmatrix}}\quad {\text{et}}\quad \theta _{(23)}={\begin{pmatrix}\cos {\frac {2\pi }{3}}&\sin {\frac {2\pi }{3}}\\\sin {\frac {2\pi }{3}}&-\cos {\frac {2\pi }{3}}\end{pmatrix}}.$

Elle n'est pas fidèle et chaque isométrie du triangle possède quatre antécédents. La figure de droite illustre cette représentation. On a nommé les trois sommets du triangle au moyen des trois étiquettes 1×2 + 3×4, 2×3 + 1×4 et 1×3 + 2×4. Une permutation de $S_4$ agit directement sur les chiffres de chaque étiquette. Ainsi, la transposition (12) laisse le sommet 1×2 + 3×4 invariant mais permute les deux sommets 2×3 + 1×4 et 1×3 + 2×4. On pourra vérifier que l'action de cette transposition est identique à celle de la transposition (34) ou celle des permutations circulaires (1324) ou (1423). Une telle action du groupe $S_4$ est utilisée pour résoudre les équations du quatrième degré.

## Les sept caractères irréductibles de $S_5$

Il existe sept tableaux de Young de longueur 5. Il existe donc sept représentations irréductibles du groupe $S_5.$ Outre la représentation triviale t, la représentation σ correspondant à la signature et les deux représentations $φ_1$ et $φ_2,$ qui sont de degré 4, données plus haut, il existe deux représentations de degré 5 et une représentation de degré 6.

### Classes de conjugaison

Dans $S_5,$ les classes de conjugaison sont du type : 1, (ab), (ab)(cd), (abc), (abc)(de), (abcd) ou (abcde). Le nombre de permutations selon la classe de conjugaison est donnée par le tableau suivant :

| Décomposition | 1 | (ab) | (ab)(cd) | (abc) | (abc)(de) | (abcd) | (abcde) |
| - | - | - | - | - | - | - | - |
| Cardinal de la classe | 1 | 10 | 15 | 20 | 20 | 30 | 24 |

### Table des caractères

On peut construire la table des caractères de $S_5$ à partir des représentations usuelles : le carré alterné de la représentation standard donne une représentation de degré 6 qu'on appelle θ qui est irréductible (on le vérifie en calculant la norme de son caractère), et on vérifie que le carré symétrique de la représentation standard contient une fois la représentation triviale et une fois la représentation standard, et que la troisième représentation qu'elle inclut est irréductible (on l'appelle $ψ_1).$ On peut alors construire $ψ_2$ comme le produit de $ψ_1$ et de la signature. On trouve la table suivante :

| Car. irr. | 1 | (ab) | (ab)(cd) | (abc) | (abc)(de) | (abcd) | (abcde) |
| - | - | - | - | - | - | - | - |
| t | 1 | 1 | 1 | 1 | 1 | 1 | 1 |
| σ | 1 | –1 | 1 | 1 | –1 | –1 | 1 |
| $φ_1$ | 4 | 2 | 0 | 1 | –1 | 0 | –1 |
| $ψ_1$ | 5 | 1 | 1 | –1 | 1 | –1 | 0 |
| θ | 6 | 0 | –2 | 0 | 0 | 0 | 1 |
| $ψ_2$ | 5 | –1 | 1 | –1 | –1 | 1 | 0 |
| $φ_2$ | 4 | –2 | 0 | 1 | 1 | 0 | –1 |
