Groupe alterné
# Groupe alterné

En mathématiques, et plus précisément en théorie des groupes, le groupe alterné de degré n, souvent noté $A_n,$ est un sous-groupe distingué du groupe symétrique des permutations d'un ensemble fini à n éléments. Ce sous-groupe est constitué des permutations produits d'un nombre pair de transpositions. Une transposition est une permutation qui échange deux éléments et fixe tous les autres.

Il existe un groupe alterné pour chaque entier n supérieur ou égal à 2 ; il se note habituellement $A_n$ (ou parfois ${\mathfrak {A}}_{n}$ en écriture Fraktur) et possède n!/2 éléments. Le plus petit groupe alterné, $A_2,$ est trivial ; $A_3$ est cyclique d'ordre 3 ; le suivant, $A_4,$ est résoluble et, plus précisément, est produit semi-direct d'un groupe de Klein par le groupe cyclique d'ordre 3. À partir du groupe $A_5,$ les groupes alternés sont simples et non abéliens, donc non résolubles. Cette non-résolubilité à partir de n = 5 a pour conséquence le théorème d'Abel, stipulant qu'il ne peut exister d'expression générique par radicaux des solutions d'une équation algébrique de degré supérieur ou égal à 5.

Le groupe alterné est la structure source de certains casse-têtes mathématiques comme le jeu de taquin ou le Rubik's Cube. Les mouvements possibles dans les deux jeux cités sont des éléments d'un groupe alterné. Cette propriété permet de montrer qu'il n'est pas possible de permuter deux cases du taquin sans modifier le reste du jeu.

Les groupes alternés de degré 4 et 5 se représentent comme le groupe des rotations laissant invariant un polyèdre régulier, le tétraèdre pour $A_4$ et le dodécaèdre régulier ou encore l'icosaèdre pour $A_5.$

## Construction du groupe

### Définition

Un résultat, à la base de la définition de la signature, stipule que le nombre de transpositions nécessaires pour décomposer une permutation donnée est toujours de même parité. Ainsi, le cycle (abc), qui transforme a en b, b en c et c en a peut se décomposer en deux transpositions (bc), puis (ab) ou encore en (ac) puis (bc) mais jamais en un produit d'un nombre impair de transpositions.

Définition —  Une permutation est dite paire lorsqu'elle se décompose en un nombre pair de transpositions. Dans le cas inverse, la permutation est dite impaire.

Cette définition est à l'origine de celle d'un groupe alterné.

Définition —  Le groupe alterné de degré n, noté $A_n,$ est le sous-groupe des permutations paires de degré n.

Remarque : On trouve aussi l'expression groupe alterné d'indice n, à la place de groupe alterné de degré n. Ce choix est un peu ambigu, l'indice de $A_n$ dans $S_n$ désigne, pour d'autres auteurs, le cardinal du groupe quotient $S_n/A_n.$ On trouve encore le terme d'ordre pour décrire le degré. Cette convention est plus rarement utilisée, car le terme d'ordre étant employé en théorie des groupes pour décrire le cardinal d'un groupe, ce choix introduit une confusion parfois regrettable.

### Propriétés élémentaires

Dans toute la suite de l'article, n désigne un entier supérieur ou égal à 2. La définition précédente repose sur une propriété fondamentale partagée par toutes les permutations :

Propriété 1 —  La parité du nombre de transpositions nécessaires pour décomposer une permutation donnée est indépendante de la décomposition choisie.

Cette propriété se démontre à l'aide du concept de signature d'une permutation, traitée dans le paragraphe suivant. Une fois établie, une deuxième propriété se démontre simplement :

Propriété 2 —  L'ensemble $A_n$ des permutations paires de $S_n$ forme un sous-groupe distingué.

En effet, $A_n$ est non vide car il contient l'application identité, qui se décompose en zéro transposition, ou encore en deux fois la même transposition. Si $φ_1$ et $φ_2$ sont deux permutations paires, respectivement produits de 2p et 2q transpositions, alors leur produit est aussi une permutation paire (comme produit de 2(p + q) transpositions). Enfin, l'inverse d'une permutation σ est de même parité que σ (donc est paire si σ l'est), car si σ est un produit $τ_1…τ_r$ de r transpositions, son inverse est égal à $τ_r…τ_1,$ le produit des mêmes transpositions prises dans l'ordre inverse.

Dire que $A_n$ est distingué revient à dire que si φ est élément du sous-groupe et si σ est une permutation quelconque de $S_n,$ alors la permutation $σφσ^{−1}$ est paire. En effet, φ est le produit d'un nombre pair de transpositions, et le paragraphe précédent montre que $σ^{−1}$ se décompose en autant de transpositions que σ. Le nombre de toutes ces transpositions est donc pair car de la forme r + 2p + r.

Propriété 3 —  L'ordre de $A_n$ est la moitié de celui de $S_n,$ c'est-à-dire n!/ 2.

En effet, fixons dans $S_n$ une transposition σ et considérons l'application f de $S_n$ dans $S_n$ qui, à une permutation φ, associe φσ. Une telle application est, dans un groupe, appelée translation à droite. La fonction f, comme toute translation, est une bijection. De plus, φ est paire si et seulement si φσ est impaire, donc f se restreint en une bijection de $A_n$ dans l'ensemble des permutations impaires, c'est-à-dire $S_n\A_n.$ Ces deux ensembles ont par conséquent même cardinal. Or ils forment une partition de $S_n,$ puisqu'ils sont disjoints et que leur réunion vaut $S_n,$ ce qui termine la démonstration.

Propriété 4 —  Soit m, un entier inférieur ou égal à n. Un cycle de $S_n$ et de longueur m est élément du groupe alterné si, et seulement si, m est impair.

Une démonstration par récurrence en est donnée dans l'article « Permutation circulaire ».

### Signature

La signature d'une permutation est la parité du nombre d'inversions contenues dans une permutation. On démontre que cette application est un morphisme de groupes de $S_n$ dans {-1, 1} et que la signature d'une transposition est toujours égale à -1. On en déduit que le nombre de transpositions nécessaires pour décomposer une permutation ne peut être tantôt pair et tantôt impair. En effet, si φ est une permutation qui se décompose en p ou bien q transpositions, la signature de φ, d'après la propriété de morphisme, est à la fois égale à $(-1)^p$ et $(-1)^q,$ ce qui montre que p et q sont de même parité. On en déduit une nouvelle définition du groupe alterné, équivalente à la précédente :

Définition alternative —  Le groupe alterné $A_n$ est le noyau du morphisme signature du groupe symétrique $S_n.$

Cette approche offre des démonstrations alternatives aux propositions du paragraphe précédent numérotées de 2 et 3. Le noyau d'un morphisme est toujours un sous-groupe distingué, ce qui montre que $A_n$ est un sous-groupe distingué. L'ordre du noyau que multiplie l'ordre de l'image d'un morphisme de groupes est égal à l'ordre du groupe de départ, ce qui permet de déterminer l'ordre du groupe alterné.

### Exemples

Le groupe alterné de degré 2 ne contient que l'élément neutre.

Le groupe symétrique de degré 3 est d'ordre 6 et contient : l'identité, trois transpositions et deux cycles d'ordre 3. Le groupe alterné de degré 3 ne comporte que l'identité et les cycles d'ordre 3 :

${\mathfrak {A}}_{3}=\{{\text{I}},\,(123),\,(132)\}$

Comme tout groupe contenant 3 éléments, il est cyclique.

Le groupe symétrique de degré 4 est d'ordre 24, le groupe alterné associé est d'ordre 12. Il contient les cycles d'ordre 3 et les produits de deux cycles d'ordre 2 de supports disjoints :

${\mathfrak {A}}_{4}=\{{\text{I}},\,(234),\,(243),\,(134),\,(143),\,(124),\,(142),\,(123),\,(132),\,(12)(34),\,(13)(42),\,(14)(23)\}$

Le groupe alterné de degré 4 n'est pas abélien. En effet, les cycles (1 2 3) et (2 3 4) ne commutent pas. Aucun groupe alterné de degré supérieur ou égal à 4 n'est abélien, pour la même raison. Le groupe alterné de degré 4 est néanmoins résoluble, il contient un sous-groupe distingué abélien K, composé des produits de deux transpositions à support disjoints et de l'élément neutre. Ce sous-groupe K est abélien car isomorphe au groupe de Klein et le quotient $A_4/K$ est aussi abélien, et même cyclique, car d'ordre 3.

Le groupe alterné de degré 5 est d'ordre 60. Il est étudié plus avant à la suite de cet article.

### Jeu de taquin

Le jeu de taquin, est un jeu solitaire qui se présente sous la forme d'un damier composé de 15 cases et d'une 16e manquante. Sa théorisation mathématique date de 1879 et se fonde sur les propriétés du groupe alterné. Une des questions posée par Sam Loyd est celle de la résolution du jeu de taquin illustré à droite. Elle correspond à la résolution d'un état du jeu où toutes les cases sont à la bonne position exceptées celles numérotées 14 et 15, qui sont interverties. Elle est impossible si l'on impose à la case vide d'être en bas à droite. Elle l'est si on admet que la case vide soit en haut à gauche et que la première ligne ne contienne que les cases 1, 2 et 3.

Si l'on considère un mouvement comme une permutation des cases numérotées de 1 à 15, alors le groupe des permutations de degré 15 opère sur le jeu de taquin. Pour être plus précis, le groupe qui opère est un sous-groupe engendré par les différentes permutations possibles. Il est relativement simple de vérifier que les permutations engendrant le sous-groupe sont toutes des cycles d'ordre 3 ou 5. Ces permutations sont toutes dans le groupe alterné $A_{15}.$ Le groupe qui opère sur le jeu de taquin est un sous-groupe du groupe alterné $A_{15},$ qui ne contient aucune transposition. C'est une manière simple de démontrer que la configuration de droite n'est pas résoluble.

D'autres solitaires, comme l'Âne rouge ou le Rubik's Cube utilisent de manière analogue le groupe alterné.

On numérote une position de la manière indiquée par la figure de droite. Le trou n'est pas compté. Ainsi, la position initiale représentée sur la figure est (123456789…). Le mouvement correspondant à la flèche bleue donne la position (134562789…), elle correspond à la permutation (23456), un cycle d'ordre 5 et donc une permutation paire. Celle correspondant à la flèche rouge donne (123456978…), elle correspond à la permutation (798) un cycle d'ordre 3, et donc encore une permutation paire. Si la case vide est sur un bord, on obtient soit la permutation constante soit un cycle d'ordre 7, donc toujours une permutation paire. Ainsi toutes les permutations générant le sous-groupe opérant sur le jeu de taquin sont paires et appartiennent donc au groupe alterné.

La permutation nécessaire à la résolution du cas de figure intitulée Jeu de taquin non résoluble est une transposition, de signature impaire, elle n'est donc pas réalisable car le groupe alterné ne contient aucune transposition.

Avec les notations utilisées, le cas de figure intitulée Jeu de taquin non résoluble correspond à la position 1,2,3,4,8,7,6,5,9,10,11,12,14,15,13. Celle correspondant au taquin reconstitué dans l'ordre avec la case vide en première position à 1,2,3,7,6,5,4,8,9,10,11,15,14,13,12. Passer de l'une à l'autre des positions impose la permutation (47586)(12 15 13), produit de deux permutations de signature paire, donc paire. Il est ainsi possible de résoudre la question posée par Sam Loyd si l'on permet à la case vide de se trouver en haut à gauche.

La référence sur le taquin montre que le groupe alterné $A_{15}$ est bien celui qui opère sur le jeu.

## Générateurs et relations

   Les 3-cycles engendrent le groupe alterné.

En effet, tout produit de deux transpositions est un produit de 3-cycles, puisque pour a, b, c, d distincts, (ab)(ab) = id, (ab)(bc) = (abc) et (ab)(cd) = (abc)(bcd).

Il suffit en fait des 3-cycles (i, n – 1, n) pour 1 ≤ i ≤ n – 2 — ou bien (1, i + 1, n). On obtient ainsi une présentation du groupe $A_n$ à n – 2 générateurs $V_i$ et (n – 1)(n – 2)/2 relations : $V_i^3$ = 1 et, pour i < j, $(V_iV_j)^2$ = 1.

Si n > 3, on peut aussi prendre comme générateurs t = (1, 2, 3) et s égal soit à (3, 4, … , n) si n est impair, soit à (1, 2)(3, 4, … , n) si n est pair. On obtient encore une présentation, à seulement 2 générateurs et E(n/2) + 2 relations :

    si n est impair : $s^{n–2}$ = $t^3$ = $(st)^n$ = 1 et, pour 1 ≤ k ≤ (n – 3)/2, $(ts^{–k}ts^k)^2$ = 1 ;
    si n est pair : $s^{n–2}$ = $t^3$ = $(st)^{n–1}$ = 1 et, pour 1 ≤ k ≤ (n – 2)/2, $(t^{(–1)k}s^{–k}ts^k)^2$ = 1.

## Classes de conjugaison

### Structure

La structure des classes de conjugaison est l'un des premiers éléments à étudier dans le cadre d'une analyse d'un groupe non abélien. Elles sont utilisées dans la suite de l'article pour établir que si n est strictement supérieur à 4, le groupe est simple, ou encore que tout groupe simple d'ordre 60 est isomorphe à $A_5.$

Dans un groupe symétrique, les classes de conjugaison sont composées de produits de cycles à supports disjoints de même structure, c'est-à-dire de même nombre et de mêmes longueurs. En conséquence, les classes de conjugaison du groupe alterné sont aussi composées de produits de cycles à supports disjoints de même structure ; plus précisément :

   Une classe de conjugaison dans $A_n$ est constituée d'éléments ayant la même structure. Les permutations ayant cette structure constituent :
   * une classe si la structure comporte un cycle de longueur paire ou deux cycles de même longueur (éventuellement égale à 1) ;

   * deux classes sinon.
* Une classe de conjugaison dans $A_n$ est constituée d'éléments ayant la même structure. Les permutations ayant cette structure constituent une classe si la structure comporte un cycle de longueur paire ou deux cycles de même longueur (éventuellement égale à 1), deux classes sinon : Établir la nature des classes de conjugaison de $A_{n}$ est simplifié par le travail équivalent pour le groupe symétrique : on sait déjà que deux permutations sont conjuguées par un élément de $S_{n}$ si et seulement si elles ont même structure. Soit $\sigma =c_{1}$…$c_{m}$ une permutation paire décomposée en produit de cycles disjoints. D'après la formule des classes, le nombre de ses conjugués (pairs aussi) dans $S_{n}$ est égal à l'indice, dans $S_{n}$, de son centralisateur $S_{\sigma }$ dans ce groupe, et le nombre de ses conjugués dans $A_{n}$ est égal à l'indice, dans $A_{n}$, de son centralisateur $A_{\sigma }=S_{\sigma }\cap A_{n}$ dans ce groupe.
   * Commençons par établir le cas où la classe de conjugaison de $\sigma$ dans $A_{n}$ est la même que dans $S_{n}$ :
      * Si l'un des $c_{i}$ est d'ordre pair, alors $S_{\sigma }$ contient une permutation impaire (ce cycle), si bien que $A_{\sigma }$ est d'indice 2 dans $S_{\sigma }$, de même que $A_{n}$ est d'indice 2 dans $S_{n}$. On en déduit que $[A_{n}:A_{\sigma }]=[S_{n}:S_{\sigma }]$, c'est-à-dire que $\sigma$ n'a pas plus de conjugués dans $S_{n}$ que dans $A_{n}$.
      * Si deux des $c_{i}$ sont de même ordre $k$ impair, soient $(a_1a_2…a_k)$ et $(b_1b_2…b_k)$ ces deux cycles, alors le produit des k transpositions $(a_1b_1)(a_2b_2)…(a_kb_k)$ est une permutation impaire qui appartient à $S_{\sigma }$, et on conclut comme précédemment.
   * Établissons le cas où la classe de conjugaison de $\sigma$ dans $S_{n}$ est divisée en deux : Si les longueurs des $c_{i}$ (de somme $n$) sont distinctes, alors (d'après l'étude des classes de conjugaison dans $S_{n}$) $S_{\sigma }$ est simplement le sous-groupe engendré par $c_{1},$…$,c_{m}$. Si de plus toutes ces longueurs sont impaires, alors les $c_{i}$ appartiennent à $A_{n}$. Ainsi, $S_{\sigma }$ est inclus dans $A_{n}$ donc $A_{\sigma }=S_{\sigma }$, si bien que $[S_{n}:S_{\sigma }]=[S_{n}:A_{\sigma }]=[S_{n}:A_{n}][A_{n}:A_{\sigma }]=2[A_{n}:A_{\sigma }]$, c'est-à-dire que le nombre de conjugués de $\sigma$ dans $S_{n}$ est le double de celui de ses conjugués dans $A_{n}$.

### Exemples

La seule classe de conjugaison de $S_4$ qui se trouve divisée en deux dans $A_4$ est celle des cycles d'ordre 3. Un tel élément est en effet composé de deux cycles de longueurs impaires et différentes : 1 et 3. Les cycles d'ordre 1 sont en effet comptés. La classe de l'élément neutre ne contient qu'un élément et n'est jamais divisée. Celle des permutations composées de deux transpositions à supports disjoints n'est pas divisée en deux, car une telle permutation contient des cycles de longueurs paires ou encore car elle contient deux cycles de même longueur. On obtient 4 classes de conjugaison : l'identité, les produits de deux cycles disjoints d'ordre 2 et deux classes de cycles d'ordre 3 :

$C_{I}=\{I\},\quad C_{2,2}=\{(12)(34),~(13)(24),~(14)(23)\},$

$C_{3a}=\{(123),~(142),~(134),~(243)\}\quad {\text{et}}\quad C_{3b}=\{(132),~(124),~(143),~(234)\}.$

Dans le cas de $A_5,$ il est plus long d'écrire toutes les classes en extension, on trouve en effet 60 éléments. Il existe 5 classes de conjugaison. Une contient l'identité, une autre 15 permutations formées de deux transpositions à supports disjoints. Cette classe n'est pas divisée car elle contient un cycle de longueur paire. Les 20 cycles d'ordre 3 ne forment plus qu'une classe de conjugaison car chacun est maintenant complété par deux cycles de même longueur (d'ordre 1). Enfin, les cycles d'ordre 5 sont divisés en 2 classes de conjugaisons contenant 12 permutations chacune.

## Groupe simple

### Simplicité et groupe alterné

Une propriété éventuelle et importante d'un groupe est d'être simple, ce qui signifie qu'il ne contient pas de sous-groupe normal propre.

* Si n est un entier supérieur ou égal à 5, le groupe alterné de degré n est simple.

Les groupes alternés forment une deuxième série infinie de groupes simples, après ceux, abéliens et d'ordre un nombre premier. Cette série contient le plus petit groupe simple non commutatif :

* Le groupe alterné de degré 5 est le plus petit groupe simple non abélien et tout groupe simple d'ordre 60 est isomorphe à $A_5^,.$

Si n ≥ 5, le groupe $A_n$ est simple et non abélien, donc non trivial et parfait (c'est-à-dire égal à son sous-groupe dérivé), donc non résoluble. Puisqu'il est égal au sous-groupe dérivé du groupe $S_n,$ ce dernier n'est pas résoluble non plus. Cette propriété intervient par exemple dans la résolution d'une équation algébrique par radicaux. On peut la préciser ainsi :

* Si n est un entier supérieur ou égal à 5, le seul sous-groupe normal propre de $S_n$ est $A_n,$ donc $S_n$ n'est pas résoluble.
* Si n est un entier supérieur ou égal à 5, le groupe alterné de degré n est simple :

La méthode proposée ici est peu technique. Il en existe d'autres.

Soient H un sous-groupe normal du groupe alterné $A_n,$ et contenant un élément σ distinct du neutre. Il existe donc a tel que $b:=\sigma (a)\neq a$. Soient ensuite $c\notin \{a,b,\sigma (b),\sigma ^{-1}(a)\}$ et $\tau =(abc)$. Alors la composée $\tau (\sigma (c)\sigma (b)b)=\tau (\sigma (c)\sigma (b)\sigma (a))=\tau (\sigma \tau ^{-1}\sigma ^{-1})=(\tau \sigma \tau ^{-1})\sigma ^{-1}$ appartient à H et est de l'une des formes suivantes (avec a, b, … distincts) :

* $(abc)(cab)=(acb)$ ;
* $(abc)(cdb)=(ab)(cd)$, auquel cas H contient aussi (par conjugaison dans $A_n$ pour n ≥ 5) une permutation de la forme (cd)(be) et donc également la composée (ab)(cd)(cd)(be) = (ab)(be) = (abe) ;
* $(abc)(dab)=(ac)(bd)$, cas analogue au précédent ;
* $(abc)(deb)=(abdec)$, auquel cas H contient aussi la conjuguée (eba)(abdec)(abe) = (adbce) donc également la composée (abdec)(adbce) = (eba).

En conclusion : dans tous les cas, H contient un 3-cycle, donc (par conjugaison dans $A_n$ pour n ≥ 5) il les contient tous, si bien que H = $A_n.$

(Remarque : même si n n'est pas supposé au moins égal à 5, il est encore vrai que le seul sous-groupe distingué de $A_n$ qui comprenne un cycle d'ordre 3 est $A_n$ lui-même. En effet, on prouve facilement que si $γ_1$ et $γ_2$ sont des cycles d'ordre 3 dans $A_n,$ un au moins des deux cycles $γ_2$ et $γ_2^{−1}$ est conjugué de $γ_1$ dans $A_n$ et non seulement dans $S_n.)$

* Le groupe alterné de degré 5 est le plus petit groupe simple non abélien :

Dans un premier temps, utilisons un théorème de Burnside stipulant qu'un groupe simple non abélien possède un ordre dont la décomposition en facteurs premiers contient au minimum 3 nombres premiers. Les seuls entiers inférieurs à 60 vérifiant cette propriété sont 30 et 42.

Un groupe de 30 éléments n'est jamais simple ; les théorèmes de Sylow permettent de le démontrer. Ils assurent en effet que le nombre de sous-groupes d'ordre 5 d'un tel groupe est un diviseur de 6 et est congru à 1 modulo 5 (donc est égal à 1 ou 6) et que le nombre de sous-groupe d'ordre 3 est un diviseur de 10 et est congru à 1 modulo 3 (donc est égal à 1 ou 10). S'il y a 6 sous-groupes d'ordre 5 alors, comme ces sous-groupes ont pour intersection deux à deux l'élément neutre (car tout élément non neutre d'un groupe d'ordre premier engendre l'intégralité du groupe), le groupe entier contient 24 éléments d'ordre 5. De même, s'il existe 10 sous-groupes d'ordre 3 alors le groupe contient 20 éléments d'ordre 3. Mais ces deux éventualités ne peuvent être simultanées (24 + 20 > 30). Il existe donc un unique sous-groupe d'ordre 5 ou un unique sous-groupe d'ordre 3. L'unicité assure qu'un tel sous-groupe est normal.

* Si n est un entier supérieur ou égal à 5, le seul sous-groupe normal propre de $S_n$ est $A_n$ donc $S_n$ n'est pas résoluble :

Soit H un sous-groupe normal de $S_n.$ L'intersection de H et du groupe alterné $A_n$ est un sous-groupe normal du groupe simple $A_n$ ; c'est donc soit le groupe alterné, soit le groupe trivial.

Si H contient le groupe alterné, alors son indice dans $S_n$ est un diviseur de 2 (l'indice du groupe alterné). H est donc soit le groupe alterné, soit le groupe symétrique.

Si H ne contient pas le groupe alterné alors il est réduit au neutre. En effet, pour tout élément σ de H et toute permutation τ, la permutation $(τστ^{−1})σ^{−1}$ est un élément pair de H donc est égale au neutre, autrement dit : tout élément σ de H est central dans $S_n,$ donc neutre.

Le seul sous-groupe normal propre de $S_n$ est donc $A_n.$ Ce sous-groupe est simple et non abélien ; en conséquence, $S_n$ n'est pas résoluble.

### Conséquence

Si le groupe de Galois d'un polynôme irréductible sur un corps parfait comme ℚ, celui des nombres rationnels, n'est pas résoluble, alors les racines du polynômes ne s'expriment pas à l'aide de radicaux. Tel est le contenu de la version formulée par Évariste Galois et en langage moderne, du théorème d'Abel. Les exemples les plus simples (cf. articles détaillés) s'obtiennent à l'aide d'une équation de degré n ≥ 5 dont le groupe de Galois est le groupe symétrique $S_n,$ qui n'est pas résoluble d'après les résultats précédents. Le théorème d'Abel montre que l'équation P(X) = 0 n'est alors pas résoluble par radicaux dans ℚ.

Remarque. Les groupes simples non abéliens qui interviennent dans les groupes de Galois ne sont pas nécessairement des groupes alternés. En revanche, si un polynôme de degré 5 n'est pas résoluble, cela signifie nécessairement que le groupe de Galois contient comme sous-groupe distingué le groupe alterné de degré 5.

## Représentation

### Caractère

Une manière d'étudier un groupe fini G est de le représenter à l'aide d'un sous-groupe d'un groupe linéaire.

Soit ρ une représentation de G, sur un espace vectoriel complexe V dont la dimension — appelée le degré de ρ — est finie. Le caractère de ρ est l'application χ qui à un élément s du groupe associe la trace de l'automorphisme ρ(s) de V. La valeur de χ(s) ne dépend pas du choix de s dans sa classe de conjugaison. Le caractère est dit irréductible si la représentation est irréductible, c'est-à-dire si V est non nul et ne possède pas d'autre sous-espace stable par tous les ρ(s) que l'espace entier et l'espace nul.

* Le nombre des caractères irréductibles $χ_i$ de G est égal au nombre h de classes de conjugaison.
* Soient |G| l'ordre du groupe, s et t deux éléments de G non conjugués, et n(s) le nombre de conjugués de s. Alors (« relations d'orthogonalité sur les colonnes » de la table des caractères) :$\sum _{i=1}^{h}\chi _{i}(s){\overline {\chi _{i}(t)}}=0\quad {\rm {et}}\quad \sum _{i=1}^{h}|\chi _{i}(s)|^{2}={\frac {|G|}{n(s)}}~;$
* en particulier (pour s égal au neutre) les degrés $d_i$ des représentations associées aux $χ_i$ vérifient :$\sum _{i=1}^{h}d_{i}^{2}=|G|.$
* Un caractère χ est irréductible si et seulement s'il est « de norme 1 », ce qui se traduit par :

$\sum _{g\in G}|\chi (g)|^{2}=|G|.$

### Groupe alterné de degré 4

Il y a 4 classes de conjugaison (12 = 1 + 3 + 4 + 4) donc 4 caractères irréductibles.

Le premier est donné par la représentation triviale, de degré 1, qui à chaque élément de $A_4$ associe l'automorphisme identité. Son caractère t associe 1 à chaque élément du groupe $A_4.$

Il existe deux autres représentations de degré 1 du groupe quotient $A_4/K$ : elles associent à un générateur (d'ordre 3) de ce groupe, respectivement, les racines cubiques de l'unité j et $j^2.$

On obtient une quatrième représentation par restriction à $A_4$ de la représentation standard $φ_1$ (de degré 3) de $S_4.$ Son caractère φ est défini par φ(1) = 3, φ(ab)(cd) = –1 et φ(abc) = φ(acb) = 0. Ce caractère est de norme 1 donc irréductible.

On en déduit la table des caractères :

| Car. irr. | 1 | (ab)(cd) | (abc) | (acb) |
| - | - | - | - | - |
| t | 1 | 1 | 1 | 1 |
| $σ_1$ | 1 | 1 | j | $j^2$ |
| $σ_2$ | 1 | 1 | $j^2$ | j |
| φ | 3 | –1 | 0 | 0 |

La représentation de degré 3 est utilisée dans le paragraphe « Groupe des rotations du tétraèdre ».

### Groupe alterné de degré 5

On peut déterminer les caractères de $A_5$ par une approche générique assez lourde, ou par les calculs élémentaires suivants. Il y a 5 classes de conjugaison (60 = 1 + 15 + 20 + 12 + 12) donc 5 caractères irréductibles, tous réels. Leur table est :

| Car. irr. | 1 | (ab)(cd) | (abc) | (abcde) | (acebd) |
| - | - | - | - | - | - |
| t | 1 | 1 | 1 | 1 | 1 |
| $σ_1$ | 3 | –1 | 0 | (1 + √5)/2 | (1 – √5)/2 |
| $σ_2$ | 3 | –1 | 0 | (1 – √5)/2 | (1 + √5)/2 |
| φ | 4 | 0 | 1 | –1 | –1 |
| ψ | 5 | 1 | –1 | 0 | 0 |

Outre la représentation triviale t, on dispose, par restriction de la représentation standard $φ_1$ (de degré 4) de $S_5,$ d'un caractère φ = (4, 0, 1, –1, –1), de norme 1 donc irréductible. De même, par restriction de la représentation $ψ_1$ de $S_5$ (de degré 5), on trouve le caractère irréductible ψ = (5, 1, –1, 0, 0).

Les degrés des deux représentations manquantes sont 3 et 3, car $3^2$ + $3^2$ est la seule décomposition de 60 – $1^2$ – $4^2$ – $5^2$ = 18 en somme de deux carrés.

On complète facilement la table grâce aux relations d'orthogonalité sur les colonnes.

De plus, leur indicateur de Frobenius-Schur (en) est égal à 1 donc ils proviennent de représentations réelles (en). Cette remarque s'applique en particulier aux représentations de degré 3. Le paragraphe « Groupe des rotations du dodécaèdre » montre qu'une telle représentation correspond au groupe des rotations d'un solide de Platon.

## Groupe des rotations d'un polyèdre régulier

### Représentation et géométrie

Les groupes $A_4$ et $A_5$ admettent des représentations réelles irréductibles de degré 3. Chacune est même, pour un produit scalaire adhoc sur $ℝ^3,$ une représentation par isométries.

Ces isométries sont toutes des rotations car leur déterminant est égal à 1 : pour n égal à 4, on le constate sur la description explicite ci-dessous ; pour n égal à 5, cela résulte du fait que $A_5$ est un groupe simple non abélien.

Les représentations de degré 3, pour n égal à 4 ou 5, sont fidèles, c'est-à-dire injectives : à nouveau, on le déduit pour n = 4 de la description explicite et pour n = 5, du fait que $A_5$ est simple.

Pour n égal à 4 ou 5, le groupe $A_n$ est donc isomorphe à un sous-groupe G du groupe des rotations de $ℝ^3.$ On identifiera chaque application linéaire à l'application affine associée qui fixe un point origine O. Montrons que G est le groupe des rotations d'un polyèdre régulier.

### Groupe des rotations du tétraèdre

La représentation de degré 3 de $A_4$ a été obtenue par restriction de la représentation standard de $S_4.$

Le groupe G, constitué de 12 rotations, est engendré par deux d'entre elles, $r_1$ et $r_2,$ tiers de tour ayant les matrices suivantes dans une base orthonormale :

$R_{1}={\begin{pmatrix}0&0&-1\\1&0&0\\0&-1&0\end{pmatrix}}\quad {\text{et}}\quad R_{2}={\begin{pmatrix}0&1&0\\0&0&1\\1&0&0\end{pmatrix}}$

Soient s un point de l'axe de $r_2,$ distinct de O, et S son orbite, c'est-à-dire l'ensemble des points g(s) quand g parcourt le groupe G. Par construction, cette orbite S est (globalement) stable par l'action de G. Elle forme les sommets d'un polyèdre (son enveloppe convexe), qui est par conséquent, lui aussi, stable par G.

   Ce polyèdre est un tétraèdre régulier et son groupe des rotations est G.
* Ce polyèdre a 4 sommets : choisissons par exemple s = (–1, –1, –1) et notons t = (1, –1, 1), u = (–1, 1, 1) et v = (1, 1, –1). Alors, $r_1$ fixe v et permute circulairement (s, t, u), tandis que $r_2$ fixe s et permute circulairement (t, u, v).
* Ce tétraèdre est régulier : d'après ce qui précède, les deux faces (stu) et (tuv) sont des triangles équilatéraux, isométriques car de côté commun (tu). L'arête restante (vs) est l'image de (vu) par $r_1,$ donc a même longueur.
* Son groupe des rotations est G : il contient G ; montrons qu'il lui est égal, c'est-à-dire que le tétraèdre n'a que 12 rotations. Une rotation du tétraèdre est entièrement déterminée par l'image (ab) de l'arête (st). Il y a 4 choix possibles pour a (parmi les 4 sommets), puis 3 pour b (parmi les 3 sommets différents de a).

### Groupe des rotations du dodécaèdre

Le groupe $A_5$ est aussi isomorphe à un groupe G de rotations de $ℝ^3.$

Dans la boîte déroulante ci-dessous, on montre — par un raisonnement analogue à celui du paragraphe précédent — que G est égal au groupe des rotations d'un icosaèdre régulier I, ou, ce qui est équivalent, au groupe des rotations de son polyèdre dual (le polyèdre dont les sommets sont les centres des faces de I, cf. figure de gauche), qui est un dodécaèdre régulier D. Il existe ainsi deux polyèdres réguliers ayant un groupe de rotations isomorphe à $A_5$ (ce phénomène n'apparaissait pas pour $A_4,$ parce que le tétraèdre est son propre dual).

Pour démontrer que $A_5$ est isomorphe au groupe H des rotations du dodécaèdre D, une méthode plus directe — sans passer par G, mais en supposant connue la géométrie de D — est de remarquer qu'il existe 5 cubes dont les sommets sont parmi ceux de D (cf. figure de droite). Le groupe H opère fidèlement sur l'ensemble de ces 5 cubes. Il est donc isomorphe à un sous-groupe de $S_5.$ On sait par ailleurs que H est d'ordre 60 (cf. « Groupe de rotations de l'icosaèdre »). Dans $S_5,$ le seul sous-groupe à 60 éléments (donc normal) est $A_5,$ ce qui montre l'isomorphisme recherché.

Pour l'icosaèdre, on commence comme pour le tétraèdre : soient φ une rotation de G d'ordre 5, s un point de son axe, distinct de O, S l'orbite de s sous l'action de G, et I l'enveloppe convexe de S (stable par G). Le stabilisateur de s est réduit aux 5 puissances de φ — car la représentation est fidèle or dans $A_5,$ le centralisateur d'un élément d'ordre 5 est le sous-groupe engendré par cet élément — donc S contient 12 points.

Ces 12 sommets de I, situés sur la sphère de centre O et passant par s, sont permutés par φ, donc se répartissent en : le point s, le point diamétralement opposé, et (les sommets de) deux pentagones réguliers, dans deux plans perpendiculaires à l'axe de φ. Puisque I possède des rotations d'ordre 3, ces deux plans sont distincts, donc les faces contenant s sont 5 triangles isocèles (reliant s à celui des deux pentagones qui est le plus proche).

Puisque l'action de G sur S est transitive, le stabilisateur de n'importe quel sommet t est, comme celui de s, engendré par une rotation d'ordre 5, donc la répartition des 12 sommets par rapport à t est analogue. On en déduit, de proche en proche, que toutes les arêtes ont même longueur (donc les faces sont en fait équilatérales).

Le polyèdre I est donc un icosaèdre régulier. Puisque son groupe des rotations est d'ordre 60 et contient G, il est égal à G.

Son polyèdre dual D est régulier et a même groupe de rotations. Puisque I a 12 sommets, 30 arêtes et 20 faces, D a 20 sommets, 30 arêtes et 12 faces : c'est un dodécaèdre.

