Caractère d'une représentation d'un groupe fini
# Caractère d'une représentation d'un groupe fini

En mathématiques le caractère d'une représentation d'un groupe fini est un outil utilisé pour analyser les représentations d'un groupe fini.

Le caractère d'une représentation (V, ρ) d'un groupe G correspond à l'application de G dans le corps de l'espace de la représentation qui à un élément s associe la trace de l'image de s par ρ.

Cette définition n'est pas compatible avec celle des caractères d'un groupe en général qui ne prend ses valeurs que dans l'ensemble des complexes non nuls.

L'utilisation du caractère d'une représentation d'un groupe fini est essentielle pour la classification des représentations. Une somme directe de représentations possède pour caractère la somme des caractères et deux représentations irréductibles non équivalentes possèdent des caractères orthogonaux.

## Définitions

* Le caractère $χ_ρ$ de la représentation (V, ρ) d'un groupe fini G est l'application, de G dans le corps K de la représentation, qui à s associe la trace de $ρ_s$ :$\forall s\in G\quad \chi _{\rho }(s)=\mathrm {Tr} (\rho _{s}).$

Un cas important est celui où K est le corps des nombres complexes.

Un exemple simple est celui des représentations de degré 1. Il est alors possible d'identifier V à K. Le caractère apparaît comme un morphisme de groupes. Le théorème de Lagrange permet alors de démontrer que l'ensemble des images est inclus dans celui des racines |G|-ièmes de l'unité.

* Un caractère irréductible est le caractère d'une représentation irréductible.

## Contexte

### Histoire

Les travaux de Jordan avec la publication d'un livre sur les équations algébriques représentent une première analyse d'un groupe fini de matrices représentant un groupe de Galois. Frobenius démarre en 1896 l'étude de la théorie des caractères des groupes finis, les caractères ne sont pas encore liés à la notion de représentation. Cette même année il communique, dans une lettre à Dedekind les caractères des représentations irréductibles des groupes symétriques $S_4$ et $S_5.$

La théorie est rapidement développée ; entre 1897 et 1899, la machinerie est mise en place. Frobenius développe le produit tensoriel, les représentations induites ainsi que son théorème de réciprocité. En 1900 il détermine les caractères des groupes symétriques et l'année suivante ceux des groupes alternés. Durant cette époque, Heinrich Maschke démontre le théorème portant maintenant son nom qui stipule que toute représentation d'un groupe fini est somme directe de représentations irréductibles.

William Burnside comprend rapidement la profondeur des travaux de Frobenius. Il utilise la théorie des caractères pour montrer qu'un groupe d'ordre $p^n.q^m$ si p et q sont premiers est un groupe résoluble. Il publie en 1911 la deuxième édition d'un livre de référence. Elle formalise en une théorie le savoir de l'époque sur les groupes finis, l'édition contient les travaux sur les caractères de Frobenius.

Un autre acteur important de la théorie, Issai Schur, est un élève de Frobenius. Non seulement il travaille sur les aspects théoriques et démontre son lemme, mais de plus, dans l'année 1925, il applique la théorie à la physique quantique.

La théorie est l'objet d'un large développement durant le XXe siècle. On peut citer les travaux d'Emil Artin avec la notion de caractère virtuel, ceux de Richard Brauer avec son théorème sur les combinaisons linéaires à coefficients entiers ou encore plus récemment John Griggs Thompson, qui reçoit en 1970 une médaille Fields pour avoir démontré une vieille conjecture de Burnside annonçant que tout groupe fini d'ordre impair est résoluble.

### Motivation

Le théorème de Maschke démontre que si la caractéristique du corps de base ne divise pas l'ordre du groupe G étudié alors toute représentation est somme directe de représentations irréductibles.

La théorie se concentre alors sur deux points clés : comment connaître les représentations irréductibles et comment, pour une représentation donnée, connaître ses facteurs irréductibles. La théorie des caractères répond partiellement à ces deux questions.

### Introduction par l'exemple

Considérons le polynôme P(X) = $X^3$ + X + 1, à coefficients dans le corps ℚ des rationnels. La théorie montre que son groupe de Galois est isomorphe au groupe symétrique $S_3,$ donc que la dimension du ℚ-espace vectoriel sur lequel il opère naturellement est égale à 6. Le groupe se représente par six matrices carrées 6×6, ce qui rend le problème un peu ardu. Mais un autre théorème assure que cette action du groupe de Galois est équivalente à la représentation régulière λ de $S_3,$ qu'il s'agit donc de décomposer.

Recherchons dans un premier temps toutes les représentations irréductibles. Comme pour tout groupe, la représentation unité est le morphisme trivial t qui à tout élément du groupe associe l'identité de ℚ. Pour un groupe symétrique, une autre représentation de degré 1 (donc irréductible elle aussi) est le morphisme signature σ, qui à toute permutation impaire associe –1. On dispose également de la représentation standard de $S_3,$ illustrée sur la figure de gauche. Le ℚ-espace vectoriel est de dimension 2. Lorsqu'on étend à ℝ le corps de base et qu'on munit ce plan d'une structure euclidienne ad hoc, le morphisme θ envoie chaque élément du groupe sur une isométrie : pour l'élément neutre c'est l'identité ; pour les trois transpositions, ce sont des symétries orthogonales, d'axes représentés en rouge sur la figure ; pour les deux 3-cycles, ce sont les rotations d'angles 2π/3 et –2π/3. Le caractère associé $χ_θ$ prend donc respectivement les valeurs 2, 0 et –1 sur ces trois classes de conjugaison 1 = {id}, T = ${t_1,$ $t_2,$ $t_3}$ et C = ${c_1,$ $c_2}.$ Comme tout caractère, c'est donc bien une fonction centrale, c'est-à-dire constante sur chaque classe de conjugaison.

Ces trois représentations irréductibles t, σ et θ de $S_3$ sont les seules, car l'étude des fonctions centrales montre que le nombre de représentations irréductibles est égal au nombre de classes de conjugaison du groupe.

De plus, il existe sur l'espace des fonctions centrales une forme bilinéaire canonique pour laquelle les caractères irréductibles forment une base orthonormale. Ce résultat est au cœur de la théorie des caractères. Dans notre cas, si φ et ψ sont deux fonctions centrales, cette forme bilinéaire est donnée par :

$\langle \varphi \mid \psi \rangle ={\frac {1}{6}}{\Big\varphi (1){\psi (1)}+3\varphi (T)\psi (T)+2\varphi (C)\psi (C){\Big )}.$

Ces propriétés permettent de calculer les coefficients (entiers naturels) a, b et c de la décomposition de la représentation régulière :

$\lambda =at\oplus b\sigma \oplus c\theta .$

Notons $χ_t,$ $χ_σ,$ $χ_θ$ les caractères des trois représentations irréductibles et $χ_λ$ celui de la représentation régulière. Ainsi,

$\chi _{\lambda }=a\chi _{t}+b\chi _{\sigma }+c\chi _{\theta }.$

Comme les trois caractères $χ_t,χ_σ,$ $χ_θ$ forment une famille orthonormée, les trois coefficients sont :

$a=\langle \chi _{\lambda }\mid \chi _{t}\rangle ,~b=\langle \chi _{\lambda }\mid \chi _{\sigma }\rangle {\text{ et }}c=\langle \chi _{\lambda }\mid \chi _{\theta }\rangle .$

Or le caractère de la représentation régulière s'annule sur toutes les classes de conjugaisons sauf celle de l'identité, et sur cette classe la valeur d'un caractère est égale au degré de la représentation. On en déduit les trois valeurs : a = 1, b = 1, c = 2.

La figure de droite illustre les caractères du groupe $S_3.$ Les caractères représentés par des boules orange sont les trois irréductibles, la boule bleue représente le caractère de la représentation régulière λ. Elle est somme directe des trois représentations irréductibles avec les coefficients 1 pour la triviale, 1 pour la signature et 2 pour celle des isométries du triangle.

## Premières propriétés

* Tout caractère χ d'une représentation (V,ρ) vérifie :
   * $\chi (1)=\dim(V).$
   * χ est une fonction centrale, i.e. $\chi (sts^{-1})=\chi (t)$, ou encore : $\chi (uv)=\chi (vu)$
   * Si deux représentations sont isomorphes alors elles ont même caractère.

La première propriété provient du fait que $ρ_1$ (où 1 désigne l'élément neutre de G) est égal à l'identité de V. Les deux autres sont conséquence directe des propriétés de la trace : deux matrices semblables (c’est-à-dire qui représentent le même endomorphisme dans deux bases différentes) ont même trace. Sous certaines hypothèses, qui sont vérifiées lorsque K est le corps des complexes, la réciproque de la troisième propriété est vraie (cf paragraphe « Conséquences »).

* Chaque χ(s) est entier sur ℤ.

En effet, c'est la trace d'un endomorphisme $ρ_s$ d'ordre fini. Cette trace est donc somme de racines de l'unité donc c'est un élément entier sur ℤ.

* Si le corps K est inclus dans celui des complexes et s un élément du groupe, alors l'image de $s^{-1}$ par le caractère est le conjugué de l'image de s.

La trace de $ρ_s$ est somme de racines complexes de l'unité, qui sont donc de module 1. En conséquence, la trace de $ρ_{(s-1)}=(ρ_s)^{-1},$ somme des inverses de ces complexes, est égale à la somme de leurs conjugués, ce qui démontre la proposition. (Une autre preuve, non spécifique aux groupes finis, utilise le procédé d'unitarisation.) On obtient le corollaire suivant :

* Si le corps K est inclus dans celui des réels et s un élément du groupe, alors l'image de $s^{-1}$ par le caractère est la même que celle de s.

## Somme directe

Si la caractéristique de K ne divise pas l'ordre g du groupe (autrement dit : si g est inversible dans K), le théorème de Maschke assure que toute représentation de G est somme directe de représentations irréductibles. Ceci permet d'exprimer son caractère comme somme de caractères irréductibles, grâce à la proposition suivante :

* Le caractère de la somme directe de deux représentations (V, ρ) et (V',ρ') d'un groupe G est la somme des caractères des deux représentations.

En effet, si s est un élément de G, $R_s$ et $R_s'$ les matrices de $ρ_s$ et $ρ'_s$ dans des bases B et B' ,alors la réunion des deux bases est une base de V⊕V'. Dans cette base, la matrice $S_s$ de $ρ⊕ρ'_s$ prend la forme :

$S_{s}={\begin{pmatrix}R_{s}&0\\0&R'_{s}\end{pmatrix}}$

L'égalité sur les caractères, vus comme traces de matrices, est alors évidente.

Cette proposition se généralise par récurrence au cas d'une somme directe d'un nombre fini de représentations.

## Orthogonalité

### Fonction centrale

Une fonction centrale est une application constante sur chaque classe de conjugaison du groupe. Les premières propriétés des caractères montrent que ce sont des fonctions centrales.

On montre alors (cf corollaire 4 de l'article « Lemme de Schur »), sous l'hypothèse supplémentaire que le polynôme $X^g$ – 1 est scindé sur K (ou même seulement le polynôme Xe – 1, où g désigne l'ordre de G et e désigne son exposant), que

   pour la forme bilinéaire symétrique non dégénérée sur $K^G$ définie par
   $(f_{1}|f_{2})={\frac {1}{g}}\sum _{s\in G}f_{1}(s)f_{2}(s^{-1}),$
   les caractères irréductibles forment une base orthonormée de l'espace vectoriel des fonctions centrales à valeur dans K.

Il en résulte :

* le nombre de représentations irréductibles de G à équivalence près est égal au nombre h de classes de conjugaison de G. Le groupe n'a donc sur K (à équivalence près) que h représentations irréductibles $ρ_1,$ … , $ρ_h,$ dont les caractères $χ_1,$ … , $χ_h$ forment une base orthonormée de l'espace des fonctions centrales ;
* $\forall s,t\in G\quad \sum _{i=1}^{h}\chi _{i}(s)\chi _{i}(t^{-1})={\begin{cases}\left|C_{G}(s)\right|&{\mbox{ si }}s,t{\mbox{ sont conjugués}}\\0&{\mbox{ sinon,}}\end{cases}}$ où $|C_G(s)|$ désigne l'ordre du centralisateur de s.

Variante.

Lorsque K est un sous-corps de ℂ, il est courant, au lieu de la forme bilinéaire symétrique ci-dessus, d'utiliser sur $K^G$ un produit hermitien :

$\langle f_{1}|f_{2}\rangle ={\frac {1}{g}}\sum _{s\in G}f_{1}(s){\overline {f_{2}(s)}}.$

Si $f_2$ est un caractère alors $(f_1|f_2)$ = $⟨f_1|f_2⟩,$ et les caractères irréductibles forment aussi, pour ce produit hermitien, une base orthonormée de l'espace des fonctions centrales.

### Conséquences

Le fait que les caractères irréductibles forment une base orthonormée a des conséquences théoriques immédiates : soit ρ une représentation dont la décomposition en somme directe d'irréductibles est :

$\rho \simeq \bigoplus _{i=1}^{h}m_{i}\rho _{i},$

où la notation $m_iρ_i$ signifie :

$m_{i}\rho _{i}=\rho _{i}\oplus \ldots \oplus \rho _{i}\quad (m_{i}{\text{ fois}}).$

Alors la décomposition de son caractère χ en somme des caractères irréductibles $χ_1,$ ..., $χ_h$ est :

$\chi =\sum _{i=1}^{h}m_{i}\chi _{i},$

et on en déduit les égalités :

$m_{i}=(\chi |\chi _{i})\quad {\text{et}}\quad \sum m_{i}^{2}=(\chi |\chi ).$

En particulier lorsque la caractéristique de K est nulle :

* La multiplicité $m_i$ de la représentation irréductible $ρ_i$ dans ρ est égale à $(χ|χ_i).$
* Une représentation est entièrement déterminée (à équivalence près) par son caractère.
* (χ|χ) est un entier.
* Cet entier vaut 1 si et seulement si ρ est irréductible.
* Toute fonction χ qui est combinaison linéaire à coefficients entiers (positifs ou négatifs) de caractères et qui vérifie (χ|χ) = 1 et χ(1) > 0 est le caractère d'une représentation (irréductible).

## Exemples

### Groupe alterné d'indice 4

Les caractères irréductibles d'un groupe sont parfois donnés sous forme de table. Comme un caractère est constant sur une classe de conjugaison, la table est donnée sur les classes de conjugaison. Celle du groupe alterné $A_4$ est par exemple :

| Car. irr. | 1 | (ab)(cd) | (abc) | (acb) |
| - | - | - | - | - |
| t | 1 | 1 | 1 | 1 |
| $σ_1$ | 1 | 1 | j | $j^2$ |
| $σ_2$ | 1 | 1 | $j^2$ | j |
| φ | 3 | -1 | 0 | 0 |

Un élément du type (ab)(cd) possède son inverse dans la même classe de conjugaison, la valeur du caractère est toujours réelle pour cette classe. En revanche, l'inverse de (abc) est (acb), les deux valeurs sont toujours conjuguées.

### Groupe des quaternions

Le groupe des quaternions Q = {±1, ±i, ±j, ±k} a 5 classes de conjugaison : {1}, {–1}, {±i}, {±j}, {±k}, donc 5 caractères irréductibles. Ceux de degré 1 sont les éléments de son groupe dual, naturellement isomorphe à celui de son abélianisé Q/{±1} ≃ V (le groupe de Klein). Par conséquent, ce sont les 4 caractères t, $χ_i,$ $χ_j$ et $χ_k$ du tableau ci-dessous. On complète cette famille orthonormale par l'unique fonction centrale de norme 1 qui leur est orthogonale et dont la valeur sur 1 est positive : (2, –2, 0, 0, 0). C'est le caractère de la cinquième représentation complexe irréductible, ρ, qui est par conséquent de degré 2 (on peut l'expliciter comme exemple de représentation induite par la représentation naturelle du sous-groupe {±1, ±i}).

| Car. irr. | 1 | –1 | ±i | ±j | ±k |
| - | - | - | - | - | - |
| t | 1 | 1 | 1 | 1 | 1 |
| $χ_i$ | 1 | 1 | 1 | –1 | –1 |
| $χ_j$ | 1 | 1 | –1 | 1 | –1 |
| $χ_k$ | 1 | 1 | –1 | –1 | 1 |
| $χ_ρ$ | 2 | –2 | 0 | 0 | 0 |

La table des caractères de l'autre groupe non abélien d'ordre 8, le groupe diédral $D_8,$ est identique mais — contrairement à ρ — la représentation irréductible de degré 2 de $D_8$ est réelle (en).

### Groupe simple d'ordre 168

Le groupe $GL_3(F_2)$ est, par son ordre (168), le plus petit groupe simple non commutatif après le groupe alterné $A_5.$ On trouve la table suivante, établie dans l'article détaillé :

| Car. irr. | $C_1$ | $C_2$ | $C_3$ | $C_4$ | $C_{7a}$ | $C_{7b}$ |
| - | - | - | - | - | - | - |
| $χ_1$ | 1 | 1 | 1 | 1 | 1 | 1 |
| $χ_{3a}$ | 3 | –1 | 0 | 1 | (–1+i√7)/2 | (–1–i√7)/2 |
| $χ_{3b}$ | 3 | –1 | 0 | 1 | (–1–i√7)/2 | (–1+i√7)/2 |
| $χ_6$ | 6 | 2 | 0 | 0 | –1 | –1 |
| $χ_7$ | 7 | –1 | 1 | –1 | 0 | 0 |
| $χ_8$ | 8 | 0 | –1 | 0 | 1 | 1 |

Les cardinaux des classes de conjugaisons sont $C_1$ : 1, $C_2$ : 21, $C_3$ : 56, $C_4$ : 42, $C_{7a}$ : 24, $C_{7b}$ : 24. On en déduit le produit hermitien pour deux caractères $χ_φ$ et $χ_ψ,$ dans le cas d'une représentation complexe :

${\begin{aligned}\langle \chi _{\varphi },\chi _{\psi }\rangle ={\frac {1}{168}}{\Big&\chi _{\varphi }(C_{1})\cdot {\overline {\chi _{\psi }(C_{1})}}+21\chi _{\varphi }(C_{2})\cdot {\overline {\chi _{\psi }(C_{2})}}+56\chi _{\varphi }(C_{3})\cdot {\overline {\chi _{\psi }(C_{3})}}\\&+42\chi _{\varphi }(C_{4})\cdot {\overline {\chi _{\psi }(C_{4})}}+24\chi _{\varphi }(C_{7a})\cdot {\overline {\chi _{\psi }(C_{7a})}}+24\chi _{\varphi }(C_{7b})\cdot {\overline {\chi _{\psi }(C_{7b})}}{\Big )}.\end{aligned}}$

Les caractères de la table sont bien tous de norme 1 et orthogonaux deux à deux.

### Représentation régulière

La représentation régulière λ de G, sur le K-espace vectoriel $K^G$ des applications de G dans K, est celle issue de l'action à gauche de G sur lui-même par translation. Son caractère χ est :

$\forall s\in G,\qquad \chi (s)={\begin{cases}g\quad {\text{si}}\quad s=1\\0\quad {\text{sinon.}}\end{cases}}$

Or sous les mêmes hypothèses que précédemment (permettant d'appliquer le théorème de Maschke et le lemme de Schur), on démontre que sa décomposition en somme directe d'irréductibles est :

$(K^{G},\lambda )\simeq \bigoplus _{i=1}^{h}d_{i}(S_{i},\rho _{i}),\quad {\text{avec}}\quad d_{i}=\dim(S_{i}).$

La décomposition du caractère χ de λ en somme des caractères irréductibles $χ_1,$ ..., $χ_h$ est donc :

$\chi =\sum _{i=1}^{h}d_{i}\chi _{i}.$

## Extension

### Produit direct et produit tensoriel

En théorie des groupes, la première méthode d'extension est donnée par le produit direct de deux groupes. En termes de représentation, cette extension se traduit par un produit tensoriel de deux représentations de deux groupes.

Une relation analogue existe pour le produit tensoriel de représentations :

* Le caractère du produit tensoriel de deux représentations (V, ρ) et (V',ρ') d'un groupe G est le produit des caractères des deux représentations.

En utilisant les notations précédentes et si $(r_{ij})$ (resp. $(r'_{i'j'})$ est la matrice $R_s$ (resp. $R_s')$ la matrice $P_s$ du produit tensoriel associée est égal à $(p_{iji'j'})$ avec $p_{iji'j'}$ = $r_{ij}.r'_{i'j'}.$ Un simple calcul de trace permet de conclure.

* Si $χ_σ$ (resp. $χ_α)$ désigne le caractère de la représentation du carré symétrique (resp. alterné), alors les deux formules suivantes s'appliquent :

$\forall s\in G\quad \chi _{\sigma }(s)={\frac {1}{2}}(\chi _{\rho }(s)^{2}+\chi _{\rho }(s^{2}))\quad et\quad \chi _{\alpha }(s)={\frac {1}{2}}(\chi _{\rho }(s)^{2}-\chi _{\rho }(s^{2}))\;$

Les définitions des représentations du carré symétrique et alterné sont données dans l'article détaillé.

### Produit semi-direct et représentation induite

Une représentation induite est un mode de construction d'une représentation d'un groupe G à l'aide d'un de ses sous-groupes H. Soit (W, θ) une représentation de H, une représentation (V, ρ) est dite induite par celle de (W, θ) si et seulement si les différents sous-espaces $ρ_cW$ où les valeurs de c forment un système de représentants des classes à gauche de G/H, sont, en somme directe, égale à V.

Il existe une unique représentation induite de G par une représentation (W, θ) d'un sous-groupe H. En termes de G-module, la représentation induite s'exprime simplement :

$V\simeq K[G]\otimes _{K[H]}W\;$

La représentation induite correspond, en termes de G-module à une extension des scalaires K[H] à l'anneau K[G] sur le H-module W.

Dans le cas où H est un sous-groupe normal de G, la représentation induite est équivalente à un produit semi-direct.

Il existe une méthode simple pour calculer le produit hermitien du caractère d'une représentation induite : la formule de réciprocité de Frobenius Si ψ désigne le caractère de la représentation θ de H et χ celui d'une représentation de G, si Ind ψ désigne le caractère d'une représentation induite et Res χ le caractère de la restriction de ρ à H, alors :

$<Ind_{H}^{G}\,\psi \,|\,\chi >_{G}=<\psi \,|\,Res_{H}^{G}\,\chi >_{H}\;$

