Lemme de Schur
# Lemme de Schur

En mathématiques et plus précisément en algèbre linéaire, le lemme de Schur est un lemme technique utilisé particulièrement dans la théorie de la représentation des groupes.

Il a été démontré en 1907 par Issai Schur dans le cadre de ses travaux sur la théorie des représentations d'un groupe fini.

Ce lemme est à la base de l'analyse d'un caractère d'une représentation d'un groupe fini ; il permet, par exemple, de caractériser les groupes abéliens finis.

## Contexte

Le lemme de Schur représente l'un des fondements de la théorie des représentations d'un groupe fini et de l'analyse de l'algèbre des modules semi-simples.

Une représentation d'un groupe G dans un espace vectoriel E de dimension finie n est la donnée d'un morphisme ρ de G dans le groupe linéaire GL(E) des automorphismes de E. Cette approche initiée par Ferdinand Georg Frobenius dans un article de 1896 s'avère fructueuse.

Trois ans plus tard, Heinrich Maschke démontre que toute représentation est somme directe de représentations irréductibles. Une représentation (E, ρ) est dite irréductible si les sous-espaces E et {0} sont distincts et sont les deux seuls sous-espaces stables par les automorphismes ρ(g), g décrivant G. Le théorème de Maschke énonce que, si la caractéristique de K ne divise pas l'ordre de G, alors toute représentation de G est somme directe de représentations irréductibles. Connaître toutes les représentations d'un groupe fini revient donc à connaître ses représentations irréductibles, les autres s'obtiennent par somme directe.

Le lemme de Schur est un lemme technique essentiel pour la démonstration d'un résultat majeur : les représentations irréductibles s'identifient par leur caractère, et ces caractères sont orthogonaux deux à deux. Cette approche apporte des résultats importants pour la théorie des groupes finis. Elle a finalement permis la classification des groupes simples, mais aussi la démonstration de résultats comme une conjecture de William Burnside stipulant que tout groupe fini d'ordre impair est résoluble. Ce résultat est à l'origine de la médaille Fields de Thompson en 1970.

Si ce lemme est aussi utilisé dans d'autres contextes, celui de la représentation est néanmoins le plus important.

## Le lemme de Schur

Soit U une partie de l'ensemble des endomorphismes L(E) d'un espace vectoriel E. On dit que U est irréductible si les deux seuls sous-espaces de E stables par tout élément de U sont E et {0}.

Le lemme de Schur s'énonce alors sous la forme suivante :

Lemme de Schur — Soient E et F deux K espaces vectoriels et ϕ une application linéaire non nulle de E dans F.

* S'il existe une partie irréductible U de L(E) telle que$\forall u\in U\quad \exists v\in L(F)\quad \phi \circ u=v\circ \phi ,$alors ϕ est injective.
* S'il existe une partie irréductible V de L(F) telle que$\forall v\in V\quad \exists u\in L(E)\quad \phi \circ u=v\circ \phi ,$alors ϕ est surjective.
* Soit N le noyau de ϕ. Ce sous-espace n'est pas E tout entier car ϕ est non nulle. Il est stable par toute application u de U car$\forall u\in U\quad \exists v\in L(F)\quad \phi \circ u(N)=v\circ \phi (N)=\{0\}$ donc u(N) est inclus dans N. Par irréductibilité de U, N est donc réduit à {0}.
* Soit M l'image de ϕ. Ce sous-espace de F n'est pas réduit à {0} car ϕ est non nulle. Il est stable par toute application v de V car$\forall v\in V\quad \exists u\in L(E)\quad v\circ \phi (E)=\phi \circ u(E)\subset \phi (E)$donc v(M) est inclus dans M. Par irréductibilité de V, M est donc égal à F.

## Corollaires

### Corollaire 1

Soient E un espace vectoriel de dimension finie sur un corps K algébriquement clos et U une partie irréductible de L(E). Si un endomorphisme ϕ de E commute avec tout élément de U, alors ϕ est une homothétie.

Si Id désigne l'application identité, on a :

    $\quad \forall \lambda \in K\quad \forall u\in U\quad (\phi -\lambda {\rm {Id}})\circ u=u\circ (\phi -\lambda {\rm {Id}}).$

On en déduit par application du lemme de Schur que ϕ – λ Id est un automorphisme ou est nulle. Soit λ* une valeur propre de ϕ, alors ϕ – λ* Id n'est pas un automorphisme, donc est l'application nulle, ce qui démontre le corollaire.

Dans le cas de la représentation d'un groupe d'exposant fini e, alors tout automorphisme de l'image possède pour polynôme annulateur Xe – 1. En conséquence, si ce polynôme est scindé sur K, le corollaire s'applique encore.

### Corollaire 2

Toute représentation irréductible d'un groupe abélien dans un espace de dimension finie sur un corps algébriquement clos est de degré 1.

En effet, soient (E, ρ) une telle représentation et D une droite de E. Quel que soit l'élément s du groupe, $ρ_s$ commute avec tous les endomorphismes de la représentation. D'après le corollaire 1, $ρ_s$ est une homothétie. Ainsi, D est invariante donc égale à E.

## Cas des groupes finis

### Corollaire 3

Soient (E, $ρ_E)$ et (F, $ρ_F)$ deux représentations de G irréductibles sur un corps K dont la caractéristique ne divise pas l'ordre g du groupe et sur lequel le polynôme $X^g$ – 1 est scindé, et ψ une application linéaire de E dans F, on définit l'application linéaire φ de E dans F par :

$\varphi ={\frac {1}{g}}\sum _{s\in G}\rho _{F}(s)\circ \psi \circ \rho _{E}(s)^{-1}.$

* Si les représentations ne sont pas isomorphes, alors φ est nulle.
* Si les représentations sont égales, alors φ est une homothétie de rapport (1/n)Tr(ψ).

Vérifions dans un premier temps que φ satisfait la propriété suivante :

    $\forall t\in G\quad \varphi \circ \rho _{E}(t)=\rho _{F}(t)\circ \varphi \quad \mathrm {ou~encore} \quad \varphi =\rho _{F}(t)\circ \varphi \circ \rho _{E}(t)^{-1}\;$

Remarquons tout d'abord que, si t est un élément de G, l'application de G dans G qui à s associe ts est une permutation de G, . On en déduit que :

    $\forall t\in G\quad \rho _{F}(t)\circ \varphi \circ \rho _{E}(t)^{-1}={\frac {1}{g}}\sum _{s\in G}\rho _{F}(t)\circ \rho _{F}(s)\circ \psi \circ \rho _{E}(s)^{-1}\circ \rho _{E}(t)^{-1}={\frac {1}{g}}\sum _{s\in G}\rho _{F}(ts)\circ \psi \circ \rho _{E}(ts)^{-1}=\varphi$
* Comme les représentations ne sont pas isomorphes, φ ne peut être à la fois injective et surjective. Le lemme de Schur montre que, comme φ n'est pas un automorphisme, φ est l'application nulle.
* Si (E, $ρ_E)$ = (F, $ρ_F),$ les hypothèses du corollaire 1 sont vérifiées, ce qui montre que φ est une homothétie. Dans ce cas, l'expression définissant φ est la moyenne de g applications toutes semblables à ψ et donc ayant la même trace que ψ. Les traces de φ et ψ sont donc égales. En notant λ le rapport de l'homothétie φ on a donc : nλ = Tr(φ) = Tr(ψ). En appliquant tout ceci à un ψ arbitraire de trace 1, on trouve de plus que n est inversible dans K.

**Remarque.**

Si la caractéristique p de K est non nulle, la preuve de ce corollaire met en évidence que le nombre premier p ne divise pas n. Comme on a supposé que p ne divise pas g, ceci n'est pas surprenant quand on sait que le degré n d'une représentation irréductible divise toujours l'ordre g du groupe.

### Corollaire 4

C'est un quatrième corollaire qui est utilisé dans la théorie des caractères. Il correspond à la traduction en termes de matrices du corollaire précédent. Utilisons les notations suivantes : soient A et B deux représentations matricielles d'un groupe fini G d'ordre g sur un même corps K dont la caractéristique ne divise pas g et sur lequel le polynôme $X^g$ – 1 soit scindé. Les dimensions respectives de E et F sont notées n et m. L'image d'un élément s de G par A (resp. B) est noté $a_{ij}(s)$ (resp. $b_{ij}(s)).$

On a alors, sous les hypothèses du corollaire précédent :

* Si les représentations A et B ne sont pas isomorphes, alors :$\forall i,j\in [1,n]\;\forall k,l\in [1,m]\quad \sum _{s\in G}a_{ij}(s)b_{kl}(s^{-1})=0.$
* En notant $δ_{ij}$ le symbole de Kronecker, on a :$\forall i,j,k,l\in [1,n]\quad {\frac {1}{g}}\sum _{s\in G}a_{ij}(s)a_{kl}(s^{-1})={\frac {1}{n}}\delta _{il}\delta _{jk}.$
* Si C une matrice de dimension mxn de coefficients $(c_{jk}),$ la traduction du point 1 du corollaire précédent montre que :$\sum _{s\in G}A(s)CB(s)^{-1}=0$ donc $\forall i\in [1,n]\;\forall l\in [1,m]\quad \sum _{jk}\sum _{s\in G}a_{ij}(s)c_{jk}b_{kl}(s^{-1})=\sum _{jk}\left(\sum _{s\in G}a_{ij}(s)b_{kl}(s^{-1})\right)c_{jk}=0.$Cette égalité est vraie pour toute matrice C, donc pour toute valeur de $c_{jk},$ ce qui démontre le point 1.
* Avec les mêmes notations (maintenant B = A et m = n), on obtient d'après le point 2 du corollaire précédent :${\frac {1}{g}}\sum _{s\in G}A(s)CA(s)^{-1}={\frac {1}{n}}{\rm {Tr}}(C){\rm {Id}}$ donc $\forall i,j\in [1,n]\quad {\frac {1}{g}}\sum _{jk}\sum _{s\in G}a_{ij}(s)c_{jk}a_{kl}(s^{-1})={\frac {1}{n}}\sum _{k}c_{kk}\delta _{il}.$On en déduit :$\forall i,j,k,l\in [1,n]\quad {\frac {1}{g}}\sum _{s\in G}a_{ij}(s)a_{kl}(s^{-1})={\frac {1}{n}}\delta _{il}\delta _{jk},$et le point 2 est démontré.

## Applications

### Caractère

C'est la première application historique du lemme. On suppose ici que K est le corps ℂ des nombres complexes et on munit $ℂ^G$ (l'espace vectoriel – de dimension g – des applications de G dans ℂ) du produit hermitien 〈 , 〉 suivant :

$\forall f,h\in \mathbb {C} ^{G}\quad \langle f,h\rangle ={\frac {1}{g}}\sum _{s\in G}f(s){\overline {h(s)}}.$

(Si z désigne un nombre complexe, z désigne ici son conjugué.)

Les caractères irréductibles d'un groupe fini G forment une famille orthonormale de $ℂ^G.$

C'est une conséquence directe du corollaire 4. L'article associé démontre que la trace de $ρ(s^{−1})$ est égale au conjugué de la trace de ρ(s), pour tout élément s de G. En utilisant les notations du paragraphe précédent, on obtient :

    $\langle \chi _{1},\chi _{2}\rangle ={\frac {1}{g}}\sum _{s\in G}\left(\sum _{i=1}^{n}a_{ii}(s)\right){\overline {\left(\sum _{j=1}^{m}b_{jj}(s)\right)}}={\frac {1}{g}}\sum _{s\in G}\left(\sum _{i=1}^{n}a_{ii}(s)\right)\left(\sum _{j=1}^{m}b_{jj}(s^{-1})\right)={\frac {1}{g}}\sum _{ij}\left(\sum _{s\in G}a_{ii}(s)b_{jj}(s^{-1})\right).$

Si les deux représentations ne sont pas isomorphes, alors le point 1 du corollaire permet de conclure à l'orthogonalité.

D'après le point 2 on obtient :

    $\langle \chi _{1},\chi _{1}\rangle ={\frac {1}{n}}\sum _{ij}\delta _{ij}\delta _{ij}=1,$

ce qui démontre la proposition.

Ce résultat est un des fondements de la théorie des caractères.

### Groupe abélien fini

D'autres applications existent. Le lemme de Schur permet de démontrer directement que tout groupe abélien fini est un produit de cycles. La démonstration se fonde essentiellement sur l'algèbre linéaire.

Ce résultat se démontre aussi directement (cf. article détaillé), ou par l'analyse des caractères.

