Démonstration du dernier théorème de Fermat pour les exposants 3, 4 et 5
# Démonstration du dernier théorème de Fermat pour les exposants 3, 4 et 5

En mathématiques, plus précisément en arithmétique modulaire, le dernier théorème de Fermat traite des racines de l'équation diophantienne suivante, d'inconnues $x$, $y$ et $z$ :

$n\in \mathbb {N} \quad x^{n}+y^{n}=z^{n}.$

Il affirme qu'il n'existe aucune solution non triviale si le paramètre n est strictement supérieur à 2.

Une équation diophantienne est une équation à coefficients entiers dont les solutions recherchées sont entières. Si, comme dans l'exemple ci-dessus, l'expression est souvent simple, la résolution s'avère en général ardue.

Pierre de Fermat énonce ce résultat dans la marge de son exemplaire du livre Arithmetica de Diophante et y indique qu'il en a trouvé une « démonstration véritablement merveilleuse ».

Il est peu probable qu'une démonstration accessible à Fermat existe. En effet, il fallut de nombreuses tentatives ainsi que près de 350 ans d'efforts pour qu'une preuve en soit donnée en 1994, par Andrew Wiles.

## Généralités et cas élémentaires

### Remarques

Si l'un des trois entiers x, y ou z est nul, alors l'équation devient évidente ; de telles solutions sont dites triviales. L'objectif est donc la recherche d'un triplet solution tel que le produit xyz soit non nul.

L'équation est homogène, c'est-à-dire que pour une valeur n donnée, si le triplet (x, y, z) est solution, alors (ax, ay, az) est aussi solution. En conséquence, les seules racines recherchées sont les triplets d'entiers premiers entre eux dans leur ensemble.

Pour toute solution, le PGCD de deux quelconques des trois entiers est un diviseur du troisième. Les racines auxquelles on s'est restreint sont donc les triplets (x, y, z) tels que (par exemple) x et y soient premiers entre eux.

Si l'équation n'admet pas de solution pour une valeur p du paramètre, alors il n'existe pas de solution pour toute valeur n multiple de p. En effet, si l'on note n = pq alors l'équation s'écrit :

    $\left(x^{q}\right)^{p}+\left(y^{q}\right)^{p}=\left(z^{q}\right)^{p}.$

En conséquence, les valeurs à traiter sont celles où n est un nombre premier. Il est toutefois à noter l'unique exception, correspondant au cas n = 2, cas dans lequel des solutions existent ; il est donc nécessaire d'étudier aussi le cas n = 4 (ce qui réglera le cas des nombres composés puissances de 2, puisqu'ils sont de la forme 4 × $2^k$ avec k ⩾ 0).

### Résultats sans appel à la théorie des nombres

Quelques résultats se démontrent sans concepts supplémentaires. Le cas n = 2, traité à la suite, est simple et date de l'Antiquité. Celui où n est égal à 4 se démontre de manière un tout petit peu moins élémentaire. Les cas restants sont ceux où n est premier différent de 2. Il existe une démonstration qui n'utilise pas les entiers d'Eisenstein pour le cas n = 3 ; elle est néanmoins suffisamment astucieuse et difficile pour que le mathématicien Leonhard Euler ne propose qu'une démonstration inexacte.

Les autres cas sont techniques ; l'utilisation d'entiers algébriques est indispensable. Le premier terme est bien une identité remarquable : $x^n$ + $y^n$ est en effet un multiple de x + y si n n'est pas une puissance de 2. Cependant, cette remarque est largement insuffisante pour conclure, ne serait-ce que pour un exposant.

### Cas où n est égal à deux

Le cas n = 2 possède une interprétation géométrique. Il correspond aux longueurs entières des trois côtés d'un triangle rectangle.

Ce cas est connu depuis la plus haute Antiquité. Ainsi, les Sumériens connaissaient quelques exemples de solutions. La solution complète apparaît pour la première fois dans le livre X des Éléments d'Euclide vers 300 av. J.-C.

Ce cas est l'unique exception du théorème (si l'on omet le cas n = 1). En effet, pour n = 2, il existe des solutions non triviales, appelées les triplets pythagoriciens, comme la solution (3, 4, 5). En conséquence, il devient important de considérer le cas n = 4, pour démontrer qu'il n'existe pas d'autre puissance de 2 admettant des solutions non triviales.

### Cas où n est égal à quatre

Dans tout l'œuvre mathématique laissé par Fermat, on ne trouve qu'une démonstration : la preuve de ce cas, sous une formulation différente. Il démontre en effet qu'il n'existe aucun triplet pythagoricien (x, y, z) tel que xy/2 soit un carré d'entier, ce qu'il exprime par « l'aire d'un triangle rectangle en nombres ne peut être un carré ». Comme ce résultat équivaut à l'absence de solutions entières non triviales pour l'équation $a^4$ – $b^4$ = $c^2,$ le cas n = 4 en est un corollaire immédiat. Pour cette raison, on considère très généralement que Fermat a démontré ce $cas^,.$

La méthode utilisée est celle de la descente infinie. Elle consiste à trouver un autre triplet solution dont le troisième entier est positif et strictement plus petit que celui de la solution initiale. Il est ainsi possible de descendre indéfiniment dans l'ensemble des entiers positifs, ce qui est contradictoire avec les propriétés de ℕ.

Deux preuves complètes et nouvelles proviennent de Leonhard Euler ; elles sont aussi fondées sur la méthode de la descente infinie. Il en existe d'autres, par exemple utilisant la notion d'entiers de Gauss.

La preuve suivante est essentiellement l'une des deux démonstrations d'Euler. Pour montrer que l'équation de Fermat $x^4$ + $y^4$ = $z^4$ n'a aucune solution constituée de trois entiers strictement positifs dont les deux premiers sont premiers entre eux, il suffit de montrer que l'équation $a^4$ + $b^4$ = $c^2$ n'en a pas (ou que $a^4$ – $b^4$ = $c^2$ n'en a pas, ce qu'Euler prouve de même). Supposons l'existence d'une telle solution (a, b, c) et montrons qu'il en existe une autre, (x, y, z), telle que z < c. La méthode de descente infinie permet alors de conclure.

Puisque $(a^2,$ $b^2,$ c) est alors un triplet pythagoricien primitif et que (quitte à intervertir a et b si nécessaire) a est impair, il existe un couple (p, q) d'entiers strictement positifs et premiers entre eux tel que $a^{2}=p^{2}-q^{2},\quad b^{2}=2pq\quad {\text{et}}\quad c=p^{2}+q^{2}.$ De même, puisque (a, q, p) est un triplet pythagoricien primitif, il existe un couple (m, n) d'entiers strictement positifs et premiers entre eux tel que $a=m^{2}-n^{2},\quad q=2mn\quad {\text{et}}\quad p=m^{2}+n^{2}.$ Puisque p et 2q sont premiers entre eux et que 2pq est un carré, p et 2q sont des carrés. De même, puisque 2q, donc mn, est un carré, m et n sont des carrés. Donc il existe des entiers strictement positifs x, y et z (premiers entre eux) tels que m = $x^2,$ n = $y^2$ et $x^4$ + $y^4$ = $z^2.$ Comme $z^2$ = p < $c^2,$ la preuve est établie.

## Entier quadratique

Une fois analysé le cas des puissances de 2, le théorème devient singulièrement plus complexe à établir. Il existe encore trois démonstrations, pour les cas n = 3, 5 et 7, fondées sur le même canevas et usant de la méthode de descente infinie.

Pour pouvoir l'appliquer, une idée fructueuse consiste à « modifier » l'ensemble sur lequel s'applique l'équation. Il est possible de généraliser le théorème de Fermat sur tout ensemble E muni de deux opérations, l'addition et la multiplication. Les opérations sur E doivent disposer d'un minimum de propriétés, lui conférant une structure appelée anneau. Cette idée est un peu contre-intuitive : si la résolution se révèle déjà ardue dans ℤ, l'anneau des entiers relatifs, la question ne devient-elle pas encore plus délicate sur un anneau quelconque ? En fait, l'objectif est de choisir E disposant des bonnes propriétés pour que la résolution soit plus aisée.

Cet anneau est choisi :

* commutatif ;
* intègre, c'est-à-dire que si un produit ab est égal à 0 alors a ou b est nul ;
* factoriel, ce qui signifie que tout élément non nul et non inversible se décompose en un produit d'éléments premiers de l'anneau, comme –12 est, dans ℤ, le produit de –3, 2 et 2 ;
* et tel que tout élément inversible possède une racine n-ième.

Sur un tel anneau, correspondant par exemple à celui des polynômes à coefficients complexes, Augustin Louis Cauchy met au point une méthode générale de résolution.

La difficulté réside dans le fait que ℤ ne contient pas de racine n-ième de l'unité à l'exception de 1 et –1. L'usage d'autres anneaux contenant ℤ devient intéressant. Les plus simples correspondent à des ensembles ℤ[ω] d'entiers quadratiques c'est-à-dire des nombres de la forme a + bω où a et b sont des entiers relatifs et ω un nombre complexe tel que $ω^2$ soit combinaison linéaire de ω et de 1 à coefficients dans ℤ, ce qui assure la stabilité de l'ensemble. Certains de ces ensembles contiennent des racines n-ième de l'unité. Tel est le cas si ω est la racine cubique de l'unité j = (1 + i√3)/2 ou le nombre d'or (1 + √5)/2. De plus, ces anneaux sont dits euclidiens, c'est-à-dire qu'il existe une division euclidienne. Et tout anneau euclidien est factoriel. Ils permettent de résoudre les cas n = 3 ou 5. Une approche un peu analogue permet encore de résoudre le cas n = 7.

L'efficacité des anneaux quadratiques s'arrête là. Dans le cas général, ils ne sont ni euclidiens ni factoriels, ce qui impose la mise au point d'autres idées.

### Cas de l'anneau des polynômes à coefficients complexes

On recherche ici à résoudre l'équation :

$x^{n}+y^{n}=z^{n}\;$

Ici x, y et z représentent trois polynômes à coefficients complexes. Pour les raisons indiquées au paragraphe précédent, cette question est finalement beaucoup plus facile que celle de Fermat. Elle est résolue en 1847 par Cauchy après la résolution des cas n = 3, 5 et 7 et avant la percée majeure de Ernst Kummer. Le résultat s'énonce de la manière suivante :

   * Soit p, q, r trois polynômes à coefficients complexes et n un entier strictement plus grand que 2, si $p^n$ + $q^n$ = $r^n$ et si p et q sont premiers entre eux, alors les trois polynômes p, q et r sont constants.

Deux polynômes à coefficients complexes sont premiers entre eux si, et seulement si, les seuls polynômes qui divisent les deux sont les constantes. Cette résolution est plus simple que les trois cas précédents car la complexité calculatoire est moindre. La démarche est néanmoins très similaire. Les polynômes à coefficients complexes forment un anneau commutatif unitaire et intègre équipé d'une division euclidienne. Une démarche de nature arithmétique est ainsi possible. Il existe un équivalent de la notion de nombre premier, celle de polynôme irréductible (c'est-à-dire non constant et divisible uniquement par lui-même et par 1, à la multiplication par un nombre complexe près) et unitaire (c'est-à-dire de coefficient du terme de plus haut degré égal à 1). Le théorème fondamental de l'arithmétique s'applique, c'est-à-dire qu'il existe une décomposition en facteurs premiers, ainsi que l'identité de Bézout ou le lemme d'Euclide. Les démonstrations présentées dans cet article pour les cas n égal à 3 ou 5 sont choisies dans le cadre d'un anneau euclidien.

La démonstration est ici largement simplifiée par le fait que dans l'anneau des polynômes à coefficients complexes, tout élément inversible (c'est-à-dire tout polynôme constant non nul) admet une racine n-ième.

La démonstration utilise encore une fois la méthode de descente infinie. On suppose qu'il existe d'autres solutions que celles des polynômes constants et on considère un triplet de polynômes (p, q, r) de cette nature, et soit $n_0$ la somme de leurs degrés. À l'aide de cette solution, on en construit une nouvelle $(p_1,$ $q_1,$ $r_1)$ tel que la somme des degrés $n_1$ est strictement positive et strictement inférieure à $n_0.$ En réitérant le processus, on obtient une suite infinie et strictement décroissante $(n_j)$ d'entiers positifs. La méthode de descente infinie procure la contradiction recherchée.

La lettre ζ désigne une racine primitive de l'unité, c'est-à-dire une racine telle que les nombres $ζ^j,$ si j varie de 0 à n – 1, décrivent toutes les racines n-ièmes de l'unité. Le polynôme $X^n$ – 1 possède exactement n racines distinctes qui sont les n racines de l'unité, ce qui permet de déduire les égalités :

$X^{n}-1=\prod _{j=0}^{n-1}(X-\zeta ^{j})\quad {\text{donc}}\quad \forall a,b\in \mathbb {C} [X]\quad a^{n}-b^{n}=b^{n}(\left({\frac {a}{b}}\right)^{n}-1)=b^{n}\prod _{j=0}^{n-1}({\frac {a}{b}}-\zeta ^{j})=\prod _{j=0}^{n-1}(a-\zeta ^{j}b).$

L'équation de Fermat s'écrit encore :

$p^{n}=r^{n}-q^{n}=\prod _{j=0}^{n-1}(r-\zeta ^{j}q).$

Cette factorisation est possible dans tous les anneaux commutatifs unitaires intègres contenant les n racines n-ièmes de l'unité.

Le caractère factoriel intervient maintenant dans la démonstration. On remarque que les polynômes r – $ζ^jq$ sont premiers entre eux deux à deux. Deux polynômes de cette nature engendrent en effet l'espace vectoriel de base r et q. Un diviseur commun divise donc r et q et par hypothèse est constant. Chaque facteur premier de r – $ζ^jq$ est un facteur premier de $p^n$ donc de p et se trouve nécessairement à la puissance n dans le polynôme r – $ζ^jq$ puisqu'il n'est pas présent dans les polynômes r – $ζ^kq$ si k est différent de j. On en déduit que le polynôme r – $ζ^jq$ est une puissance n-ième et qu'il existe un polynôme $a_j$ tel que $a_j^n$ est égal à r – $ζ^jq.$ On obtient l'égalité :

$p=\prod _{j=0}^{n-1}a_{j}.$

On remarque que les polynômes $a_j$ sont premiers entre eux deux à deux, car les polynômes r – $ζ^jq$ le sont et une analyse de leur monôme dominant montre que l'un au plus est constant. Considérons les trois polynômes $a_1,$ $a_2$ et $a_3.$ Leur puissance n-ième est dans le plan vectoriel engendré par r et q. Il existe donc une combinaison linéaire non triviale entre eux trois.

$\exists \alpha ,\beta ,\gamma \in \mathbb {C} \quad \alpha a_{1}^{n}+\beta a_{2}^{n}=\gamma a_{3}^{n}.$

Comme tout élément de ℂ s'exprime comme une puissance n-ième d'un élément de ℂ, il existe trois complexes $α_1,$ $β_1$ et $γ_1$ tels que :

$(\alpha _{1}a_{1})^{n}+(\beta _{1}a_{2})^{n}=(\gamma _{1}a_{3})^{n}$

ce qui montre l'existence de trois polynômes non tous constants, premiers entre eux deux à deux, de somme des degrés strictement inférieure à $n_0,$ satisfaisant l'équation initiale, offrant le cadre nécessaire à la mise en place de la méthode de descente infinie.

### Cas où n est égal à trois

Le cas n = 3 est plus complexe. Euler écrit à Goldbach en 1753, lui indiquant qu'il l'a résolu. La seule preuve qu'il ait publiée, en 1770 dans son Algebra, est cependant incomplète, sur un point crucial. Euler est assez confus à cet endroit, mais il semble bien que l'argument qu'il utilise implicitement soit erroné, et il n'est jamais revenu dessus ultérieurement. Cependant la preuve, si elle n'est pas facile à corriger, peut l'être par des méthodes qu'Euler avait utilisées pour d'autres propositions de Fermat. Il est même possible qu'Euler ait eu en 1753 une démonstration correcte, puis qu'il ait voulu utiliser ensuite un argument plus élégant, celui utilisant les nombres complexes décrit $ensuite^,.$

Pour sa démonstration, il étudie des nombres dont le cube est de la forme $p^2$ + $3q^2$ avec p et q premiers entre eux. Pour cela, il utilise une méthode originale pour l'époque : il décompose $p^2$ + $3q^2$ = (p + i√3q)(p – i√3q) et cherche les nombres de la forme a + ib√3 dont le cube est p + i√3q : en termes modernes, il travaille dans l'anneau ℤ[i√3]. Le résultat qu'il obtient passe au conjugué p – i√3q. Il en déduit son résultat en affirmant que si $p^2$ + $3q^2$ est un cube, p + i√3q et p – i√3q également, du fait que p et q sont premiers entre eux, donc — dit-il — p + i√3q et p – i√3q aussi. On démontre facilement pour les entiers ordinaires que si le produit de deux nombres premiers entre eux est un cube, alors chacun d'entre eux en est un, par exemple par le lemme d'Euclide ou encore plus simplement par l'unicité de la décomposition en facteurs premiers. Il se trouve que c'est encore juste pour ℤ[i√3] mais pour des raisons différentes. Euler ne donne pas d'argument mais, d'après le reste de son livre, il semble bien que sa conviction repose sur une analogie avec les entiers. Or 2 × 2 = (1 + i√3)(1 – i√3) : il n'y a pas unicité (même à produit près par des inversibles) de la décomposition en irréductibles dans ℤ[i√3].

Gauss produisit une preuve (publiée après sa mort) par descente infinie comme Euler mais correcte et plus simple, en raisonnant dans l'anneau ℤ[j] des entiers d'Eisenstein (j désigne une racine cubique non triviale de l'unité). C'est peut-être (entre autres) ce succès qui lui fit dénigrer la conjecture de Fermat, qu'il classe parmi les nombreux énoncés faciles à proposer mais trop généraux pour être démontrés ou réfutés.

L'anneau ℤ[j] est factoriel — contrairement au sous-anneau ℤ[2j] = ℤ[i√3] — c'est-à-dire que dans cet anneau, la décomposition en irréductibles est unique (à produit près par des inversibles). En effet, on démontre dans ℤ[j] l'équivalent du lemme d'Euclide, à savoir que tout irréductible est un élément premier, appelé nombre premier d'Eisenstein. L'utilisation d'anneaux d'entiers algébriques bien choisis est une des techniques majeures du XIXe siècle pour la résolution du théorème pour certains exposants. Lorsqu'ils ne sont pas factoriels, d'autres techniques doivent être adjointes.

En posant a = x, b = y et c = –z, l'équation devient $a^3$ + $b^3$ + $c^3$ = 0. L'objectif est de montrer qu'elle n'a aucune solution non triviale, non seulement dans les entiers relatifs, mais même dans les entiers d'Eisenstein. On raisonne par l'absurde en supposant qu'il en existe une, avec a, b et c premiers entre eux deux à deux. On utilise que π := 1 – j est un nombre premier d'Eisenstein.

* Un (et un seul) des trois entiers d'Eisenstein a, b ou c est divisible par π et les deux autres peuvent être supposés congrus respectivement à 1 et –1 mod $π^2$ :(a + b + $c)^3$ est égal à 3(b + c)(c + a)(a + b) donc est divisible par –3j = $π^2$ et même (puisque c'est un cube) par $π^3,$ si bien que (b + c)(c + a)(a + b) est divisible par π donc l'un des trois facteurs l'est. On suppose dans la suite que π divise a + b. Puisqu'il divise aussi a + b + c, il divise alors c, donc pas a ni b. Ces derniers sont donc congrus à ±1 mod π. Ils le sont même mod $π^2,$ quitte à les multiplier par j ou $j^2$ si nécessaire. Puisque π divise leur somme et ne divise pas 2, en les intervertissant au besoin on a donc : a = 1 + $απ^2$ et b = –1 + $βπ^2.$
* Les trois nombres A := (a + bj)/π, B := (aj + b)/π et C = $j^2(a$ + b)/π sont des entiers d'Eisenstein premiers entre eux de somme nulle, congrus respectivement à 1, –1 et 0 mod π, et leur produit est un cube non nul :
   * $π^3ABC$ = (a + bj)(a + $bj^2)(a$ + b) = $a^3$ + $b^3$ = $–c^3$ donc ABC = $θ^3$ pour θ := –c/π ;
   * π(A + B + C) = (1 + j + $j^2)(a$ + b) = 0 ;
   * A = 1 + (α + βj)π et C = $j^2(α$ + β)π ;
   * tout diviseur commun à A et B divise $PGCD(Bj^2$ – Aj, $Aj^2$ – Bj) = PGCD(a, b) = 1.
* A et B sont des cubes (donc C aussi) :D'après le point précédent, AB n'est pas divisible par π et ABC est un cube divisible par π donc par $π^3,$ si bien que le nombre (α + β)π = jC est divisible par $π^3,$ autrement dit : α + β est divisible par $π^2.$ Ainsi, les deux nombres A = 1 + (α + β)π – $βπ^2$ et B = –A – C sont congrus respectivement à 1 et –1 non seulement mod π mais mod $π^2.$ Par conséquent (et puisque A, B et C sont premiers entre eux deux à deux et que leur produit est un cube), A et B sont des cubes : A = a' $^3,$ B = b' $^3$ (et C = c' $^3$ pour c' := θ/(a'b')).
* Une descente infinie montre que dans ℤ[j], il n'existe pas de solution non triviale à l'équation de Fermat pour n = 3 :À partir d'une hypothétique solution non triviale (a, b, c) avec a, b et c premiers entre eux, on en a construit une nouvelle, (a', b', c'), telle que le produit a'b'c' contienne un facteur π de moins que abc, puisque $(a'b'c')^3π^3$ = $(θπ)^3$ = $–c^3.$

### Théorème de Sophie Germain

La démarche permettant de résoudre le cas où n est égal à trois ne se généralise pas aux valeurs plus grandes de n. En effet, l'anneau des entiers algébriques associé aux racines n-ièmes de l'unité n'est en général pas factoriel. Le raisonnement arithmétique du cas précédent n'est donc plus opérationnel.

Durant la première décennie du XIXe siècle, Sophie Germain donne une condition suffisante sur l'entier n, supposé ici premier, pour que si le triplet (x, y, z) est solution de l'équation de Fermat alors au moins l'un des trois entiers x, y, z soit divisible par le carré de n. Cette condition est trivialement vérifiée par tous les nombres premiers auxquels on a donné son nom, comme 3 et 5 (accessoirement, Sophie Germain montre qu'elle est même vérifiée pour tout nombre premier inférieur à 100). Ses recherches en amont de ce théorème, restées méconnues, étaient sous-tendues par une nouvelle stratégie d'attaque de la conjecture.

### Cas où n est égal à cinq

Le théorème de Fermat est alors célèbre. Tous les efforts se concentrent sur le cas n = 5. Dans ce cas, il faut montrer qu'il n'existe pas de triplet (x, y, z) d'entiers non nuls et premiers entre eux tel que $x^5$ + $y^5$ = $z^5.$ S'il en existe, l'un des trois entiers (et un seul) est évidemment pair mais aussi, d'après le théorème de Sophie Germain, l'un des trois (et un seul) est divisible par 5. On doit donc distinguer deux cas, selon que le même x, y ou z est divisible par 2 et 5 ou non. Cependant, malgré l'implication de nombreux membres de la communauté mathématique, plus de quinze ans s'écoulent sans progrès notable. En 1825, Lejeune Dirichlet devient immédiatement célèbre, en résolvant le premier cas.

En juillet 1825, Lejeune Dirichlet soumet à l'Académie des sciences une preuve incomplète du cas n = 5, qu'il complète en novembre par une méthode entièrement $analogue^,,$ tout en constatant qu'entre-temps, Legendre, l'un de ses deux rapporteurs, a publié lui aussi une démonstration complète, utilisant les mêmes $techniques^,^,^,.$

Les deux démonstrations utilisent des techniques semblables à celle du cas n = 3. Elles se fondent elles aussi sur les propriétés de divisibilité d'un anneau d'entiers bien choisi. Cette fois-ci, cependant, à la différence du cas n = 3, l'anneau considéré est l'anneau des entiers d'un corps quadratique réel : le sous-corps quadratique du 5e corps cyclotomique ℚ(√5). La structure du groupe des unités devient de ce fait plus complexe. Sa compréhension revient à l'analyse d'une autre équation diophantienne dite de Pell-Fermat, étudiée par Euler. Les travaux de Lagrange sur les fractions continues fournissent les outils nécessaires à l'élucidation de cette structure. Cet anneau des entiers de ℚ(√5) permet d'établir le lemme clé de la démonstration.

À la différence des travaux de Gauss et d'Eisenstein sur le cas n = 3, aucune percée théorique majeure n'est réalisée pour la résolution de ce cas. L'anneau associé est toujours euclidien et donc factoriel, les arithmétiques utilisées sont de même nature que les précédentes. Des preuves analogues permettent d'ailleurs de montrer que d'autres équations du cinquième degré, proches de celles de Fermat, sont aussi impossibles.

La preuve repose sur le lemme clé suivant, démontré dans le paragraphe « Dernier théorème de Fermat pour l'exposant 5 » de l'article détaillé :

   Si deux entiers a et b, premiers entre eux et de parités différentes, sont tels que $a^2$ – $5b^2$ soit une puissance cinquième et b soit divisible par 5, alors il existe deux entiers c et d tels que a + b√5 = (c + $d√5)^5.$

On s'intéresse d'abord au premier cas et l'on raisonne par l'absurde : on suppose donc qu'il existe des entiers non nuls x, y et z premiers entre eux, tels que $x^5$ + $y^5$ = $z^5$ et de plus 10 divise l'un des trois, qui, sans perte de généralité, est z. On va montrer une contradiction.

Les entiers p := (x + y)/2 (non nul) et q := (x – y)/2 sont premiers entre eux et de parités différentes et

$5\mid z^{5}=(p+q)^{5}+(p-q)^{5}=2p(5q^{4}+10p^{2}q^{2}+p^{4})$

donc r := p/5 est entier (premier avec q et de parité différente), q n'est pas divisible par 5, et

$z^{5}=50r(q^{4}+50r^{2}q^{2}+125r^{4})=50r(a^{2}-5b^{2})\quad {\rm {pour}}\quad a:=q^{2}+25r^{2}\quad {\rm {et}}\quad b:=10r^{2}.$

Comme $a^2$ – $5b^2$ et 50r sont premiers entre eux, on en déduit que $a^2$ – $5b^2$ est une puissance cinquième et que r est de la forme $2^45^3s^5$ avec s entier.

Les entiers a et b sont donc premiers entre eux, avec b de la forme $2^45^2t^5$ pour un certain entier t > 0 (t = $10s^2)$ et $a^2$ – $5b^2$ puissance cinquième.

Montrons qu'à partir d'un couple (a, b) vérifiant ces conditions, on peut en construire un nouveau, (a', b'), tel que b' < b : par descente infinie, on aura ainsi la contradiction voulue.

Les entiers c et d fournis par le lemme vérifient

$a=c(c^{4}+50c^{2}d^{2}+125d^{4})\quad {\rm {et}}\quad b=5d(c^{4}+10c^{2}d^{2}+5d^{4}).$

On en déduit que c et d sont premiers entre eux, d est un multiple non nul de 10, et

$(2t)^{5}=2{\tfrac {b}{25}}=2{\tfrac {d}{5}}(c^{4}+10c^{2}d^{2}+5d^{4})=2{\tfrac {d}{5}}(a'^{2}-5b'^{2})\quad {\rm {pour}}\quad a':=c^{2}+5d^{2}\quad {\rm {et}}\quad b':=2d^{2}.$

Comme précédemment, a' $^2$ – 5b' $^2$ est alors une puissance cinquième, d est de la forme $2^45s'$ avec s' entier donc b' est de la forme $2^45^2t'$ $^5$ pour un certain entier t' > 0 (t' = 2s' $^2),$ et a' et b' sont premiers entre eux.

Enfin, b = $5d(c^4$ + $10c^2d^2$ + $5d^4)$ > $2d^2$ = b', ce qui achève la preuve du premier cas.

Pour traiter l'autre cas, dans lequel 5 divise l'un des x, y, z et 2 en divise un autre, on pose x + y = 5r et x – y = q. Des transformations algébriques analogues aux précédentes aboutissent au fait qu'une certaine expression $(a/2)^2$ – $5(b/2)^2,$ pour des a et b entiers, est une puissance cinquième. On exprime alors (a/2) + (b/2)√5 comme ((c/2) + $(d/2)√5)^5,$ avec c et d entiers. La preuve s'achève ensuite comme dans le cas précédent.

