Dixième problème de Hilbert
# Dixième problème de Hilbert

Le dixième problème de Hilbert fait partie de la liste des 23 problèmes posés par David Hilbert en 1900 à Paris, lors de sa conférence au congrès international des mathématiciens. Il énonce :

   X. — De la possibilité de résoudre une équation diophantienne.
       On donne une équation diophantienne à un nombre quelconque d'inconnues et à coefficients entiers rationnels : On demande de trouver une méthode par laquelle, au moyen d'un nombre fini d'opérations, on pourra distinguer si l'équation est résoluble en nombres entiers rationnels.

En termes modernes, il demande de trouver un algorithme général permettant de décider, pour n'importe quelle équation diophantienne (c'est-à-dire équation polynomiale à coefficients entiers), si cette équation possède des solutions entières.

En 1970, Youri Matiiassevitch démontre qu'il n'existe pas de tel algorithme. Le théorème de Matiiassevitch établit que les ensembles diophantiens, qui sont les ensembles de solutions entières positives ou nulles d'une équation diophantienne avec paramètres, sont exactement tous les ensembles récursivement énumérables, ce qui entraîne qu'un tel algorithme ne peut exister.

## Prérequis

### Description

Il s'agit du seul des 23 problèmes de Hilbert qui est ce que l'on appelle aujourd'hui un problème de décision : il existe une infinité dénombrable d'équations diophantiennes, mais la solution du dixième problème demande de trouver une méthode universelle qui permette de statuer sur la résolubilité de n'importe quelle équation diophantienne. Il existe de fait des méthodes très diverses et utilisant des techniques mathématiques très variées pour résoudre des équations diophantiennes spécifiques. Par exemple, le théorème de Fermat-Wiles résout une famille d'équations diophantiennes à trois inconnues.

Hilbert n'emploie pas le mot « algorithme », mais il n'y a aucun doute que c'est cela qu'il entend. À son époque, il n'existe pas de définition précise de ce qu'est un algorithme, ce qui n'aurait pas été gênant si la solution du problème avait été positive. Pour pouvoir envisager une solution négative, il fallait en proposer une définition mathématique, qui est le fruit de travaux dans les années 1930, et repose sur la thèse de Church, formulée en 1936.

### Équation diophantienne

Commençons par un exemple : considérons l'équation polynomiale (à deux inconnues) $x^{2}-2y^{2}=0.$ On sait depuis la découverte des irrationnels en Grèce Antique qu'il n'existe pas de nombre rationnel $x/y$ dont le carré vaut $2$. On dira alors que l'équation diophantienne associée au polynôme $D(x,y)=x^{2}-2y^{2}$ ne possède aucune solution (on précise parfois « aucune solution non triviale », c’est-à-dire formée d’entiers strictement positifs). De manière générale, une équation diophantienne est une équation du type $D(x_{1},\dots ,x_{k})=0$ où $D$ est un polynôme à $k$ indéterminées à coefficients entiers, dont on cherche des solutions entières (ou parfois seulement entières positives, voir ci-dessous).

Un exemple de familles d'équations diophantiennes dont on sait trouver des solutions, est la famille des équations du type $ax+by=c$ d'inconnues $x,y$, où $a,b,c$ sont des entiers; par exemple l'équation $99x+56y=1$. On peut bien sûr imaginer des exemples plus exotiques comme $4x^{2}+34zy-xy+(z-y-3x)^{4}=0$ d'inconnues $x,y,z$.

Hilbert pose donc la question dans son dixième problème de savoir si l'on peut écrire un algorithme $A$, prenant en entrée un polynôme $D(x_{1},\dots ,x_{k})$, à coefficients entiers, et décidant si oui ou non l'équation $D(x_{1},\dots ,x_{k})=0$ possède des solutions entières (en particulier on ne demande pas à l'algorithme $A$ de donner ces solutions si elles existent).

Il est important de noter que la résolution de $D(x_{1},\dots ,x_{k})=0$ où $x_{1},\dots ,x_{k}$ sont des entiers quelconques, revient à résoudre $D(y_{1}-z_{1},\dots ,y_{k}-z_{k})=0$ où $y_{1},z_{1},\dots ,y_{k},z_{k}$ sont des entiers naturels. Ainsi, on peut donc ramener le dixième problème de Hilbert à un autre problème de décision, qui est de savoir si une équation diophantienne admet des solutions entières positives (on parle de réduction).

### Ensembles diophantiens

On ne va maintenant plus considérer une seule équation diophantienne $D(x_{1},\dots ,x_{k})=0$ mais une famille d'équations diophantiennes du type $D(a_{1},\dots ,a_{n},x_{1},\dots ,x_{k})=0$, où $a_{1},\dots ,a_{n}$ sont des paramètres qui sont des entiers positifs.

Ceci peut donner l'impression que l'on complexifie le problème mais cette interprétation des équations diophantiennes va s'avérer très utile. En effet pour un polynôme $D(a_{1},\dots ,a_{n},x_{1},\dots ,x_{k})$ à paramètres entiers $a_{1},\dots ,a_{n}$, on peut considérer l'ensemble $M=\{\,(a_{1},\dots ,a_{n})\mid \exists x_{1},\dots ,x_{k}\in \mathbb {N} \ D(a_{1},\dots ,a_{n},x_{1},\dots ,x_{k})=0\,\}$, c'est-à-dire l'ensemble des $n$-uplets de paramètres $(a_{1},\dots ,a_{n})$ tels que l'équation $D(a_{1},\dots ,a_{n},x_{1},\dots ,x_{k})=0$ possède au moins une solution entière positive. Réciproquement, on dit qu'un ensemble de $n$-uplets est diophantien s'il est de cette forme, et alors le polynôme $D(a_{1},\dots ,a_{n},x_{1},\dots ,x_{k})$ est une représentation diophantienne de cet ensemble.

Par exemple l'ensemble des entiers naturels pairs est diophantien : en effet $D(a,x)=a-2x$ en est une représentation diophantienne. De même, le sous-ensemble de $\mathbb {N} ^{2}$ des couples d'entiers positifs premiers entre eux est diophantien puisque, par le théorème de Bézout, cet ensemble est représenté par le polynôme paramétré $D(a,b,x_{1},x_{2},y_{1},y_{2})=a(x_{1}-x_{2})+b(y_{1}-y_{2})-1$ toujours avec $a,b,x_{1},x_{2},y_{1},y_{2}$ des entiers positifs.

### Problèmes décidables

Comme dit dans la description, le dixième problème de Hilbert est un problème de décision, c'est-à-dire qu'on se pose la question de l'existence d'un algorithme $A$ qui, à chaque fois que l'on entre une équation diophantienne, renvoie « oui » ou « non » selon qu'elle possède ou non des solutions. S'il existe un tel algorithme, le problème de décision est dit décidable. On dira, de manière équivalente, que l'ensemble des instances positives d'un tel problème est alors récursif.

### Ensembles récursivement énumérables

Un sous-ensemble $S$ de $\mathbb {N} ^{n}$est dit récursivement énumérable s’il existe un algorithme qui s'exécute indéfiniment et qui énumère exactement tous les membres de $S$.

   Proposition - tout ensemble diophantien est récursivement énumérable.

En effet, considérons une équation diophantienne $D(a_{1},\dots ,a_{n},x_{1},\dots ,x_{k})=0$ et imaginons un algorithme qui parcourt toutes les valeurs possibles des $(n+k)$-uplets $a_{1},\dots ,a_{n},x_{1},\dots ,x_{k}$ dans un ordre précis (par exemple un ordre lexicographique), et affiche $a_{1},\dots ,a_{n}$ chaque fois que $D(a_{1},\dots ,a_{n},x_{1},\dots ,x_{k})=0$. Cet algorithme s'exécutera sans fin et énumérera exactement les $k$-uplets $a_{1},\dots ,a_{n}$ pour lesquels $D(a_{1},\dots ,a_{n},x_{1},\dots ,x_{k})=0$ a une solution.

   Proposition - Il existe des ensembles récursivement énumérables qui ne sont pas récursifs

Par exemple, le langage d'acceptation, c'est-à-dire l'ensemble des couples $\langle M,w\rangle$ où $M$ est une machine de Turing qui termine avec le mot $w$ comme donnée initiale, est récursivement énumérable mais pas récursif. Ainsi, on peut trouver un ensemble récursivement énumérable $S$ de $n$-uplets non récursif, c'est-à-dire tel que pour n'importe quel algorithme on puisse trouver un $n$-uplet pour lequel cet algorithme tourne indéfiniment sans jamais renvoyer de réponse. En vue des liens déjà établis entre ensembles diophantiens et ensembles récursivement énumérables, si l'ensemble $S$ précédent était diophantien, on aurait notre réponse au dixième problème de Hilbert.

## Théorème de Matiiassevitch

Ces derniers énoncés ont incité Martin Davis à conjecturer que les ensembles récursivement énumérables sont exactement les ensembles diophantiens. Ceci donnerait en effet, grâce au dernier énoncé, une réponse négative au dixième problème de Hilbert. Le théorème de Matiiassevitch (1970) prouve la conjecture de Davis.

### Énoncé

Le théorème de Matiiassevitch, prouvant la conjecture de Martin Davis, lui-même est beaucoup plus fort que l'insolubilité du dixième problème. Cet énoncé aussi appelé « Théorème DPRM » (pour Martin Davis, Hilary Putnam, Julia Robinson et Matiiassevitch) affirme que :

   Un ensemble est récursivement énumérable si et seulement s’il est diophantien.

Le fait que tout ensemble diophantien est récursivement énumérable a été expliqué ci-dessus dans la partie ensemble récursivement énumérable, est évidemment le sens de l'équivalence qui a posé le moins de problèmes. C'est l'implication « être récursivement énumérable ⇒ être diophantien » qui a pris vingt ans à être prouvée.

### Réponse au problème

Ce théorème répond bien au problème puisqu'on peut trouver un ensemble récursivement énumérable non récursif, et par le théorème précédent, cet ensemble est diophantien. On a donc un ensemble diophantien non récursif et la théorie de la décidabilité nous dit donc que le problème de décision des équations diophantiennes a une réponse négative.

## Conséquences

### Incomplétude de Gödel

Le théorème de Matiiassevitch a été depuis employé pour démontrer l'indécidabilité de nombreux problèmes liés à l'arithmétique. De même, on peut également dériver la forme suivante plus forte du premier théorème d'incomplétude de Gödel :

   Soit une axiomatisation finie (ou récursive) de l'arithmétique. On peut construire une équation diophantienne qui n'a aucune solution, mais tel que ce fait ne puisse pas être démontré dans l'axiomatisation en question.

### Équation diophantienne universelle

Si $n\in \mathbb {N}$, on peut lister tous les ensembles récursivement énumérables de $n$-uplets de $\mathbb {N} ^{n}$:

$M_{0},\dots ,M_{k},\dots$

Soit alors $U_{n}$ l'ensemble des $(n+1)$-uplets tel que:

$(a_{1},\dots ,a_{n},k)\in U_{n}\iff (a_{1},\dots ,a_{n})\in M_{k}$

Il n'est alors pas compliqué de prouver que $U_{n}$ est récursivement énumérable, ainsi par le théorème de Matiiassevitch:

$\exists D_{n}\ (a_{1},\dots ,a_{n},a_{n+1})\in U_{n}\iff \exists (x_{1},\dots ,x_{k})\ D_{n}(a_{1},\dots ,a_{n},a_{n+1},x_{1},\dots ,x_{k})=0$

On a donc, de façon analogue à la Machine de Turing universelle, pour tout $n\in \mathbb {N}$, l'existence d'un polynôme universel $D_{n}$, où l'universalité est à prendre de la façon suivante:

$\forall D\ \exists k_{D}\ \forall (a_{1},\dots ,a_{n})\ [\exists (x_{1},\dots ,x_{k})\ [D(a_{1},\dots ,a_{n},x_{1},\dots ,x_{k})=0\iff D_{n}(a_{1},\dots ,a_{n},k_{D},x_{1},\dots ,x_{k})=0]]$

Ainsi, pour un nombre de paramètres fixes, une équation diophantienne, de degré et nombre d'inconnues quelconques, peut se ramener à la résolution d'une équation diophantienne de degré et nombre d'inconnues fixes.

