Démonstration du dernier théorème de Fermat pour les exposants 3, 4 et 5

Si l'un des trois entiers x, y ou z est nul, alors l'équation devient évidente ; de telles solutions sont dites triviales. L'objectif est donc la recherche d'un triplet solution tel que le produit xyz soit non nul.

L'équation est homogène, c'est-à-dire que pour une valeur n donnée, si le triplet (x, y, z) est solution, alors (ax, ay, az) est aussi solution. En conséquence, les seules racines recherchées sont les triplets d'entiers premiers entre eux dans leur ensemble.

Pour toute solution, le PGCD de deux quelconques des trois entiers est un diviseur du troisième. Les racines auxquelles on s'est restreint sont donc les triplets (x, y, z) tels que (par exemple) x et y soient premiers entre eux.

Si l'équation n'admet pas de solution pour une valeur p du paramètre, alors il n'existe pas de solution pour toute valeur n multiple de p. En effet, si l'on note n = pq alors l'équation s'écrit :

${\displaystyle \left(x^{q}\right)^{p}+\left(y^{q}\right)^{p}=\left(z^{q}\right)^{p}.}$

En conséquence, les valeurs à traiter sont celles où n est un nombre premier. Il est toutefois à noter l'unique exception, correspondant au cas n = 2, cas dans lequel des solutions existent ; il est donc nécessaire d'étudier aussi le cas n = 4 (ce qui réglera le cas des nombres composés puissances de 2, puisqu'ils sont de la forme 4 × 2^k avec k ⩾ 0).

Quelques résultats se démontrent sans concepts supplémentaires. Le cas n = 2, traité à la suite, est simple et date de l'Antiquité. Celui où n est égal à 4 se démontre de manière un tout petit peu moins élémentaire. Les cas restants sont ceux où n est premier différent de 2. Il existe une démonstration qui n'utilise pas les entiers d'Eisenstein pour le cas n = 3 ; elle est néanmoins suffisamment astucieuse et difficile pour que le mathématicien Leonhard Euler ne propose qu'une démonstration inexacte.

Les autres cas sont techniques ; l'utilisation d'entiers algébriques est indispensable. Le premier terme est bien une identité remarquable : xⁿ + yⁿ est en effet un multiple de x + y si n n'est pas une puissance de 2. Cependant, cette remarque est largement insuffisante pour conclure, ne serait-ce que pour un exposant.

Le cas n = 2 possède une interprétation géométrique. Il correspond aux longueurs entières des trois côtés d'un triangle rectangle.

Ce cas est connu depuis la plus haute Antiquité. Ainsi, les Sumériens connaissaient^[2] quelques exemples de solutions. La solution complète apparaît pour la première fois dans le livre X des Éléments d'Euclide vers 300 av. J.-C.

Ce cas est l'unique exception du théorème (si l'on omet le cas n = 1). En effet, pour n = 2, il existe des solutions non triviales, appelées les triplets pythagoriciens, comme la solution (3, 4, 5). En conséquence, il devient important de considérer le cas n = 4, pour démontrer qu'il n'existe pas d'autre puissance de 2 admettant des solutions non triviales.

Dans tout l'œuvre mathématique laissé par Fermat, on ne trouve qu'une démonstration : la preuve de ce cas^[3], sous une formulation différente. Il démontre en effet qu'il n'existe aucun triplet pythagoricien (x, y, z) tel que xy/2 soit un carré d'entier, ce qu'il exprime par « l'aire d'un triangle rectangle en nombres ne peut être un carré^[4] ». Comme ce résultat équivaut à l'absence de solutions entières non triviales pour l'équation a⁴ – b⁴ = c², le cas n = 4 en est un corollaire immédiat. Pour cette raison, on considère très généralement que Fermat a démontré ce cas^[5],[6].

La méthode utilisée est celle de la descente infinie. Elle consiste à trouver un autre triplet solution dont le troisième entier est positif et strictement plus petit que celui de la solution initiale. Il est ainsi possible de descendre indéfiniment dans l'ensemble des entiers positifs, ce qui est contradictoire avec les propriétés de ℕ.

Deux preuves complètes et nouvelles proviennent de Leonhard Euler^[7] ; elles sont aussi fondées sur la méthode de la descente infinie. Il en existe d'autres, par exemple utilisant la notion d'entiers de Gauss.

Une fois analysé le cas des puissances de 2, le théorème devient singulièrement plus complexe à établir. Il existe encore trois démonstrations, pour les cas n = 3, 5 et 7, fondées sur le même canevas et usant de la méthode de descente infinie.

Pour pouvoir l'appliquer, une idée fructueuse consiste à « modifier » l'ensemble sur lequel s'applique l'équation. Il est possible de généraliser le théorème de Fermat sur tout ensemble E muni de deux opérations, l'addition et la multiplication. Les opérations sur E doivent disposer d'un minimum de propriétés, lui conférant une structure appelée anneau. Cette idée est un peu contre-intuitive : si la résolution se révèle déjà ardue dans ℤ, l'anneau des entiers relatifs, la question ne devient-elle pas encore plus délicate sur un anneau quelconque ? En fait, l'objectif est de choisir E disposant des bonnes propriétés pour que la résolution soit plus aisée.

Cet anneau est choisi :

• commutatif ;
• intègre, c'est-à-dire que si un produit ab est égal à 0 alors a ou b est nul ;
• factoriel, ce qui signifie que tout élément non nul et non inversible se décompose en un produit d'éléments premiers de l'anneau, comme –12 est, dans ℤ, le produit de –3, 2 et 2 ;
• et tel que tout élément inversible possède une racine n-ième.

Sur un tel anneau, correspondant par exemple à celui des polynômes à coefficients complexes, Augustin Louis Cauchy met au point une méthode générale de résolution.

La difficulté réside dans le fait que ℤ ne contient pas de racine n-ième de l'unité à l'exception de 1 et –1. L'usage d'autres anneaux contenant ℤ devient intéressant. Les plus simples correspondent à des ensembles ℤ[ω] d'entiers quadratiques c'est-à-dire des nombres de la forme a + bω où a et b sont des entiers relatifs et ω un nombre complexe tel que ω² soit combinaison linéaire de ω et de 1 à coefficients dans ℤ, ce qui assure la stabilité de l'ensemble. Certains de ces ensembles contiennent des racines n-ième de l'unité. Tel est le cas si ω est la racine cubique de l'unité j = (1 + i√3)/2 ou le nombre d'or (1 + √5)/2. De plus, ces anneaux sont dits euclidiens, c'est-à-dire qu'il existe une division euclidienne. Et tout anneau euclidien est factoriel. Ils permettent de résoudre les cas n = 3 ou 5. Une approche un peu analogue permet encore de résoudre le cas n = 7.

L'efficacité des anneaux quadratiques s'arrête là. Dans le cas général, ils ne sont ni euclidiens ni factoriels, ce qui impose la mise au point d'autres idées.

On recherche ici à résoudre l'équation :

${\displaystyle x^{n}+y^{n}=z^{n}\;}$

Ici x, y et z représentent trois polynômes à coefficients complexes. Pour les raisons indiquées au paragraphe précédent, cette question est finalement beaucoup plus facile que celle de Fermat. Elle est résolue en 1847 par Cauchy^[8] après la résolution des cas n = 3, 5 et 7 et avant la percée majeure de Ernst Kummer. Le résultat s'énonce de la manière suivante :

• Soit p, q, r trois polynômes à coefficients complexes et n un entier strictement plus grand que 2, si pⁿ + qⁿ = rⁿ et si p et q sont premiers entre eux, alors les trois polynômes p, q et r sont constants.

Deux polynômes à coefficients complexes sont premiers entre eux si, et seulement si, les seuls polynômes qui divisent les deux sont les constantes. Cette résolution est plus simple que les trois cas précédents car la complexité calculatoire est moindre. La démarche est néanmoins très similaire. Les polynômes à coefficients complexes forment un anneau commutatif unitaire et intègre équipé d'une division euclidienne. Une démarche de nature arithmétique est ainsi possible. Il existe un équivalent de la notion de nombre premier, celle de polynôme irréductible (c'est-à-dire non constant et divisible uniquement par lui-même et par 1, à la multiplication par un nombre complexe près) et unitaire (c'est-à-dire de coefficient du terme de plus haut degré égal à 1). Le théorème fondamental de l'arithmétique s'applique, c'est-à-dire qu'il existe une décomposition en facteurs premiers, ainsi que l'identité de Bézout ou le lemme d'Euclide. Les démonstrations présentées dans cet article pour les cas n égal à 3 ou 5 sont choisies dans le cadre d'un anneau euclidien.

La démonstration est ici largement simplifiée par le fait que dans l'anneau des polynômes à coefficients complexes, tout élément inversible (c'est-à-dire tout polynôme constant non nul) admet une racine n-ième.

Démonstration^[9]

La démonstration utilise encore une fois la méthode de descente infinie. On suppose qu'il existe d'autres solutions que celles des polynômes constants et on considère un triplet de polynômes (p, q, r) de cette nature, et soit n₀ la somme de leurs degrés. À l'aide de cette solution, on en construit une nouvelle (p₁, q₁, r₁) tel que la somme des degrés n₁ est strictement positive et strictement inférieure à n₀. En réitérant le processus, on obtient une suite infinie et strictement décroissante (n_j) d'entiers positifs. La méthode de descente infinie procure la contradiction recherchée.

La lettre ζ désigne une racine primitive de l'unité, c'est-à-dire une racine telle que les nombres ζ^j, si j varie de 0 à n – 1, décrivent toutes les racines n-ièmes de l'unité. Le polynôme Xⁿ – 1 possède exactement n racines distinctes qui sont les n racines de l'unité, ce qui permet de déduire les égalités :

${\displaystyle X^{n}-1=\prod _{j=0}^{n-1}(X-\zeta ^{j})\quad {\text{donc}}\quad \forall a,b\in \mathbb {C} [X]\quad a^{n}-b^{n}=b^{n}(\left({\frac {a}{b}}\right)^{n}-1)=b^{n}\prod _{j=0}^{n-1}({\frac {a}{b}}-\zeta ^{j})=\prod _{j=0}^{n-1}(a-\zeta ^{j}b).}$

L'équation de Fermat s'écrit encore :

${\displaystyle p^{n}=r^{n}-q^{n}=\prod _{j=0}^{n-1}(r-\zeta ^{j}q).}$

Cette factorisation est possible dans tous les anneaux commutatifs unitaires intègres contenant les n racines n-ièmes de l'unité.

Le caractère factoriel intervient maintenant dans la démonstration. On remarque que les polynômes r – ζ^jq sont premiers entre eux deux à deux. Deux polynômes de cette nature engendrent en effet l'espace vectoriel de base r et q. Un diviseur commun divise donc r et q et par hypothèse est constant. Chaque facteur premier de r – ζ^jq est un facteur premier de pⁿ donc de p et se trouve nécessairement à la puissance n dans le polynôme r – ζ^jq puisqu'il n'est pas présent dans les polynômes r – ζ^kq si k est différent de j. On en déduit que le polynôme r – ζ^jq est une puissance n-ième et qu'il existe un polynôme a_j tel que a_jⁿ est égal à r – ζ^jq. On obtient l'égalité :

${\displaystyle p=\prod _{j=0}^{n-1}a_{j}.}$

On remarque que les polynômes a_j sont premiers entre eux deux à deux, car les polynômes r – ζ^jq le sont et une analyse de leur monôme dominant montre que l'un au plus est constant. Considérons les trois polynômes a₁, a₂ et a₃. Leur puissance n-ième est dans le plan vectoriel engendré par r et q. Il existe donc une combinaison linéaire non triviale entre eux trois.

${\displaystyle \exists \alpha ,\beta ,\gamma \in \mathbb {C} \quad \alpha a_{1}^{n}+\beta a_{2}^{n}=\gamma a_{3}^{n}.}$

Comme tout élément de ℂ s'exprime comme une puissance n-ième d'un élément de ℂ, il existe trois complexes α₁, β₁ et γ₁ tels que :

${\displaystyle (\alpha _{1}a_{1})^{n}+(\beta _{1}a_{2})^{n}=(\gamma _{1}a_{3})^{n}}$ ,

ce qui montre l'existence de trois polynômes non tous constants, premiers entre eux deux à deux, de somme des degrés strictement inférieure à n₀, satisfaisant l'équation initiale, offrant le cadre nécessaire à la mise en place de la méthode de descente infinie.

Le cas n = 3 est plus complexe^[10]. Euler écrit à Goldbach en 1753, lui indiquant qu'il l'a résolu. La seule preuve qu'il ait publiée, en 1770 dans son Algebra, est cependant incomplète^[11], sur un point crucial. Euler est assez confus à cet endroit, mais il semble bien que l'argument qu'il utilise implicitement soit erroné, et il n'est jamais revenu dessus ultérieurement^[12]. Cependant la preuve, si elle n'est pas facile à corriger, peut l'être par des méthodes qu'Euler avait utilisées pour d'autres propositions de Fermat^[13]. Il est même possible qu'Euler ait eu en 1753 une démonstration correcte, puis qu'il ait voulu utiliser ensuite un argument plus élégant, celui utilisant les nombres complexes décrit ensuite^[12],[3].

Pour sa démonstration, il étudie des nombres dont le cube est de la forme p² + 3q² avec p et q premiers entre eux. Pour cela, il utilise une méthode originale pour l'époque : il décompose p² + 3q² = (p + i√3q)(p – i√3q) et cherche les nombres de la forme a + ib√3 dont le cube est p + i√3q : en termes modernes, il travaille dans l'anneau ℤ[i√3]. Le résultat qu'il obtient passe au conjugué p – i√3q. Il en déduit son résultat en affirmant que si p² + 3q² est un cube, p + i√3q et p – i√3q également, du fait que p et q sont premiers entre eux, donc — dit-il — p + i√3q et p – i√3q aussi. On démontre facilement pour les entiers ordinaires que si le produit de deux nombres premiers entre eux est un cube, alors chacun d'entre eux en est un, par exemple par le lemme d'Euclide ou encore plus simplement par l'unicité de la décomposition en facteurs premiers. Il se trouve que c'est encore juste pour ℤ[i√3] mais pour des raisons différentes. Euler ne donne pas d'argument mais, d'après le reste de son livre, il semble bien que sa conviction repose sur une analogie avec les entiers^[14]. Or 2 × 2 = (1 + i√3)(1 – i√3) : il n'y a pas unicité (même à produit près par des inversibles) de la décomposition en irréductibles dans ℤ[i√3].

Gauss produisit une preuve (publiée après sa mort^[15]) par descente infinie comme Euler mais correcte et plus simple, en raisonnant dans l'anneau ℤ[j] des entiers d'Eisenstein (j désigne une racine cubique non triviale de l'unité). C'est peut-être (entre autres) ce succès qui lui fit dénigrer la conjecture de Fermat^[16], qu'il classe parmi les nombreux énoncés faciles à proposer mais trop généraux pour être démontrés ou réfutés^[17].

L'anneau ℤ[j] est factoriel — contrairement au sous-anneau ℤ[2j] = ℤ[i√3] — c'est-à-dire que dans cet anneau, la décomposition en irréductibles est unique (à produit près par des inversibles). En effet, on démontre dans ℤ[j] l'équivalent du lemme d'Euclide, à savoir que tout irréductible est un élément premier, appelé nombre premier d'Eisenstein. L'utilisation d'anneaux d'entiers algébriques bien choisis est une des techniques majeures du XIX^e siècle pour la résolution du théorème pour certains exposants. Lorsqu'ils ne sont pas factoriels, d'autres techniques doivent être adjointes.

La démarche permettant de résoudre le cas où n est égal à trois ne se généralise pas aux valeurs plus grandes de n. En effet, l'anneau des entiers algébriques associé aux racines n-ièmes de l'unité n'est en général pas factoriel. Le raisonnement arithmétique du cas précédent n'est donc plus opérationnel.

Durant la première décennie du XIX^e siècle, Sophie Germain donne une condition suffisante sur l'entier n, supposé ici premier, pour que si le triplet (x, y, z) est solution de l'équation de Fermat alors au moins l'un des trois entiers x, y, z soit divisible par le carré de n. Cette condition est trivialement vérifiée par tous les nombres premiers auxquels on a donné son nom, comme 3 et 5 (accessoirement, Sophie Germain montre qu'elle est même vérifiée pour tout nombre premier inférieur à 100). Ses recherches en amont de ce théorème, restées méconnues, étaient sous-tendues par une nouvelle stratégie d'attaque de la conjecture.

Cette section ne cite pas suffisamment ses sources (mars 2013). 

Pour l'améliorer, ajoutez des références de qualité et vérifiables (comment faire ?) ou le modèle {{Référence nécessaire}} sur les passages nécessitant une source.

Le théorème de Fermat est alors célèbre. Tous les efforts se concentrent sur le cas n = 5. Dans ce cas, il faut montrer qu'il n'existe pas de triplet (x, y, z) d'entiers non nuls et premiers entre eux tel que x⁵ + y⁵ = z⁵. S'il en existe, l'un des trois entiers (et un seul) est évidemment pair mais aussi, d'après le théorème de Sophie Germain, l'un des trois (et un seul) est divisible par 5. On doit donc distinguer deux cas, selon que le même x, y ou z est divisible par 2 et 5 ou non. Cependant, malgré l'implication de nombreux membres de la communauté mathématique, plus de quinze ans s'écoulent sans progrès notable. En 1825, Lejeune Dirichlet devient immédiatement célèbre, en résolvant le premier cas.

En juillet 1825, Lejeune Dirichlet soumet à l'Académie des sciences une preuve incomplète du cas n = 5, qu'il complète en novembre par une méthode entièrement analogue^[18],[19], tout en constatant qu'entre-temps, Legendre, l'un de ses deux rapporteurs^[18], a publié lui aussi une démonstration complète, utilisant les mêmes techniques^{[20],[21],[22],[3]}.

Les deux démonstrations utilisent des techniques semblables à celle du cas n = 3. Elles se fondent elles aussi sur les propriétés de divisibilité d'un anneau d'entiers bien choisi. Cette fois-ci, cependant, à la différence du cas n = 3, l'anneau considéré est l'anneau des entiers d'un corps quadratique réel : le sous-corps quadratique du 5^e corps cyclotomique ℚ(√5). La structure du groupe des unités devient de ce fait plus complexe. Sa compréhension revient à l'analyse d'une autre équation diophantienne dite de Pell-Fermat, étudiée par Euler. Les travaux de Lagrange sur les fractions continues fournissent les outils nécessaires à l'élucidation de cette structure. Cet anneau des entiers de ℚ(√5) permet d'établir le lemme clé de la démonstration.

À la différence des travaux de Gauss et d'Eisenstein sur le cas n = 3, aucune percée théorique majeure n'est réalisée pour la résolution de ce cas. L'anneau associé est toujours euclidien et donc factoriel, les arithmétiques utilisées sont de même nature que les précédentes. Des preuves analogues permettent d'ailleurs de montrer que d'autres équations du cinquième degré, proches de celles de Fermat, sont aussi impossibles^[23].

La preuve^[24] repose sur le lemme clé suivant, démontré dans le paragraphe « Dernier théorème de Fermat pour l'exposant 5 » de l'article détaillé :

Si deux entiers a et b, premiers entre eux et de parités différentes, sont tels que a² – 5b² soit une puissance cinquième et b soit divisible par 5, alors il existe deux entiers c et d tels que a + b√5 = (c + d√5)⁵.

Démonstration

On s'intéresse d'abord au premier cas et l'on raisonne par l'absurde : on suppose donc qu'il existe des entiers non nuls x, y et z premiers entre eux, tels que x⁵ + y⁵ = z⁵ et de plus 10 divise l'un des trois, qui, sans perte de généralité, est z. On va montrer une contradiction.

Les entiers p := (x + y)/2 (non nul) et q := (x – y)/2 sont premiers entre eux et de parités différentes et

${\displaystyle 5\mid z^{5}=(p+q)^{5}+(p-q)^{5}=2p(5q^{4}+10p^{2}q^{2}+p^{4})}$

donc r := p/5 est entier (premier avec q et de parité différente), q n'est pas divisible par 5, et

${\displaystyle z^{5}=50r(q^{4}+50r^{2}q^{2}+125r^{4})=50r(a^{2}-5b^{2})\quad {\rm {pour}}\quad a:=q^{2}+25r^{2}\quad {\rm {et}}\quad b:=10r^{2}.}$

Comme a² – 5b² et 50r sont premiers entre eux, on en déduit que a² – 5b² est une puissance cinquième et que r est de la forme 2⁴5³s⁵ avec s entier.

Les entiers a et b sont donc premiers entre eux, avec b de la forme 2⁴5²t⁵ pour un certain entier t > 0 (t = 10s²) et a² – 5b² puissance cinquième.

Montrons qu'à partir d'un couple (a, b) vérifiant ces conditions, on peut en construire un nouveau, (a', b'), tel que b' < b : par descente infinie, on aura ainsi la contradiction voulue.

Les entiers c et d fournis par le lemme vérifient

${\displaystyle a=c(c^{4}+50c^{2}d^{2}+125d^{4})\quad {\rm {et}}\quad b=5d(c^{4}+10c^{2}d^{2}+5d^{4}).}$

On en déduit que c et d sont premiers entre eux, d est un multiple non nul de 10, et

${\displaystyle (2t)^{5}=2{\tfrac {b}{25}}=2{\tfrac {d}{5}}(c^{4}+10c^{2}d^{2}+5d^{4})=2{\tfrac {d}{5}}(a'^{2}-5b'^{2})\quad {\rm {pour}}\quad a':=c^{2}+5d^{2}\quad {\rm {et}}\quad b':=2d^{2}.}$

Comme précédemment, a' ² – 5b' ² est alors une puissance cinquième, d est de la forme 2⁴5s' avec s' entier donc b' est de la forme 2⁴5²t' ⁵ pour un certain entier t' > 0 (t' = 2s' ²), et a' et b' sont premiers entre eux.

Enfin, b = 5d(c⁴ + 10c²d² + 5d⁴) > 2d² = b', ce qui achève la preuve du premier cas.

Pour traiter l'autre cas, dans lequel 5 divise l'un des x, y, z et 2 en divise un autre, on pose x + y = 5r et x – y = q. Des transformations algébriques analogues aux précédentes aboutissent au fait qu'une certaine expression (a/2)² – 5(b/2)², pour des a et b entiers, est une puissance cinquième. On exprime alors (a/2) + (b/2)√5 comme ((c/2) + (d/2)√5)⁵, avec c et d entiers. La preuve s'achève ensuite comme dans le cas précédent.