Dernier théorème de Fermat

La page de l'édition gréco-latine de 1621 des Arithmétiques traduite et commentée par Bachet de Méziriac[3], la question VIII traite des triplets pythagoriciens. C'est sur un exemplaire similaire – non retrouvé – que Fermat a écrit sa note.

Le théorème doit son nom à Pierre de Fermat, qui l'énonce en marge d'une traduction[3] (du grec au latin) des Arithmétiques de Diophante, en regard d'un problème ayant trait aux triplets pythagoriciens : « Au contraire, il est impossible de partager soit un cube en deux cubes, soit un bicarré en deux bicarrés, soit en général une puissance quelconque supérieure au carré en deux puissances de même degré : j'en ai découvert une démonstration véritablement merveilleuse que cette marge est trop étroite pour contenir »[4].

On ignore la destination de ces notes marginales[5], qui paraissent cependant avoir été réservées au seul usage du mathématicien[6], même si on peut trouver qu'elles sont écrites « dans un style qui suppose la présence d’un lecteur »[7].

Elles nous sont parvenues par une transcription réalisée par son fils Samuel, qui a publié une réédition du Diophante de Bachet augmentée des annotations de son père 5 ans après la mort de celui-ci[8]. On n'a pas d'autre description de l'exemplaire portant les annotations de Fermat, qui a été perdu très tôt, peut-être détruit par son fils pour cette édition[6].

Cette note est le seul témoignage dont on dispose de la part de Fermat sur cet énoncé dans le cas général. A fortiori aucune démonstration ou tentative de démonstration n'a été retrouvée. En revanche, Fermat évoque à plusieurs reprises le cas des cubes et des puissances quatrièmes, et on possède des preuves de lui et de contemporains sur le cas des puissances quatrièmes[5].

Les résultats de Fermat (presque toujours annoncés sous forme de problèmes, et sans démonstration) n'ont en général pas reçu de nom[note 1], à l'exception de son petit théorème, appelé simplement « théorème de Fermat » par Gauss[9] ; le résultat énoncé dans la note marginale, découvert après la mort de son auteur, fut logiquement appelé alors « dernier théorème de Fermat »[10]^,[11]^,[12]^,[13]^,[14], nom qui devint également le sien dans la plupart des langues étrangères : en anglais, en danois, et dans les langues romanes, mais aussi en japonais et en coréen, en arabe, en hébreu et en turc. Au début du XX^e siècle, la dénomination de « petit théorème de Fermat » devint fréquente[15], et le « dernier théorème de Fermat » (entre-temps souvent énoncé sous le nom de « conjecture de Fermat »[16]) prit alternativement, par contraste, le nom de « grand théorème de Fermat »[17]^,[18], par exemple en allemand ou en chinois. Enfin, depuis sa démonstration par Wiles, on rencontre de plus en plus fréquemment la dénomination de « théorème de Fermat-Wiles »[19]^,[20], ou parfois même simplement « théorème de Fermat »[21].

• En 1670, le fils de Fermat réédite les Arithmétiques, contenant entre autres le « théorème de Fermat sur les triangles rectangles », qui résout le cas n = 4. Il ne reste alors qu'à démontrer le théorème pour un exposant premier impair, cas dans lequel le théorème peut s'énoncer sous cette forme symétrique : pour tout nombre premier p impair, l'équation x^p + y^p + z^p = 0 n'a pas de solution en entiers relatifs x, y, z non nuls[22].
• En 1753, Euler transforme l'équation en z³ = x³ + y³ = 2a(a² + 3b²). L'étude des propriétés des nombres de la forme a² + 3b² sera omise de sa preuve. La même omission sera reprise par Legendre^{[réf. nécessaire]}.
• En 1816, l'Académie des sciences de Paris offre une médaille d'or et un prix de 3 000 francs à celui qui résoudrait la question.
• En 1825, Lejeune Dirichlet et Legendre prouvent le cas n = 5.
• Simultanément, Legendre expose un sous-produit de l'attaque globale (vouée à l'échec) tentée par Germain : le « théorème de Sophie Germain », qui permet entre autres de démontrer « d'un trait de plume » le premier cas du théorème de Fermat (celui où les valeurs des variables sous l'exposant premier p sont toutes trois non divisibles par p) pour les exposants premiers inférieurs à 100[23].
• En 1832, Dirichlet prouve le cas n = 14.
• En 1839, Lamé[24] prouve le cas n = 7. En 1977, H.M. Edwards[25] a exprimé des doutes sur la validité de la démonstration de Lamé, mais selon C. Goldstein, cette démonstration est correcte. Contrairement aux démonstrations qui avaient été données pour les exposants 3 et 5, elle ne fait intervenir que les propriétés élémentaires de divisibilité dans l'anneau des entiers relatifs[26].
• En 1847, Lamé et Cauchy proposent chacun de leur côté une démonstration du grand théorème, qu’ils présentent d’ailleurs comme incomplète, mais tous deux s’étaient engagés dans une voie sans issue.
• En 1850, le prix de l'Académie est renouvelé.
• À partir de 1847, Ernst Kummer franchit un pas décisif en démontrant le dernier théorème de Fermat pour tout exposant inférieur à 100. À cette fin, il introduit l'étude systématique des corps cyclotomiques, qui le conduit à introduire les nombres idéaux. Il en déduit que ce dernier théorème tombe dans le cas de nombres premiers réguliers (cette première étape est obtenue en 1847 ; le cas des trois nombres irréguliers inférieurs à 100, c'est-à-dire 37, 59 et 67, sera résolu en 1857). Ces études renouvellent également l'intérêt pour les nombres de Bernoulli.

Ainsi, apparaît le réel intérêt de ce théorème négatif : c'est un moteur puissant qui va obliger pour le résoudre à étudier les structures algébriques d'objets dont on aurait eu peine à imaginer l'existence au temps de Fermat. L'idée s'affirme alors que ce dernier théorème, loin d'être une fin en soi, n'est qu'un début pour l'étude de questions bien plus profondes et qui sont au cœur de l'invention mathématique contemporaine.

• En 1856, Johann August Grunert étudie la taille des solutions éventuelles.
• En 1894, Ernst Wendt donne un critère pour appliquer les théorèmes de Sophie Germain et leur généralisation. Ces études se prolongeront en 1935 avec Emma Lehmer (en), et en 1959, avec Leonard Carlitz.
• En 1908, l'université de Göttingen et la fondation Wolfskehl offrent un prix de 100 000 marks à qui trouverait la démonstration avant cent ans. Le prix a été alloué le 27 juin 1997 à Andrew Wiles qui récolta la somme de 50 000 $[27]
• En 1909, Arthur Wieferich (en) montre que le premier cas (celui où le produit xyz n’est pas divisible par p) est vérifié si p² ne divise pas 2^p–1 – 1[28].
• En 1931, Massoutié[29] et Pomey[30] donnent des conditions de divisibilité sur d'éventuelles solutions. Paulo Ribenboim[31] considère ces résultats comme marginaux et en dit autant de certains résultats, très différents, de Swistak (1969[32]), de M. Mihaljinec (1952) et de Rameswar Rao (1969).
• En 1952, Harry Vandiver utilise un ordinateur SWAC pour le démontrer pour tous les exposants inférieurs à 2000[33].
• Les progrès fulgurants des trente années précédant la démonstration de Wiles sont liés à des travaux de Jean-Pierre Serre, d'Yves Hellegouarch[34] et de Robert Langlands[35] sur la représentation des courbes elliptiques par les fonctions modulaires.

On peut également interpréter ce théorème géométriquement[34] en considérant la courbe d'équation : xⁿ + yⁿ = 1. Si n > 2, le théorème affirme que cette courbe ne passe par aucun point à coordonnées rationnelles non nulles. Bien que cette approche ait échoué à démontrer la conjecture, le théorème de Faltings prouve du moins que cette courbe n'admet qu'un nombre fini de points rationnels.

L'énoncé de Fermat n'a été connu que cinq ans après sa mort, grâce à la publication par son fils des notes en marge de son exemplaire des Arithmétiques de Diophante, et on ne trouve pas d'autre mention du cas général dans ses travaux. Par ailleurs, les démonstrations partielles données au cours des siècles qui ont suivi ont nécessité des outils mathématiques qui n'existaient pas au temps de Fermat. La quasi-totalité des mathématiciens estiment donc aujourd'hui que Fermat avait seulement cru démontrer le résultat général, mais qu'il s'était trompé[36]. Avant les travaux de Wiles, peu de professionnels tentaient encore de s'attaquer directement à ce théorème. Malgré cela, de nombreux amateurs optimistes étaient et sont encore persuadés d'avoir découvert une preuve très simple (pas nécessairement celle de Fermat) ; leurs erreurs sont le plus souvent d'un niveau très élémentaire[36].

Dans toute l'œuvre mathématique laissée par Fermat, on ne trouve qu'une démonstration : celle du fait qu'« il n’y a aucun triangle rectangle dont l’aire soit carrée »[2], fait dont le cas n = 4 du « grand théorème » se déduit immédiatement. Le cas plus délicat n = 3 n'a été démontré qu'un siècle plus tard par Euler, encore sa preuve publiée en 1770 est-elle incomplète, l'un des arguments étant erroné[37]. Cependant, Fermat y fait référence dans cinq de ses lettres, de juin 1638 à août 1659 : deux à Mersenne, deux à Digby et une à Huygens par l’intermédiaire de Carcavi : « Il n'y a aucun cube divisible en deux cubes ». Il « savait comment le prouver » et défiait ses contemporains d'y parvenir[2]. Par ailleurs, il est possible de démontrer le cas n = 3 par la méthode de descente infinie, même si elle est plus difficile à mettre en œuvre que pour le cas n = 4. Aussi les historiens estiment-ils possible, voire probable, que Fermat ait disposé également d'une démonstration du théorème dans le cas n = 3, ou au moins des grandes lignes de celle-ci[34]^,[38].

Mais les historiens des mathématiques ne sont pas certains que Fermat lui-même ait été longtemps convaincu d'avoir une preuve dans le cas général. En effet, les annotations marginales de Fermat sont des notes de lectures destinées à son usage personnel qui ne sont pas datées[39]. Pour la chronologie de ses découvertes les historiens s'appuient sur sa correspondance[39]. Or, si Fermat mentionne bien dans celle-ci les cas particuliers du théorème pour n = 3 et n = 4, il n'aborde jamais explicitement le cas général, ce qui est la seule exception parmi ses énoncés de théorie des nombres. La mention de ces deux cas particuliers laisse cependant penser que la note en marge date du début de son intérêt pour le domaine[40], et que Fermat s'était lui-même rapidement rendu compte qu'il n'avait pas de démonstration de son Grand Théorème dans le cas général[40], ni même simplement dans le cas n = 5[39] ; il n'avait pas à se rétracter puisque la conjecture était restée privée[40].

Un autre argument est évoqué par l'historien Michael Sean Mahoney, qui fait la comparaison avec la conjecture de Fermat, fausse celle-ci, sur la primalité des nombres dits depuis « nombres de Fermat ». En effet après avoir écrit plusieurs fois à ses correspondants qu'il n'avait pas de démonstration de ce résultat, il assure en posséder une par descente infinie dans une lettre de 1659 à Carcavi[41]. Or la conjecture de Fermat est en défaut pour n = 5 (2²⁵+1 n'est pas premier car divisible par 641), ce qui conduit Mahoney à supposer que Fermat n'aurait vérifié précisément cette conjecture que jusqu'à n = 4, par une méthode dont il se serait persuadé à tort qu'elle fonctionnait au-delà, et procédé de même pour son « dernier théorème »[42].

On ignore à ce jour s'il est possible de prouver le théorème de Fermat par des raisonnements n'utilisant que les propriétés arithmétiques et algébriques des entiers déjà connues de son temps, mais l'on sait que certaines pistes, telles que la méthode de descente infinie, échouent sous la forme qui réussit pour les petites valeurs de n. La plupart des spécialistes estiment pour cette raison qu'une approche « élémentaire » est vouée à l'échec[43].

Après avoir été l'objet de fiévreuses recherches pendant près de 350 ans, n'aboutissant qu'à des résultats partiels, le théorème est finalement démontré par le mathématicien Andrew Wiles[44], au bout de huit ans de recherches intenses, dont sept dans le secret le plus total. La démonstration, publiée en 1995, recourt à des outils très puissants de la théorie des nombres : Wiles a prouvé un cas particulier de la conjecture de Shimura-Taniyama-Weil, dont on savait depuis quelque temps déjà, via les travaux de Yves Hellegouarch en 1971 (note au CRAS), puis de Gerhard Frey, Jean-Pierre Serre et Ken Ribet, qu'elle impliquait le théorème. La démonstration fait appel aux formes modulaires, aux représentations galoisiennes, à la cohomologie galoisienne, aux représentations automorphes, à une formule des traces (en)…

La présentation de la démonstration par Andrew Wiles s'est faite en deux temps[45]^,[46] :

• En juin 1993, en conclusion d'une conférence de trois jours, il annonce que le grand théorème de Fermat est un corollaire de ses principaux résultats exposés. Dans les mois qui suivent, la dernière mouture de sa preuve est soumise à une équipe de six spécialistes (trois suffisent d'habitude) nommés par Barry Mazur ; chacun doit évaluer une partie du travail de Wiles. Parmi eux figurent Nick Katz et Luc Illusie, que Katz a appelé en juillet pour l'aider ; la partie de la preuve dont il a la charge est en effet très compliquée : on doit réussir à appliquer le système d'Euler. Font aussi partie des jurés Gerd Faltings, Ken Ribet et Richard Taylor. On travaille dans la plus grande confidentialité, l’atmosphère est tendue, le poids du secret est lourd à porter^{[citation nécessaire]}. Après que Katz a transmis à Wiles quelques points à préciser, que celui-ci clarifie rapidement, les choses commencent à se gâter : Nick Katz et Luc Illusie finissent par admettre qu'on ne peut pas établir dans la preuve, pour l’appliquer ensuite, le système d'Euler, alors que cet élément est considéré comme vital pour la faire fonctionner. Peter Sarnak, que Wiles avait mis dans la confidence de sa découverte avant la conférence de juin, lui conseille alors de se faire aider par Taylor. Les tentatives pour combler la faille se révèlent pourtant de plus en plus désespérées, et Wiles, maintenant sous le feu des projecteurs, vit une période très difficile, il est à bout de forces, il pense qu'il a échoué et se résigne. Ce n’est que neuf mois plus tard que se produira le dénouement.
• À l’automne, Taylor suggère de reprendre la ligne d’attaque (Flach-Kolyvagin) utilisée trois ans auparavant. Wiles, bien que convaincu que ça ne marcherait pas, accepte, mais surtout pour convaincre Taylor qu'elle ne pourrait pas marcher. Wiles y travaille environ deux semaines et soudain (19 septembre 1994) :

« En un éclair, je vis que toutes les choses qui l’empêchaient de marcher, c’était ce qui ferait marcher une autre méthode (théorie d’Iwasawa) que j’avais travaillée auparavant. »

Alors que, prises séparément, Flach-Kolyvagin et Iwasawa étaient inadéquates, ensemble, elles se complètent. Le 25 octobre 1994, deux manuscrits sont diffusés : Les courbes modulaires elliptiques et le dernier théorème de Fermat (par Andrew Wiles), et Les propriétés annulaires théoriques de certaines fonctions de Hecke (par Richard Taylor et Andrew Wiles). Le premier, très long, annonce entre autres la preuve, en se fondant sur le second pour un point crucial. Le document final est publié en 1995[47].

Andrew Wiles.

La démonstration d'Andrew Wiles s'appuie sur de nombreux travaux antérieurs et peut se résumer comme suit :

1. on se ramène d'abord aux cas d'exposants n premiers supérieurs à 5 ;
2. à une solution (x, y, z) non triviale (c'est-à-dire xyz ≠ 0) avec les entiers relatifs x, y, z premiers entre eux, on associe une courbe elliptique particulière (Frey, reprenant des idées d'Hellegouarch), définie sur le corps ℚ des nombres rationnels ;
3. on démontre que la courbe de Frey-Hellegouarch ne peut pas être paramétrée par des fonctions modulaires (théorème de Ribet, démontrant une conjecture de Serre) ;
4. on démontre que toute courbe elliptique définie sur le corps ℚ des nombres rationnels — ou une classe suffisamment importante pour contenir celle de Frey-Hellegouarch — est paramétrée par des fonctions modulaires : c'est la conjecture de Shimura-Taniyama-Weil, si importante en théorie des nombres, démontrée par Wiles pour une classe de courbes elliptiques suffisante.

La contradiction qui en résulte montre que l'équation de Fermat ne peut avoir de solutions en entiers non nuls.

Une courbe elliptique est une courbe algébrique non singulière dont l'équation (dans un repère convenable) peut se mettre sous la forme :

${\displaystyle y^{2}+axy+by=x^{3}+cx^{2}+dx+e.}$

(les coefficients a, b, c, d et e sont des éléments d'un corps sur lequel on dit que la courbe est définie). Qu'une telle équation corresponde bien à une courbe non singulière (c'est-à-dire sans point de rebroussement, ni point double) s'exprime par le fait qu'un certain polynôme sur les coefficients, le discriminant, ne s'annule pas.

L'équation d'une cubique de ce type définie sur le corps des nombres réels ou plus généralement sur un corps de caractéristique 0, peut être mise sous une forme encore plus simple (dite équation de Weierstrass) :

${\displaystyle y^{2}=x^{3}+ax+b.}$

Le discriminant de cette courbe est –16(4a³ + 27b²). S'il est non nul, la courbe est non singulière, et donc est une courbe elliptique.

En 1984, Gerhard Frey crut pouvoir démontrer que, si Aⁿ + Bⁿ = Cⁿ est un contre-exemple au théorème de Fermat, la courbe elliptique introduite par Yves Hellegouarch, d'équation y² = x(x + Aⁿ)(x – Bⁿ), fournissait un contre-exemple à la conjecture de Shimura-Taniyama-Weil selon laquelle toute courbe elliptique est paramétrable par des fonctions modulaires. L'argument de Frey n'était pas entièrement correct, mais Jean-Pierre Serre a vu ce qu'il fallait rajouter pour qu'il marche, ce qui l'a conduit à formuler sa conjecture ε (en) de telle sorte que Shimura-Taniyama-Weil + ε implique Fermat.

Comme dans d'autres situations en mathématiques, le fait d'intégrer le problème de Fermat dans un cadre plus général et apparemment beaucoup plus difficile a permis de grandes avancées, parce que l'on dispose alors de tout un outillage développé pour ce cadre.

En 1986, après pratiquement deux ans d'effort, l'Américain Ken Ribet réussit à démontrer la conjecture ε de Serre, dont une des conséquences est que la courbe de Frey-Hellegouarch n'est pas paramétrable par des fonctions modulaires.

Il ne restait plus qu'à démontrer la conjecture de Shimura-Taniyama-Weil : « Toute courbe elliptique est paramétrable par des fonctions modulaires. »

La conjecture de Shimura-Taniyama-Weil précise que les courbes elliptiques sur ℚ peuvent toujours être associées à (ou paramétrées par) des fonctions spéciales dites modulaires (généralisation des fonctions trigonométriques).

Pour démontrer cette conjecture, Andrew Wiles utilisa entre autres les notions mathématiques suivantes :

• les fonctions L ;
• les formes modulaires ;
• les groupes de Galois absolus ;
• la théorie des déformations des représentations galoisiennes.

La démonstration complète pour les courbes elliptiques semi-stables a été publiée en 1995 dans Annals of Mathematics.

• Karim Belabas et Catherine Goldstein, « Fermat et son Théorème (et quelques variations arithmético-cryptographiques) », Orsay Info, vol. 57,‎ novembre 1999, version préliminaire.
• (en) H. M. Edwards, Fermat's Last Theorem, Springer, 1977 (lire en ligne)
• Yves Hellegouarch, Invitation aux mathématiques de Fermat-Wiles [détail des éditions]
• Jean Itard, « Les méthodes utilisées par Fermat en théorie des nombres », Revue d'histoire des sciences et de leurs applications, vol. 3,‎ 1950, p. 21-26 (lire en ligne)
• (en) Paulo Ribenboim, 13 Lectures on Fermat's Last Theorem, Springer, 1979 (lire en ligne)
• Jean-Pierre Serre, « Travaux de Wiles (et Taylor...), partie I », Séminaire Bourbaki,‎ juin 1995 (lire en ligne)
• Joseph Oesterlé, « Travaux de Wiles (et Taylor...), partie II », Séminaire Bourbaki,‎ juin 1995 (lire en ligne)
• (en) Takeshi Saito, Fermat's Last Theorem : vol. 1, Basic Tools ; vol. 2, The Proof, AMS, 2013 et 2014
• Paul Tannery et Charles Henry, Œuvres de Fermat, Paris, Gauthier-Villars t. 1 (1891), 2 (1894) et 4 (1912)

• Conjecture d'Euler (généralisant celle de Fermat à des sommes de n – 1 puissances n-ièmes, mais réfutée en 1966)
• Conjecture de Beal (une autre généralisation de celle de Fermat)
• Conjecture abc (laquelle entraîne par exemple le théorème de Fermat pour des exposants suffisamment grands)
• Conjecture de Fermat-Catalan, combinant les idées du dernier théorème de Fermat et la conjecture de Catalan.

• Un documentaire télévisé de vulgarisation de Simon Singh
• (en) The Mathematics of Fermat's Last Theorem, un réseau de sites permettant une approche complète de la démonstration de Wiles.

• Arithmétique et théorie des nombres
• Portail de l’histoire des sciences