Trois siècles de défi mathématique

Préface de Aurélien Alvarez, enseignant-chercheur à l’université d’Orléans.

« Et voilà qui démontre le dernier théorème de Fermat. Je pense que je vais m’arrêter là. »
C’est avec ces mots que le 23 juin 1993 à Cambridge, Andrew Wiles mit fin à une énigme vieille de 350 ans qui, malgré une formulation étonnamment simple, n’a jamais cessé d’être un moteur incroyablement stimulant pour les sciences mathématiques. On ne compte plus les mathématiciens qui se sont cassé les dents sur ce qui ressemble de prime abord à une amusette : trouver trois nombres entiers naturels non nuls $x, y, z$ tels que $x^n+y^n=z^n$. Bien sûr, pour $n = 2$, tous les collégiens reconnaîtront le fameux théorème de Pythagore. Et il n’est pas trop difficile de démontrer dans ce cas qu’il existe une infinité de solutions entières, à commencer par les triplets $(3, 4, 5)$ ou $(5, 12, 13)$ par exemple. Mais pour $n = 3$, qu’en est-il ?
La célèbre note de Pierre de Fermat laissée dans son exemplaire des Arithmétiques de Diophante fit couler beaucoup d’encre puisque ce dernier n’avait pas hésité à écrire qu’il n’y avait aucune solution à l’équation quel que soit $n \geq 3$, mais que l’étroitesse de la marge l’avait empêché d’exposer sa « merveilleuse démonstration » ! Mais n’oublions pas que Fermat vivait à une époque où il était coutume de se lancer des défis mathématiques et de fanfaronner de temps à autre...
Même si la démonstration du cas $n = 3$ par Fermat lui-même ne nous est pas parvenue, tout semble indiquer que l’amateur de génie savait au moins démontrer les cas $n = 3$ et $n = 4$ de son théorème. Et c’est à l’occasion du cas $n = 4$ qu’il invente une méthode superbe, la méthode dite de descente infinie dont le principe est extrêmement simple : si $x, y, z$ sont trois entiers naturels non nuls tels que $x^4 + y^4 = z^4$, on peut alors trouver trois autres entiers non nuls et plus petits qui vérifient la même équation. En itérant le raisonnement plusieurs fois, on est vite conduit à une contradiction puisqu’il n’existe pas d’entiers naturels non nuls aussi petits qu’on veut. Élégante stratégie qu’il semble cependant impossible à faire marcher pour $n\geq 5$.
Au XIXe siècle, les choses s’accélèrent ; on arrive à démontrer de plus en plus de cas particuliers,$ n = 5, n = 7, n = 14$, etc. Et les protagonistes ne sont pas des
inconnus, loin de là : Dirichlet, Legendre, Lamé et bien d’autres encore. Sophie Germain s’illustre quant à elle en proposant enfin une démonstration pouvant traiter de nombreux cas à la fois. Mais on était encore loin du compte jusqu’à ce que Lamé fasse à l’Académie des sciences de Paris l’annonce spectaculaire d’une démonstration pour tous les exposants ! L’idée était d’aller au-delà des entiers de Gauss et de travailler avec des nombres encore plus sophistiqués : les nombres cyclotomiques.Très audacieux à un détail près : l’unicité de la factorisation dans l’ensemble des nombres cyclotomiques était-elle bien établie quand Lamé l’utilisa de manière cruciale dans son schéma de démonstration ? La réponse ne se fit guère attendre : c’est faux pour $n = 23$. Mais Kummer ne se contenta pas de son contre-exemple, ce fut l’occasion de mettre au point de nouvelles méthodes et de faire faire des pas gigantesques à ce que l’on appelle aujourd’hui la théorie des nombres, ce qui fut salué par l’Académie des sciences en 1857.
D’échecs en petites victoires, les mathématiciens ne savaient toujours pas résoudre le problème laissé par Fermat alors que s’approchait la fin du XXe siècle. Coup de théâtre en 1986 sur la côte californienne : Ribet venait de démontrer une conjecture de Serre qui réduit le dernier théorème de Fermat à une conséquence d’une autre conjecture, celle de Taniyama-Shimura. Une nouvelle stratégie pour attaquer le problème impliquant des mathématiques très sophistiquées et tout à fait contemporaines. À l’annonce de ce résultat, le sang d’Andrew Wiles ne fit qu’un tour puisque, même si personne n’avait aucune idée sur comment aborder la conjecture de Taniyama-Shimura, cette dernière faisait un pont entre les courbes elliptiques d’une part, dont Wiles était déjà un grand spécialiste, et les formes modulaires d’autre part, des fonctions incroyablement symétriques remontant aux travaux de Poincaré.
Mais là encore,le problème de Fermat résista jusqu’au bout aux incroyables efforts du solitaire et discret Wiles qui dut développer de nombreuses techniques nouvelles pour franchir étape après étape toutes les difficultés. Presque vingt ans plus tard, les idées de Wiles sur les représentations galoisiennes ont été reprises, perfectionnées et sont peu à peu devenues parmi les outils les plus efficaces qu’utilisent certains spécialistes de théorie analytique des nombres. Le fanfaron Fermat ne se doutait certainement pas des prouesses que ses successeurs devraient accomplir pour enfin mettre au point une « merveilleuse démonstration » : les mathématiciens devront cependant travailler encore beaucoup avant qu’elle ne tienne dans la marge d’un livre !

Extrait du Chapitre 3 – Fermat, un amateur de génie

Une façon particulière de travailler

De nombreux historiens se sont demandé pourquoi Fermat annotait tant et écrivait si peu. Pourquoi n’écrivait-il pas des livres pour expliquer ses idées et ses découvertes ? Mais à mesure que l’on fait la connaissance de Fermat, on comprend qu’il s’agissait simplement de sa façon de travailler. Ce n’était pas un mathématicien professionnel. Il aimait réfléchir sur les mathématiques, la physique, la littérature, la philosophie,
la musique et écrire des notes. C’était comme établir une conversation avec le livre qu’il lisait et donner son avis sur la marge étroite que la page lui laissait. C’était comme penser à voix haute. Pour les démonstrations rigoureuses ou plus complètes de tous les cas possibles, il s’en remettait aux autres personnes peut-être plus compétentes ou qui disposaient de plus de temps. La rédaction d’un livre lui aurait demandé une assiduité et un temps dont il ne disposait pas. Il passait plutôt son temps à réfléchir et à approfondir de nouvelles idées. Ses centres d’intérêt étaient si nombreux qu’il n’aurait pas pu se cantonner à écrire un livre avec toutes ses introductions, ses explications de base et les détails de ses démonstrations. Une fois qu’il avait éclairci un thème, il écrivait une note et passait à un autre sujet.

Page de titre de l’un des livres de François Viète, qui a été beaucoup étudié par Fermat, bien que les deux mathématiciens présentent des aspirations et des méthodes de travail très différentes.

Tout cela pouvait donner l’image d’un Fermat inconséquent qui passait son temps à sauter d’un sujet à l’autre, sans lien direct entre eux, et sans but ultime. Son travail n’était pas destiné à jeter les bases d’une nouvelle mathématique dans le sillage de l’Introduction en l’art analytique de
Viète, qui vise à résoudre tous les problèmes, ou de la Géométrie de Descartes, qui tente d’expliquer tous les phénomènes de la nature. Il était néanmoins pleinement conscient que ses 
méthodes permettaient de faire avancer
la science et de révolutionner sa manière
de travailler en apportant de nouveaux
 outils à la pensée pour résoudre les pro
blèmes pour lesquels les méthodes an
ciennes n’avaient pas trouvé de solution.

La façon de travailler de Fermat est certainement l’une des composantes essentielles qui ont forgé sa légende. Sa manière de résoudre les problèmes respirait l’originalité et la créativité, mais elle était parfois difficile à assimiler et ne parvenait pas à offrir tous les détails mathématiques que certains de ses contemporains exigeaient. Le type d’écriture qui correspondait le mieux à sa pensée était les lettres. Elles lui permettaient de parler librement de science. Elles formaient aussi le moyen idéal de lancer de nouveaux défis à ses correspondants et d’accepter que ces derniers lui en posassent. Si la situation l’exigeait, les lettres de Fermat lui donnaient la possibilité d’approfondir un détail, bien que normalement, il ne donnât que des indices de solution pour que le lecteur pût poursuivre sa propre réflexion sur les questions traitées et pour montrer qu’il avait la solution, mais qu’il n’était pas disposé à la céder facilement. Cette résistance à expliquer ses méthodes faisait partie intégrante de ces énigmes passionnantes et elle a trouvé un point d’orgue avec le défi de son dernier théorème.

En dépit de leurs vertus, les lettres avaient aussi leurs défauts. En certaines occasions, elles donnaient lieu à un malentendu qui prenait des années à se dissiper, ou qui simplement ne se dissipait jamais. Parfois, elles provoquaient des discussions interminables pour savoir si le découvreur d’une solution était le premier qui l’annonçait oralement ou celui qui l’écrivait. Occasionnellement, les idées survenaient chez plusieurs personnes, qui toutes en réclamaient la paternité. Ou alors, une question était résolue séparément par plusieurs personnes et ensuite, celles-ci discutaient pour savoir à qui revenait la gloire d’être le premier. Tout cela, sans mentionner que certains correspondants trouvaient plaisir à toutes ces histoires et que parfois, il s’échappait une indiscrétion qui avait des conséquences désastreuses pour celui qui s’en trouvait l’auteur. Certes, Fermat essayait de se démarquer de tous ces problèmes. Néanmoins, il ne pouvait, à son plus grand regret, s’en tenir éloigné.

Lettre manuscrite de Fermat.

[...]

Sommaire du livre