Le dernier théorème de Fermat, plus de 300 ans de cauchemar mathématique
par : Anaïse
En 1994, pour la énième fois en quelques mois, les journaux le proclament : le dernier théorème de Fermat a été démontré ! Sauf que cette fois-ci est la bonne. Quel est ce théorème et pourquoi suscite-t-il un tel engouement (médiatique mais pas que) ?
Pour le comprendre, il faut remonter au XVIIème siècle…

Le prince des amateurs
1665. Pierre de Fermat vient de mourir. Il était magistrat à Castres, mais également latiniste, helléniste, féru de sciences et de mathématiques. Sans être mathématicien, il excellait tellement dans ce domaine qu’il fut surnommé “Le prince des amateurs” . Il avait une correspondance soutenue avec quelques-uns des plus grands scientifiques de son époque : Blaise Pascal, Pierre de Carcavi, Pierre Borel… Ainsi, il se querella avec René Descartes au sujet de l’optique, mais tous deux se réconcillièrent autour de la “méthode des tangentes”.
A une époque ou un théorème mathématique se devait d’être utile, Pierre de Fermat, lui, s’en fiche. Il prouve toutes sortes de choses qui au premier regard – et même parfois au deuxième- n’ont aucune utilité. Par exemple, l’une de ses découvertes est que 26 est le seul nombre à être compris entre un carré (25 = 5 au carré) et un cube (27 = 3 au cube).
Extrêmement secret, le prince des amateurs envoie parfois ses théorèmes (sans la preuve) à ses amis mathématiciens, assortis d’une petite note disant “J’ai réussi à y prouver… Y arrivez-vous ?”

En 1665, donc, Pierre de Fermat meurt, laissant derrière lui une correspondance prolifique et de nombreuses annotations dans les ouvrages qu’il lisait. C’est à son fils, Samuel, qu’il incombe de savoir que faire avec les affaires du Prince des amateurs.
Il publie donc, cinq ans après la mort de Fermat père, “L’arithmétique” de Diophante (un mathématicien grec) avec les annotations de Pierre de Fermat. Parmi celles-ci se trouve ce qui sera plus tard connu sous le nom du “dernier théorème de Fermat”.
Mais enfin, ce dernier théorème, c’est quoi, à la fin ?
“Au contraire, il est impossible de partager soit un cube en deux cubes, soit un bicarré en deux bicarrés, soit en général une puissance quelconque supérieure au carré en deux puissances de même degré.”
Ce qui, traduit en langage à peu près compréhensible pour un humain du XXI -ème siècle normalement constitué, donne:
“L’équation suivante : x^n + y^n = z^n, avec x, y et z des nombres entiers non nuls n’a pas de solution si n est plus grand que 2”
Le Génie machiavélique
Le théorème était suivi du commentaire suivant, qui hanta plus de cinq générations de mathématiciens :
“J’ai découvert pour ce théorème une démonstration véritablement merveilleuse que cette marge est trop étroite pour contenir.”
Et voilà ! Fermat laissait entendre qu’il avait une preuve, sans la donner, défiant les mathématiciens de la trouver.
Tout d’abord – et malgré l’importance du théorème s’il se révélait exact- ces derniers pensèrent la tâche simple.
Souvent en maths, face à un théorème, la moitié de la difficulté consiste à comprendre ce qu’il veut dire. Pour Fermat, ce n’est pas le cas. L’énoncé de son théorème est d’une remarquable simplicité. De plus, il prétendait l’avoir déjà prouvé, alors ça ne devait pas être si compliqué.
Et pourtant…
Quelques essais, avancées, retours en arrière et autres tentatives avortées.
Leonhard Euler fut l’un de ceux qui s’essayèrent au problème légué par Fermat.
Il naquit à Bâle, au début du XVIIIème siècle. Destiné par sa famille à devenir pasteur, il finit par abandonner ses études de théologie pour devenir mathématicien.
(Toutefois, ces quelques années de théologies ne furent pas perdues, il s’en servit lors d’un débat avec Denis Diderot, à la cour de la reine Catherine de Russie. Il déclara posséder une preuve de l’existence de Dieu : “Monsieur, (a+b^n)/n =x, donc, Dieu existe. Répondez!” Diderot, n’ayant rien comprit à cette preuve des plus fantaisistes, fut réduit au silence, pour la plus grande joie d’Euler.)

Devenu aveugle d’un œil avant ses trente ans, à cause d’un travail un peu trop assidu sur un problème astronomique pour l’Académie de Paris, celui qui fut surnommé le cyclope mathématique était réputé pour être capable de résoudre n’importe quel problème. Néanmoins, il se cassa les dents sur celui de Fermat. Il réussit, à partir d’une ébauche de preuve pour le cas ou n = 4 laissée par le Prince des amateurs, à prouver le cas ou n= 3. Mais cela n’était pas vraiment un progrès dans la mesure où il restait à prouver que le théorème était juste pour une infinité de valeurs possibles de n. (Le cas ou n=5, celui ou n=6, etc.)
Euler mourut en 1783 – ou plutôt, comme le dit le marquis de Condorcet, “en 1783, Euler cessa de vivre et de calculer.”
Ce fut au début du XIXème siècle qu’un autre mathématicien célèbre tenta de résoudre le casse-tête du Prince des amateurs. Il s’agissait d’Antoine-Auguste Leblanc, pseudonyme de Sophie Germain.
En effet, cette une époque, une femme ne devenait pas mathématicienne. La légende dit que quand elle était enfant, les parents de Sophie Germain lui avaient confisqué ses chandelles, pour l’empêcher de lire des ouvrages d’arithmétique dans son lit, dans un effort désespéré pour la détourner des mathématiques.
Ce fut un échec, puisque plusieurs années plus tard, Sophie Germain trouva une parade à l’interdiction qui était faite aux filles d’étudier à l’école Polytechnique. Elle emprunta l’identité d’un ancien étudiant, Antoine-Auguste Leblanc, qui avait quitté Paris. L’école Polytechnique l’ignorait, et continuait à lui envoyer divers exercices et problèmes, que Sophie se procurait, et dont elle envoyait les solutions, se faisant passer pour Leblanc.

L’un de ses professeurs, Joseph Louis de Lagrange, s’étonna du brusque progrès que faisait Leblanc en mathématiques, et le convoqua. Sophie Germain fut ainsi démasquée.
Ce fut Lagrange qui lui parla du dernier théorème. Plutôt que de vouloir trouver des solutions particulières, comme l’avait fait Euler (le cas ou n=4, etc), elle tenta de trouver des preuves plus générales (le cas où n est irrationnel). Elle ébaucha une méthode qu’elle ne put terminer, se retrouvant dans une impasse.
Le 1er mars 1847, à l’académie des sciences, Gabriel Lamé, un mathématicien, fit une annonce exceptionnelle: il pensait être capable de prouver d’ici très peu de temps le dernier théorème de Fermat.

Gabriel Lamé
L’audience était sous le choc. Elle eut à peine le temps de se remettre qu’un autre mathématicien, Augustin Louis Cauchy, monta sur l’estrade et fit lui aussi une grande annonce… Il serait également sur le point de prouver le dernier théorème.

Augustin Louis Cauchy
Une course s’engagea entre les deux scientifiques. Ils déposèrent à l’académie des enveloppes scellées contenant l’ébauche de leur preuve, pour qu’on puisse ensuite établir lequel fut le premier.
Hélas pour eux, le 24 mai de la même année, Ernst Kummer, un allemand, frappa un grand coup, en réfutant du même coup la preuve de Cauchy et celle de Lamé.
Le défi laissé par le génie machiavélique du XVIIème siècle restait à relever.
Le testament
Au début du XXème siècle, la réputation du dernier théorème comme problème irrésoluble n’est plus à faire. Les mathématiciens commencent à s’en désintéresser, le regardant comme une curiosité d’un autre âge.
Ce fut Paul Wolfskehl, un industriel allemand, qui le remit sur le devant de la scène…
L’histoire commence quand ce dernier se retrouva au fond du désespoir. La femme qu’il aimait l’avait quitté, et il ne voyait qu’une solution à son problème : le suicide. Étant un homme organisé, il décida de se tirer une balle dans la tête, à une certaine date, à minuit.
Le soir fatidique arrivé, Wolfskehl mit en ordre sa succession, écrivit des lettres d’adieux, puis se retrouva désœuvré, en attendant minuit. Il se rendit dans sa bibliothèque, et commença à lire le premier livre qui lui tomba sous la main. Il s’agissait du papier de Kummer, retraçant l’échec de Cauchy et Lamé.
Wolfskehl, qui avait toujours aimé les maths, fut vite passionné. Tellement passionné que quand il s’arrêta de lire, minuit était passé, et ses velléités suicidaires aussi.
Il mourut en 1908, de mort naturelle, laissant un testament qui révolta ses proches et enchanta le reste du monde. Il léguait sa fortune à celui qui réussirait à prouver que le dernier théorème de Fermat était véridique. La vérification de la preuve était confiée à un comité de mathématiciens de l’université de Göttingen.

L’ère du n’importe quoi
Si la création du Prix Wolfskehl n’eut pas énormément d’impact sur les mathématiciens, il eut le mérite de passionner le grand public pour le dernier théorème, l’empêchant de tomber dans l’oubli.
Des dizaines de tentatives de preuves furent envoyées par des amateurs, persuadés d’avoir percé le mystère. La première année après la mort de Paul Wolfskehl, l’université de Göttingen reçut 621 tentatives de preuves, dont la plupart étaient assez fantaisistes. Edmund Landau, le chef du comité de relecture, finit par imprimer des cartes, avec le texte suivant :
“Cher ….,
Je vous remercie pour votre manuscrit sur la démonstration du Dernier théorème de Fermat.
La première erreur se trouve page…, ligne ….
Cela infirme la démonstration.
Professeur E.M Landau.”
Il confiait à ses étudiants le soin de remplir les blancs.
Face au manque d’approbation du comité Wolfskehl, certains amateurs envoyèrent leurs preuves dans d’autres universités. Ainsi le mathématicien Robert Schlichting écrit à un ami que la pile de manuscrits au sujet de Fermat envoyés dans son université dépasse les trois mètres de haut. Certaines “ressemblent à peu près à des mathématiques” pour reprendre ses mots, tandis que d’autres étaient absurdes, telle que cette lettre qui donnait la première moitié d’une tentative de preuve, demandant une avance de 1000 marks avant de donner la seconde moitié. Et si Schlichting n’envoyait pas l’argent, l’expéditeur de la lettre menaçait d’envoyer sa preuve à un institut russe de mathématiques. (En effet, à cette époque, les relations entre l’Allemagne de l’ouest et l’URSS étaient tendues.)
Martin Gardner, un autre mathématicien et écrivain, rapporte que l’un de ses amis répondait à ceux qui lui envoyaient de tentatives de preuves de Fermat en déclarant qu’il n’avait pas les compétences nécessaires pour vérifier la “preuve”, mais qu’il conseillait vivement de contacter un expert, dont il donnait les coordonnées. L’expert en question était le précédent expéditeur d’une démonstration.
Un autre ami de Gardner répondait en écrivant : “J’ai une réfutation remarquable de votre démonstration, mais malheureusement cette page n’est pas assez grande pour la contenir.”
En bref, les mathématiciens s’amusaient comme des petits fous avec les démonstrations envoyées, mais pas un pas n’avait été fait vers la solution du problème légué par le Prince des amateurs.
Andrew Wiles
C’est l’histoire d’un écolier qui aime bien les problèmes de maths. C’est l’histoire d’un écoliers qui emprunte à la bibliothèque de son village des livres contenant des problèmes qu’il résout chez lui. C’est l’histoire d’un écolier, qui, un soir, est tombé sur un problème un peu plus compliqué qu’à l’habituel. Et pour cause, il s’agissait du dernier théorème de Fermat.
Âgé de 10 ans, Andrew Wiles – puisque tel est le nom de l’écolier- décida de trouver la preuve de ce théorème. Après tout, se disait-il, les mathématiciens du XVII ème siècle n’avaient pas beaucoup plus d’outils que lui.

Trente ans plus tard, en 1993, il n’a pas changé d’idée. Devenu mathématicien, il se consacre depuis sept ans au seul théorème de Fermat, dans un secret quasi complet.
Le 23 juin, il sort de l’anonymat. Lors d’une conférence, il énonce sa preuve.
Le lendemain même, la nouvelle fait la une des journaux, qui annoncent imprudemment que l’énigme vieille de 300 ans a trouvé une solution.

Hélas, au mois d’août, une faille est découverte. Tandis que Wiles travaille à la refermer, tout le monde s’interroge : est-ce une simple erreur ou un signe que la conjecture de Fermat est fausse, et ne peut donc être prouvée ?
Puis, le 3 avril 1994, un mail circula sur l’ordinateur de nombreux mathématiciens du monde entier… Ce dernier était signé Henri Darmon, de l’université de Princeton, et annonçait que Noam Elkies, de Harvard, avait découvert un contre-exemple au théorème de Fermat. Ce dernier était donc faux. Fermat s’était trompé, et Wiles avait travaillé en vain.
Mais, après quelques jours, certains mathématiciens remarquèrent que le mail était daté du 1er avril. Noam Elkies confirma n’avoir jamais trouvé de contre exemple à la conjecture de Fermat. Il s’agissait en réalité d’un poisson d’avril d’Henri Darmon. La communauté mathématique respire. Tout espoir n’est pas perdu.
Et le 19 septembre 1994, 353 après que Fermat ait énoncé son théorème dans la marge de l’Arithmétique, ce dernier est enfin prouvé par Andrew Wiles.
Il serait illusoire de tenter de résumer ici la preuve de Wiles, mais elle se base sur la théorie Taniyama-Shimura, qui dit que toute courbe elliptique est modulaire. Wiles prouve que le contraire du théorème de Fermat est une courbe elliptique non modulaire. En conséquence, si la conjecture de Taniyama-Shimura est vraie, le dernier théorème l’est aussi. Il prouve donc la conjecture Taniyama-Shimura, et par là-même, le dernier théorème de Fermat.
Un mystère qui demeure
Néanmoins, pour démontrer la conjecture de Fermat, Wiles utilisa les outils mathématiques les plus poussés du XXème siècle : les courbes elliptiques, les formes modulaires, la conjecture Taniyama-Shimura, etc. Toutes sortes de choses dont Pierre de Fermat, lorsqu’il écrivit, en 1641, qu’il avait “une démonstration véritablement merveilleuse”, ne pouvait se servir.
Le mystère qui demeure au sujet du Prince des amateurs est celui de la preuve qu’il avait trouvé. Était-elle valide, ou bien incomplète, comme l’ont été celles de Cauchy et Lamé ? Et si elle était valide, quelle était cette preuve, fondée sur les outils existant au XVIIème siècle, à côté de laquelle sont passés tant de mathématiciens au cours des 300 dernières années, et qui nous échappe encore aujourd’hui ?