Rigueur et fécondité en mathématiques

La rigueur en mathématiques : une exigence absolue ? une marque de fabrique ? une condition sine qua non ? Oui ! très souvent pour le meilleur.

Mais aussi pour le pire, à l’occasion, puisque l’obsession de la rigueur peut jouer contre l’efficacité¹¹Bernard Beauzamy, Mathématiques : rigueur ou efficacité ? Article publié (sous forme abrégée) dans le Bulletin de l’Union des Professeurs de Spéciales, juillet 2001, ici. , ou puisque le vague souvenir de l’incantation rigoriste est ce qui reste quand on a oublié toutes les mathématiques scolaires. Ce sont les dangers bien connus d’une prétention solitairement jouissive à vouloir réduire les mathématiques au seul rôle d’étalon en or pur de la rigueur incarnée.

Le sujet est vaste, et je vais me limiter ici à me faire l’écho de quelques remarques historiques. Elles sont reprises d’un article de vulgarisation de Max Dehn, paru en 1928 ¹²Max Dehn, Über die geistige Eigenart des Mathematikers,
Frankfurter Universitätsreden, XXVIII (1928).
Traduction anglaise :
The Mentality of the Mathematician. A Characterization,The Mathematical Intelligencer \(5^2\) (1983) 18-26. . Max Dehn (1878-1952) est un mathématicien allemand dont les travaux en géométrie, topologie et théorie des groupes ont eu une immense influence ; de plus, lorsqu’il était professeur à Francfort (1922-1935), il a dirigé un séminaire d’histoire des mathématiques qui fut un modèle incomparable ¹³Carl Ludwig Siegel, Zur Geschichte der Frankfurter Mathematischen Seminars, Frankfurter Universitätsreden 36 (1964) = Gesammelte Abhandlungen III, 462—474. Traduction anglaise : On the history of the Frankfurt mathematics seminar, The Mathematical Intelligencer \(1^4\)(1979), 223—232. (voir aussi ¹⁴Max Dehn, Mathematics, 600 B.C.-400 B.C., 400 B.C.-300 B.C., 300 B.C.-200 B.C., 200 B.C.-600 A.C,The American Mathematical Monthly 50 (1943), 357-360, 411-414 ;et 51 (1944), 25-31, 149-157.)

Les anciens mathématiciens grecs, loin d’être toujours caractérisés par l’extrême rigueur qu’on retient d’eux, ont eu leurs périodes de témérité. Mais c’est une découverte majeure, l’irrationalité de la racine carrée de deux ¹⁵Qui se démontre comme celle de la racine de cinq, voir la proposition 2 de Le nombre d’or en mathématique,Images des mathématiques, 14 janvier 2009.,qui les a obligés à adopter une rigueur sans précédent. Ils ont en effet réalisé que plusieurs de leurs arguments antérieurs étaient fautifs, car ils considéraient tous les nombres (par exemple \(\sqrt 2 \approx 1,414213562…\)) comme des fractions de nombres entiers (par exemple \(\frac{7}{5} = 1,4\)). Ainsi, une identité de la forme \(xy = yx\) est simple à justifier lorsque \(x\) et \(y\) sont des entiers, puisque la surface d’une table de longueur \(x\) et de largeur \(y\) est évidemment égale à la surface d’une table de longueur \(y\) et de largeur \(x\)~; il suffit de compter le nombre de carrés de côté \(1\) nécessaires pour recouvrir la table. La justification s’étend au cas de nombres rationnels \(x\) et \(y\) (= de nombres qui sont des fractions de nombres entiers). Mais pourquoi \(\pi (\sqrt{2}) = (\sqrt{2}) \pi\) ? Pour la réponse grecque d’une période de grande rigueur, voir le cinquième livre des Élements d’Euclide ¹⁶Voir « Livre V des Éléments d’Euclide » dans Wikipedia, ainsi que Fabio Acerbi, Euclide .~;la réponse illustre l’importance d’un énoncé d’Archimède, lié au « principe d’exhaustion », qu’on peut formuler en termes modernes comme suit~:étant donné deux nombres réels \(x\) et \(y\) strictement positifs, il existe un entier \(n\) tel que \(n x > y\).

La plupart des grands découvreurs du XVIIe siècle usaient souvent d’arguments naïfs, non rigoureux au sens actuel du terme. Ainsi Kepler (1571-1630) dont l’intuition et les calculs ont imposé la conception héliocentrique du système solaire. Ou Cavalieri (1598-1647), ce précurseur du calcul intégral dont Galilée disait « il en est peu, pour autant qu’il y en ait, qui depuis Archimède ont pénétré aussi loin et aussi profondément dans la science de la géométrie. » Ou Newton (1643-1727), qui fut autant alchimiste que mathématicien et physicien. Ou Leibniz (1646-1716), à la fois mathématicien, généalogiste, diplomate et philosophe. Et Dehn de renchérir~: « Au XVIIIe siècle, personne ne respectait la rigueur grecque. La nouvelle race des titans trouvait les règles rigoureuses des anciens trop particulières et inhibantes. » Ils avaient si bien assimilé les nombres irrationnels que la rigueur grecque d’après la chute (d’après la découverte de l’irrationalité de \(\sqrt 2\) ) ne leur était plus nécessaire.

Laquelle rigueur grecque redevint de mise vers la fin du XVIIIe siècle, notamment en connexion avec de nouveaux travaux de géométrie projective. Au XIXe siècle, les plus originaux des mathématiciens (Gauss, Cauchy, Dirichlet, Riemann, Weierstrass, …) consacrèrent beaucoup d’énergie à établir des fondements rigoureux pour l’analyse, après la révolution personnifiée par Newton et Leibniz.

Et il y aurait beaucoup à dire (et à comprendre) au sujet de la rigueur et de la témérité dans l’aventure mathématique allant des découvertes de Cantor sur l’infini (dès 1874 ¹⁷Patrick Dehornoy, href= »http://www.math.unicaen.fr/~dehornoy/Surveys/Dhv.pdf » rel= »external »>Cantor et les infinis,Gazette des mathématiciens 121 (2009), 29—46.) aux progrès de la théorie des ensembles des années 1920 (le système ZFC), en passant par la formulation de l’axiome du choix (Zermelo, 1904) ; voir ¹⁸Patrick Dehornoy, Théorie axiomatique des ensembles, texte préparé pour l’Encyclopedia Universalis..

Dans les périodes récentes, ce sont peut-être les physiciens théoriciens qui ont le plus exemplairement œuvré pour la fécondité, et les mathématiciens qui tentent d’assurer dans leur sillage la rigueur nécessaire. Le lecteur mathématicien est invité à (re)méditer la mémorable controverse suscitée en 1993-94 par un article de Jaffe et Quinn ¹⁹Arthur Jaffe et Frank Quinn, « Theoretical mathematics » : toward a cultural synthesis of mathematics and theoretical physics, Bulletin of the American Mathematical Society 29 (1993), 1-13. Et les réponses, dans le même journal, 30 (1994), 161-211. . Ajoutons-y ici le souvenir d’un congrès qui avait lieu sur une colline au nom prédestiné, le Monte Verità ; le topologue et géomètre Raoul Bott (1923-2005) disait en termes imagés, entre deux éclats de son rire chaleureux : « c’est notre rôle à nous mathématiciens de prendre en charge l’éducation de tous les magnifiques bâtards engendrés par la fécondité des physiciens ».

La rigueur n’est pas toujours et pas nécessairement le dernier mot de notre sujet. Il serait dangereux de laisser les rigoristes extrêmes polluer l’enseignement par ce sous-produit nuisible de la rigueur qu’est le formalisme creux, qui empêche l’efficacité autant que la curiosité. Et il serait par ailleurs trompeur de laisser croire que le paysage mathématique est une réalité à une seule dimension, s’étirant entre deux extrêmes que seraient la spéculation et la rigueur. En conclusion (bien provisoire), j’ai envie d’assimiler la fécondité au « vrai », l’absence de rigueur au « faux », le rigorisme à l’« insignifiant », et de citer (de²⁰Prédire n’est pas expliquer, entretiens d’Emile Noël avec René Thom, rédigés par Yves Bonin et illustré par Alain Chenciner, Editions Eshel, 1991. , page 132) une boutade lâchée par le mathématicien René Thom (1923-2002) lors d’un déjeuner avec le psychanalyste Jacques Lacan (1901-1981) :

Lacan avait répondu :