Rigueur et fécondité en mathématiques

17 avril 2010  - Ecrit par  Pierre de la Harpe Voir les commentaires

La rigueur en mathématiques :
une exigence absolue ? une marque de fabrique ? une condition sine qua non ?
Oui ! très souvent pour le meilleur.

Mais aussi pour le pire, à l’occasion, puisque l’obsession de la rigueur
peut jouer contre l’efficacité
 [1],
ou puisque le vague souvenir de l’incantation rigoriste est
ce qui reste quand on a oublié toutes les mathématiques scolaires.
Ce sont les dangers bien connus d’une
prétention solitairement jouissive à vouloir réduire
les mathématiques au seul rôle d’étalon en or pur de la rigueur incarnée.

Le sujet est vaste, et je vais me limiter ici à me faire l’écho
de quelques remarques historiques.
Elles sont reprises d’un article de vulgarisation de Max Dehn,
paru en 1928
 [2].
Max Dehn (1878-1952) est un
mathématicien allemand dont les travaux en géométrie,
topologie et théorie des groupes ont eu une immense influence ;
de plus, lorsqu’il était professeur à Francfort (1922-1935),
il a dirigé un séminaire d’histoire des mathématiques
qui fut un modèle incomparable
 [3]
(voir aussi
 [4]).

JPEG - 8.1 ko
Max Dehn

Les anciens mathématiciens grecs,
loin d’être toujours caractérisés par l’extrême rigueur qu’on retient d’eux,
ont eu leurs périodes de témérité.
Mais c’est une découverte majeure,
l’irrationalité de la racine carrée de deux
 [5],
qui les a obligés à adopter une rigueur sans précédent.
Ils ont en effet réalisé que plusieurs de leurs arguments antérieurs
étaient fautifs,
car ils considéraient tous les nombres
(par exemple $\sqrt 2 \approx 1,414213562...$)
comme des fractions de nombres entiers
(par exemple $\frac{7}{5} = 1,4$).
Ainsi, une identité de la forme $xy = yx$ est
simple à justifier lorsque $x$ et $y$ sont des entiers,
puisque la surface d’une table de longueur $x$ et de largeur $y$
est évidemment égale à la surface
d’une table de longueur $y$ et de largeur $x$ ;
il suffit de compter le nombre de carrés de côté $1$ nécessaires
pour recouvrir la table.
La justification s’étend au cas de nombres rationnels $x$ et $y$
(= de nombres qui sont des fractions de nombres entiers).
Mais pourquoi $\pi (\sqrt{2}) = (\sqrt{2}) \pi$ ?
Pour la réponse grecque d’une période de grande rigueur,
voir le cinquième livre des Élements d’Euclide
 [6] ;
la réponse illustre l’importance d’un énoncé d’Archimède,
lié au « principe d’exhaustion »,
qu’on peut formuler en termes modernes comme suit :
étant donné deux nombres réels $x$ et $y$ strictement positifs,
il existe un entier $n$ tel que $n x > y$.

La plupart des grands découvreurs du XVIIe siècle
usaient souvent d’arguments naïfs, non rigoureux au sens actuel du terme.
Ainsi Kepler (1571-1630) dont l’intuition et les calculs ont imposé
la conception héliocentrique du système solaire.
Ou Cavalieri (1598-1647), ce précurseur du calcul intégral
dont Galilée disait
"il en est peu, pour autant qu’il y en ait, qui depuis Archimède ont pénétré
aussi loin et aussi profondément dans la science de la géométrie."
Ou Newton (1643-1727), qui fut autant alchimiste
que mathématicien et physicien.
Ou Leibniz (1646-1716), à la fois mathématicien,
généalogiste, diplomate et philosophe.
Et Dehn de renchérir : "Au XVIIIe siècle, personne ne respectait
la rigueur grecque. La nouvelle race des titans trouvait les règles rigoureuses des anciens trop particulières et inhibantes."
Ils avaient si bien assimilé les nombres irrationnels
que la rigueur grecque d’après la chute (d’après la découverte
de l’irrationalité de $\sqrt 2$) ne leur était plus nécessaire.

Laquelle rigueur grecque redevint de mise vers la fin du XVIIIe siècle,
notamment en connexion avec de nouveaux travaux
de géométrie projective.
Au XIXe siècle, les plus originaux des mathématiciens
(Gauss, Cauchy, Dirichlet, Riemann, Weierstrass, ...) consacrèrent
beaucoup d’énergie à établir des fondements rigoureux pour l’analyse,
après la révolution personnifiée par Newton et Leibniz.

Et il y aurait beaucoup à dire (et à comprendre)
au sujet de la rigueur et de la témérité
dans l’aventure mathématique
allant des découvertes de Cantor sur l’infini
(dès 1874 [7])
aux progrès de la théorie des ensembles
des années 1920 (le système ZFC),
en passant par la formulation de l’axiome du choix
(Zermelo, 1904) ; voir [8].

Dans les périodes récentes, ce sont peut-être les physiciens théoriciens
qui ont le plus exemplairement œuvré pour la fécondité,
et les mathématiciens qui tentent d’assurer dans leur sillage la rigueur nécessaire.
Le lecteur mathématicien est invité à (re)méditer
la mémorable controverse suscitée en 1993-94
par un article de Jaffe et Quinn
 [9]
.
Ajoutons-y ici le souvenir d’un congrès qui avait lieu
sur une colline au nom prédestiné,
le Monte Verità ;
le topologue et géomètre Raoul Bott (1923-2005)
disait en termes imagés,
entre deux éclats de son rire chaleureux :
"c’est notre rôle à nous mathématiciens
de prendre en charge l’éducation de tous les magnifiques bâtards
engendrés par la fécondité des physiciens".

JPEG - 16.8 ko
Monte Verità

La rigueur n’est pas toujours et pas nécessairement
le dernier mot de notre sujet.
Il serait dangereux de laisser les rigoristes extrêmes polluer l’enseignement
par ce sous-produit nuisible de la rigueur qu’est le formalisme creux,
qui empêche l’efficacité autant que la curiosité.
Et il serait par ailleurs trompeur de laisser croire que
le paysage mathématique est une réalité à une seule dimension,
s’étirant entre deux extrêmes que seraient la spéculation et la rigueur.
En conclusion (bien provisoire),
j’ai envie d’assimiler la fécondité au « vrai »,
l’absence de rigueur au « faux »,
le rigorisme à l’« insignifiant »,
et de citer (de [10], page 132)
une boutade
lâchée par le mathématicien René Thom (1923-2002)
lors d’un déjeuner avec le psychanalyste Jacques Lacan (1901-1981) :

« Ce qui limite le vrai, ce n’est pas le faux, c’est l’insignifiant. »

$ \$

Lacan avait répondu :

« Cela me retient, cela me retient. »

Notes

[1Bernard Beauzamy, Mathématiques : rigueur ou efficacité ?
Article publié (sous forme abrégée)
dans le Bulletin de l’Union des Professeurs de Spéciales, juillet 2001,
ici.

[2Max Dehn, Über die geistige Eigenart des Mathematikers,
Frankfurter Universitätsreden, XXVIII (1928).
Traduction anglaise :
The Mentality of the Mathematician. A Characterization,
The Mathematical Intelligencer 5$^2$ (1983) 18-26.

[3Carl Ludwig Siegel,
Zur Geschichte der Frankfurter Mathematischen Seminars,
Frankfurter Universitätsreden 36 (1964)
= Gesammelte Abhandlungen III, 462—474.
Traduction anglaise :
On the history of the Frankfurt mathematics seminar,
The Mathematical Intelligencer 1$^4$ (1979), 223—232.

[4Max Dehn, Mathematics,
600 B.C.-400 B.C., 400 B.C.-300 B.C., 300 B.C.-200 B.C., 200 B.C.-600 A.C
,
The American Mathematical Monthly 50 (1943), 357-360, 411-414 ;
et 51 (1944), 25-31, 149-157.

[5Qui se démontre comme celle de la racine de cinq,
voir la proposition 2 de Le nombre d’or en mathématique,
Images des mathématiques, 14 janvier 2009.

[6Voir « Livre V des Éléments d’Euclide » dans Wikipedia,
ainsi que
Fabio Acerbi, Euclide.

[7Patrick Dehornoy, Cantor et les infinis,
Gazette des mathématiciens 121 (2009), 29—46.

[8Patrick Dehornoy, Théorie axiomatique des ensembles,
texte préparé pour l’Encyclopedia Universalis.

[9Arthur Jaffe et Frank Quinn,
« Theoretical mathematics » : toward a cultural
synthesis of mathematics and theoretical physics
,
Bulletin of the American Mathematical Society 29 (1993), 1-13.
Et les réponses, dans le même journal, 30 (1994), 161-211.

[10Prédire n’est pas expliquer,
entretiens d’Emile Noël avec René Thom,
rédigés par Yves Bonin et illustré par Alain Chenciner,
Editions Eshel, 1991.

Partager cet article

Pour citer cet article :

Pierre de la Harpe — «Rigueur et fécondité en mathématiques» — Images des Mathématiques, CNRS, 2010

Commentaire sur l'article

Laisser un commentaire

Forum sur abonnement

Pour participer à ce forum, vous devez vous enregistrer au préalable. Merci d’indiquer ci-dessous l’identifiant personnel qui vous a été fourni. Si vous n’êtes pas enregistré, vous devez vous inscrire.

Connexions’inscriremot de passe oublié ?

Suivre IDM