Le dire mathématique

Dans quelle langue les mathématiques s’expriment-elles ? La première réponse qui vient à l’esprit est que les mathématiques s’expriment… dans la langue des mathématiques. Immédiatement surgit l’image d’Épinal faite d’une suite de symboles cryptiques, de formules alambiquées et de mots dont seule une faible portion d’initiés connaît la signification. Peut-on pour autant utiliser l’expression de « langue mathématique » ?

Si l’on s’en réfère au Littré, à l’entrée n° 10 de l’article « langue », on lit :

Je ne peux pourtant pas dire grand-chose sur ce que je suis ou même sur le monde qui m’entoure à l’aide des seulesmathématiques. Si je dis que la cote de popularité du président a baissé de dix pour cent en un an, l’énoncé n’a de sens que si je sais ce qu’est un président et une cote de popularité, et cela, ce ne sont pas les mathématiques qui peuvent le dire. Olivier Rey, dans l’article « Mathématiques et langue commune » de cette même série, nous avertit des risques qu’il y aurait à tenir les mathématiques pour une langue autonome : le sens des formules, équations et symboles se résout toujours dans la langue commune et la rigueur d’un résultat mathématique ne doit pas faire oublier que ce qui est énoncé sera toujours reçu avec les mots usuels qui, eux, sont porteurs d’ambiguïté et de sens multiples.

Faut-il déplorer cet état des choses ? Les mathématiques s’écrivent mais elles parlent et ne peuvent se passer de la parole. Entre langue et langage, y aurait-il un dire mathématique comme il y a un dire poétique ?

À première vue, les énoncés mathématiques passent pour être, par définition, universels et exacts. Le principe de non-contradiction m’assure que je ne peux démontrer une chose et son contraire. Le principe du tiers exclu me permet de découper la narration du discours mathématique en « phrases » et pour chaque phrase, de trancher : ou bien cette phrase est vraie ou bien elle est fausse mais il ne saurait y avoir de cas intermédiaire ¹²Illustration du principe à travers un exemple amusant donné par Tadashi Tokieda. «Problème: peut-il arriver que \(a\) et \(b\) soient des irrationnels mais que \(a^b\) soit rationnel? Solution: oui, ce qui se démontre comme suit. Prenons \(c=\sqrt{2}^{\sqrt{2}}\). Alors \(c\) est i) soit rationnel; soit ii) irrationnel. Nous ne savons pas lequel des cas i) ou ii) a lieu, mais peu importe. Dans le cas i), \(\sqrt{2}\) et \(\sqrt{2}\) sont irrationnels, donc \(c\) fournit une solution positive au problème. Dans le cas ii), \(c\) et \(\sqrt{2}\) sont irrationnels donc \(c^{\sqrt{2}}=\bigl(\sqrt{2}^{\sqrt{2}}\bigr)^{\sqrt{2}}=2\) fournit une solution positive. Et arrivés à la fin de la démonstration, nous ne savons toujours pas si \(c\) était rationnel ou irrationnel.» {In} {Alliage (Culture, Science, Technique)}, n° 75, 2015, p. 140-141.. À l’inverse le dire poétique se déploie sans être subordonné à des principes et sans que l’on puisse « l’arrêter » à loisir de façon à en analyser les fragments. Les écoliers apprennent Le Dormeur du val vers après vers et on leur explique que les alexandrins donnent le rythme à la phrase mais une fois su, le poème doit se dire d’un souffle. Les exigences de forme, quelles qu’elles soient, ne sont pas la substance d’un poème ¹³S’il s’agissait seulement de construire avec des contraintes alors le maçon aussi pourrait être dit poète. (Ce qui n’empêche nullement le maçon d’être poïétiquement à l’œuvre quand il construit un mur !).

Est-ce l’exigence de certitude qui sépare poésie et mathématiques ? Il m’arrive , comme à tout professionnel de la science, de « tomber » sur des équations complexes et de devoir déployer un outillage élaboré pour parvenir en bout de compte à des solutions éminemment simples, par exemple ¹⁴Exemple concret tiré de mon expérience. M’intéressant aux classes de récurrence d’automates cellulaires asynchrones, j’ai à dénombrer le nombre de mots binaires circulaires qui ne contiennent pas le motif \(101\). On vérifiera sans peine que le nombre \(u_n\) de tels mots de taille \(n\) vérifie l’équation récurrente d’ordre \(4\) suivante: \(u_{n+4}= u_{n+3}+u_{n+2}+u_{n}\) avec \(u_1=2\), \(u_2=2\), \(u_3=5\), \(u_4=10\). La résolution donne \(u_n\sim C\cdot\lambda^n\) avec \(\lambda\simeq1,\!75488\) comme unique solution réelle d’un polynôme de degré trois et… \(C=1\). une constante réelle qui est égale à 1. Dans pareil cas, je n’hésiterais pas à dire que je sais que cette constante vaut 1 mais que je ne comprends pas pourquoi elle vaut 1. Notre outillage mathématique nous assure que ce que nous disons est juste mais d’une certaine façon, il nous dépasse : il semble savoir plus de choses que nous ! Ainsi le sens d’un énoncé mathématique ne peut se déployer pleinement que s’il s’accompagne d’une certaine forme d’intuition, ou, du moins, d’un certain sentiment.

Qu’est-ce que cette intuition ? Qu’est-ce qui la distingue de l’imagination ? Dans ses Méditations métaphysiques, Descartes met en scène un chiliogone, un polygone à mille cotés, à propos duquel il nous dit :

et de poursuivre :

Traduisons. Si je m’en tiens aux seuls critères de l’universalité et de l’exactitude, je peux bien énoncer une foule de « vérités » à propos du chiliogone. On apprendra par exemple que le chiliogone régulier a 498 500 diagonales et un angle externe qui mesure 179,64 degrés, mais ce dire est-il autre chose qu’une simple réécriture des formules plus générales touchant à l’infinité des polygones réguliers ? Ces énoncés ne sont pas faux, mais ils ne peuvent former la substance d’un dire : alors que le triangle se distingue sans mal du carré, je peux difficilement détacher le chiliogone du « fond » formé des autres figures ayant un nombre de côtés similaires.

Mathématiser n’est donc nullement se contenter d’énoncer des choses exactes, compréhensibles et vérifiables par chacun. L’art du mathématicien exige aussi de savoir choisir ce sur quoi il portera son attention et ce qu’il décrira avec des mots qui diront ce qui a été saisi avec « les yeux de l’esprit ». Il n’y a donc pas loin à dire que les mathématiciens comme les poètes décrivent des paysages et que cette « imagination » qui fait défaut au profane – comment imaginer un espace géométrique à quatre dimensions ? – est plus un art de laisser passer la lumière qu’une « production » de résultats.

Chez Pascal, « le cœur sent qu’il y a trois dimensions dans l’espace et que les nombres sont infinis (…) » ¹⁶Pensées, Pascal, Lafuma 110, Brunschvicg 282. Je souligne.. Le cœur et la raison ne s’opposent pas. Ils se complètent et c’est le cœur, organe métaphorique du sentiment, qui donne ses fondations à la raison. « Pas de fait empirique ici mais (…) quelque chose qui passe la raison et son analyse des concepts » dit Beaufret ¹⁷e fondement philosophique des mathématiques, Troisième conférence (6 mai 1981), Jean Beaufret, éd. du Seuil, 2011, p. 127.. En somme, s’il y a un don des mathématiques ou un don de la poésie, ce don est la capacité à extraire d’un fond ce qui provient d’un sentiment. Si on peut entendre ce mot sans se limiter au sens dévalué qu’en donne le langage usuel, mais y voir ce qui appelle à rendre compte de ce qu’on estime digne d’être énoncé, la proximité avec le dire poétique commence à poindre. Entre poésie et mathématiques, les modalités du dire diffèrent ¹⁸Occasionnellement, les deux formes peuvent aussi coïncider : voir par exemple « Ibn al-Yāsamīn et son poème algébrique », Mahdi Abdeljaouad, en ligne sur ce site, 22 février 2015. mais il y a dans les deux cas la nécessité de donner du sens à ce qui s’est fait sentir, à ce qui s’est manifesté.

La parole du poète n’est pas plus libre que la parole qui se fait entendre dans le dire mathématique, elle n’est pas moins rigoureuse, tout juste peut-on dire qu’elle reste comme davantage circonscrite, peut-être plus mesurée car n’ayant pas cette assurance de pouvoir à tout instant partir à la recherche de l’absolu. Curieusement, le dire mathématique s’empare bien plus facilement de l’infini par exemple que ne le fera le poème. Il y a dans tous les cas un fort risque d’errer et de voir la parole dévaluée pour devenir la risée de la foule. Poètes et mathématiciens, s’ils se font gardiens d’une forme authentique de la parole, sont de ceux qui consacrent leur être à recevoir les signes, même s’il faut pour cela comme Quichotte habiter le monde à la « lisière de la dérision » (R. Marteau) ¹⁹« Le chiffre et le cheval », Robert Marteau, article paru dans la revue Liberté, n° 6, 1972. (Numéro consacré au thème « Écriture et l’errance ».).

Ne soyons pas non plus trop dramatiques. Dans la conclusion de ses Figures de l’infini ²⁰Figures de l’infini, Tony Lévy, éd. du Seuil, 1987. Le texte de Char est tiré de Possessions extérieures., l’historien des mathématiques Tony Lévy cite en exergue ces lignes de René Char :