Si l’on s’en réfère au Littré, à l’entrée n° 10 de l’article « langue », on lit :

La langue d’une science, d’un art , l’ensemble des mots, des locutions dont on fait usage dans cette science, dans cet art. La langue des mathématiques. La langue de la métallurgie. On dit dans le même sens : la langue technique [1].

Je ne peux pourtant pas dire grand-chose sur ce que je suis ou même sur le monde qui m’entoure à l’aide des seules mathématiques. Si je dis que la cote de popularité du président a baissé de dix pour cent en un an, l’énoncé n’a de sens que si je sais ce qu’est un président et une cote de popularité, et cela, ce ne sont pas les mathématiques qui peuvent le dire. Olivier Rey, dans l’article « Mathématiques et langue commune » de cette même série, nous avertit des risques qu’il y aurait à tenir les mathématiques pour une langue autonome : le sens des formules, équations et symboles se résout toujours dans la langue commune et la rigueur d’un résultat mathématique ne doit pas faire oublier que ce qui est énoncé sera toujours reçu avec les mots usuels qui, eux, sont porteurs d’ambiguïté et de sens multiples.

Faut-il déplorer cet état des choses ? Les mathématiques s’écrivent mais elles parlent et ne peuvent se passer de la parole. Entre langue et langage, y aurait-il un dire mathématique comme il y a un dire poétique ?

À première vue, les énoncés mathématiques passent pour être, par définition, universels et exacts. Le principe de non-contradiction m’assure que je ne peux démontrer une chose et son contraire. Le principe du tiers exclu me permet de découper la narration du discours mathématique en « phrases » et pour chaque phrase, de trancher : ou bien cette phrase est vraie ou bien elle est fausse mais il ne saurait y avoir de cas intermédiaire [2]. À l’inverse le dire poétique se déploie sans être subordonné à des principes et sans que l’on puisse « l’arrêter » à loisir de façon à en analyser les fragments. Les écoliers apprennent Le Dormeur du val vers après vers et on leur explique que les alexandrins donnent le rythme à la phrase mais une fois su, le poème doit se dire d’un souffle. Les exigences de forme, quelles qu’elles soient, ne sont pas la substance d’un poème [3].

Est-ce l’exigence de certitude qui sépare poésie et mathématiques ? Il m’arrive , comme à tout professionnel de la science, de « tomber » sur des équations complexes et de devoir déployer un outillage élaboré pour parvenir en bout de compte à des solutions éminemment simples, par exemple [4] une constante réelle qui est égale à $1$. Dans pareil cas, je n’hésiterais pas à dire que je sais que cette constante vaut $1$ mais que je ne comprends pas pourquoi elle vaut $1$. Notre outillage mathématique nous assure que ce que nous disons est juste mais d’une certaine façon, il nous dépasse : il semble savoir plus de choses que nous ! Ainsi le sens d’un énoncé mathématique ne peut se déployer pleinement que s’il s’accompagne d’une certaine forme d’intuition, ou, du moins, d’un certain sentiment.

Qu’est-ce que cette intuition ? Qu’est-ce qui la distingue de l’imagination ? Dans ses Méditations métaphysiques, Descartes met en scène un chiliogone, un polygone à mille cotés, à propos duquel il nous dit :

Que si je veux penser à un chiliogone, je conçois bien à la vérité que c’est une figure composée de mille côtés, aussi facilement que je conçois qu’un triangle est une figure composée de trois côtés seulement ; mais je ne puis pas imaginer les mille côtés d’un chiliogone, comme je fais les trois côtés d’un triangle, ni, pour ainsi dire, les regarder comme présents avec les yeux de mon esprit.

et de poursuivre :

Et quoique, suivant la coutume que j’ai de me servir toujours de mon imagination, lorsque je pense aux choses corporelles, il arrive qu’en concevant un chiliogone je me représente confusément quelque figure, toutefois il est très évident que cette figure n’est point un chiliogone, puisqu’elle ne diffère nullement de ce que je me représenterais, si je pensais à un myriogone, ou à quelque autre figure de beaucoup de côtés ; et qu’elle ne sert en aucune façon à découvrir les propriétés qui font la différence du chiliogone d’avec les autres polygones [5].

Traduisons. Si je m’en tiens aux seuls critères de l’universalité et de l’exactitude, je peux bien énoncer une foule de « vérités » à propos du chiliogone. On apprendra par exemple que le chiliogone régulier a 498 500 diagonales et un angle externe qui mesure 179,64 degrés, mais ce dire est-il autre chose qu’une simple réécriture des formules plus générales touchant à l’infinité des polygones réguliers ? Ces énoncés ne sont pas faux, mais ils ne peuvent former la substance d’un dire : alors que le triangle se distingue sans mal du carré, je peux difficilement détacher le chiliogone du « fond » formé des autres figures ayant un nombre de côtés similaires.

Mathématiser n’est donc nullement se contenter d’énoncer des choses exactes, compréhensibles et vérifiables par chacun. L’art du mathématicien exige aussi de savoir choisir ce sur quoi il portera son attention et ce qu’il décrira avec des mots qui diront ce qui a été saisi avec « les yeux de l’esprit ». Il n’y a donc pas loin à dire que les mathématiciens comme les poètes décrivent des paysages et que cette « imagination » qui fait défaut au profane – comment imaginer un espace géométrique à quatre dimensions ? – est plus un art de laisser passer la lumière qu’une « production » de résultats.

Chez Pascal, « le cœur sent qu’il y a trois dimensions dans l’espace et que les nombres sont infinis (...) » [6]. Le cœur et la raison ne s’opposent pas. Ils se complètent et c’est le cœur, organe métaphorique du sentiment, qui donne ses fondations à la raison. « Pas de fait empirique ici mais (...) quelque chose qui passe la raison et son analyse des concepts » dit Beaufret [7]. En somme, s’il y a un don des mathématiques ou un don de la poésie, ce don est la capacité à extraire d’un fond ce qui provient d’un sentiment. Si on peut entendre ce mot sans se limiter au sens dévalué qu’en donne le langage usuel, mais y voir ce qui appelle à rendre compte de ce qu’on estime digne d’être énoncé, la proximité avec le dire poétique commence à poindre. Entre poésie et mathématiques, les modalités du dire diffèrent [8] mais il y a dans les deux cas la nécessité de donner du sens à ce qui s’est fait sentir, à ce qui s’est manifesté.

La parole du poète n’est pas plus libre que la parole qui se fait entendre dans le dire mathématique, elle n’est pas moins rigoureuse, tout juste peut-on dire qu’elle reste comme davantage circonscrite, peut-être plus mesurée car n’ayant pas cette assurance de pouvoir à tout instant partir à la recherche de l’absolu. Curieusement, le dire mathématique s’empare bien plus facilement de l’infini par exemple que ne le fera le poème. Il y a dans tous les cas un fort risque d’errer et de voir la parole dévaluée pour devenir la risée de la foule. Poètes et mathématiciens, s’ils se font gardiens d’une forme authentique de la parole, sont de ceux qui consacrent leur être à recevoir les signes, même s’il faut pour cela comme Quichotte habiter le monde à la « lisière de la dérision » (R. Marteau) [9].

Ne soyons pas non plus trop dramatiques. Dans la conclusion de ses Figures de l’infini [10], l’historien des mathématiques Tony Lévy cite en exergue ces lignes de René Char :

Parmi tout ce qui s’écrit hors de notre attention, l’infini du ciel, avec ses défis, son roulement, ses mots innombrables, n’est qu’une phrase un peu plus longue, un peu plus haletante que les autres.

Si l’on veut bien adjoindre à l’infini du ciel celui des nombres, des figures et des symboles, ces lignes sans interprétation immédiate laisseront peut-être entrevoir un lien de parenté entre énonciation mathématique et langage poétique : tous deux sont un art de dire qui ramène à la surface ce qui vient des profondeurs du silence.

Nazim Fatès, 14 février -15 octobre 2017