Il y a trente ans exactement paraissait un ouvrage mathématique austère. Son titre Relations aux dérivées partielles [2] sonnait étrangement même aux oreilles des spécialistes, sa couverture était minimaliste, son écriture serrée, son contenu abstrait. Chacune de ses 363 pages réclamait une concentration complète et n’offrait aucune facilité de lecture. Il n’était pas difficile de deviner les réactions qu’il allait susciter : un intérêt poli suivi d’un oubli immédiat.

Mikhaïl Gromov

Mais c’était sans compter l’immense réputation de son auteur, l’un des plus grands mathématiciens contemporains, Mikhaïl Gromov [3]. Il s’est donc trouvé des lecteurs téméraires et obstinés pour s’engager dans l’ouvrage. Une lectrice en particulier. La mathématicienne Dusa McDuff. Peu de temps après la parution de l’ouvrage, elle rédige une recension [4] dans les bulletins de la Société Américaine de Mathématiques. Sa critique se termine ainsi : « Le livre est un fantastique trésor d’idées ». Un trésor vraiment ? Sans aucun doute. Un immense trésor qui a enrichi les mathématiques et l’imagination de centaines de savants. Un trésor que nous allons dévoiler aujourd’hui.

Le retournement de Smale

Tout commence dans les années 50 avec une succession de résultats mathématiques défiant l’intuition et dont le plus célèbre est le retournement de la sphère. Imaginez une sphère réalisée avec un matériau si souple qu’elle pourrait être déformée à l’envi bien plus facilement qu’un ballon d’anniversaire. Imaginez encore que ce matériau fictif possède la propriété fantastique de se laisser traverser sans se déchirer. Avec un tel matériau deux parties différentes de la sphère qui seraient mises en contact au cours d’une déformation pourraient ainsi continuer leur mouvement en se traversant l’une l’autre.

Toutefois, hormis cette propriété irréelle, ce matériau serait soumis aux mêmes contraintes que celles d’une peau de ballon ordinaire : il ne pourrait être plié ou pincé sans éclater. En 1957, le mathématicien Stephen Smale montre qu’avec un tel matériau on pourrait réaliser un tour de magie spectaculaire : déformer une sphère de façon à permuter ses faces intérieures et extérieures. Ceci signifie que si l’on commence avec une sphère dont l’extérieur est peint en rouge et l’intérieur en bleu, on retrouvera en fin de déformation une sphère identique dont l’extérieur sera en bleu et l’intérieur en rouge.

Inutile de préciser que la découverte d’une telle diablerie a offert à Smale une célébrité immédiate. L’existence d’un retournement de la sphère heurtait l’intuition de tous les mathématiciens. Elle était pourtant rigoureusement établie selon une logique mathématique implacable. La stupéfaction était totale. La frustration aussi car la démonstration de Smale n’indiquait pas comment retourner concrètement la sphère. Elle affirmait simplement qu’un retournement était faisable en laissant entier le mystère de sa réalisation effective. Dans les années qui suivront, il faudra bien des efforts aux mathématiciens pour réussir à percer ce mystère. Ces efforts conduiront en 1977 à un tour de force infographique : la réalisation par Max Nelson d’un film en image de synthèse montrant ce retournement.

Depuis, les efforts se sont poursuivis et d’autres façons d’effectuer des retournements de sphère ont été mises à jour [5]. En voici une toute nouvelle due au mathématicien Arnaud Chéritat.

Retournement de sphère

Soyons plus exigeants. Nous allons maintenant demander à notre matériau fictif d’être non seulement infiniment souple mais également de ne pouvoir être ni contracté ni étiré. On abandonne par conséquent l’image de la peau d’un ballon pour celle d’une balle de ping-pong dont le plastique satisfait, en première approximation, ces nouvelles hypothèses.

Impossible alors d’imaginer un retournement de la sphère. Chacun en a déjà fait l’expérience : lorsque l’on cherche à déformer une balle de ping-pong celle-ci résiste à la pression. En y mettant une grande force, elle finit par fléchir brutalement et former des « poques ». Sa surface n’est plus du tout régulière, elle présente des arêtes et pointes. Le matériau s’est plié et pincé en réponse à la contrainte. La perte de régularité de la balle de ping-pong est un phénomène géométrique analysé et compris des mathématiciens depuis longtemps : la sphère est un objet rigide, on ne peut la déformer sans étirer ou contracter le matériau. Enfin... c’est ce que chacun croyait !

Une balle de ping-pong dans un dé à coudre

Quelques années avant que Smale ne découvre sa diablerie, un mathématicien hors-norme, John Nash [6], provoque un premier coup de théâtre. Il montre à la surprise générale un théorème [7] dont les conséquences sont déroutantes. Non seulement la balle n’est pas rigide mais on peut au moyen d’une contorsion délirante la lover dans un dé à coudre. Tout ceci sans le moindre étirement ou la moindre contraction du matériau et sans créer un seul poque.

Encore une fois, la démonstration n’aidait pas beaucoup à comprendre la façon dont cette sphère était logée dans son dé à coudre. Certes, mathématiquement le doute n’était pas permis mais l’embarras s’installait. Personne n’y voyait rien. La perplexité de la communauté mathématique était manifeste. Comment une telle absurdité pouvait-elle exister ?

La réponse viendra de Gromov après de longues années de réflexion consacrées aux résultats « impossibles » de Nash, de Smale et d’autres mathématiciens de l’époque. Et cette réponse est tout aussi étonnante que les paradoxes qu’elle démonte. Non seulement, elle localise et balaye les blocages intellectuels empêchant d’imaginer l’impossible mais elle fournit une machinerie pour le réaliser ! Entendons-nous bien. Toutes les situations d’impossibilités mathématiques ne sont pas concernées. Les énoncés réfutés par une démonstration en bonne et due forme seront pour toujours irréalisables. Les impossibles en question ici sont d’une nature plus subtile. Il s’agit de résultats inenvisagés parce que contraires à nos intuitions premières, à l’image de la balle de ping-pong et du dé à coudre. Aucun argument mathématique connu ne vient les contredire mais l’esprit les écarte tout de même à cause de leur caractère invraisemblable.

Un des trésors du livre de Gromov est d’offrir une parade à ces rejets anticipés de l’esprit. Le principe est de partir de la situation simplifiée pour se diriger ensuite seulement vers l’invraisemblable. De deux choses l’une : soit la situation simplifiée est elle-même irréalisable et dans ce cas l’invraisemblable n’est pas imposture, il est véritable impossible. Soit la situation simplifiée est parfaitement concevable, et il faut alors décréter l’état d’alerte intellectuelle et empêcher l’esprit de rejeter dans un acte réflexe l’invraisemblable.

Car ce que comprend Gromov, c’est que l’invraisemblable se produit alors dans un nombre inimaginable de cas. Dans l’exemple de la balle de ping-pong, la situation simplifiée consiste à supprimer les contraintes sur le matériau ce qui signifie que l’on pourra le contracter ou le dilater. Dans ces conditions, il devient possible de réduire la balle de ping-pong à la taille d’une bille puis de la placer dans le dé à coudre. La situation simplifiée est donc tout à fait réalisable. D’après le principe découvert par Gromov, appelé scientifiquement le h-principe, l’invraisemblable risque de se produire [8]. Et il se produit véritablement dans ce cas. Les travaux de Nash ont pour conséquence que l’on peut effectivement placer la balle dans le dé à coudre sans étirer ni contracter le matériau.

Comment Gromov met à bas l’impossible

Certes, mais ceci ne répond pas complètement à la question. Pourquoi ces impossibles factices n’apparaissent-ils pas pour ce qu’ils sont, des vérités d’évidence ? Pourquoi semblent-ils invraisemblables ? La réponse est simple. En plus d’ériger des barrières inutiles, notre cerveau manque d’imagination. Si le cheminement mathématique direct s’avère impraticable, c’est que l’on a peine à voir les innombrables petits contournements qui permettraient d’atteindre le même but.

Détail d’une « contorsion délirante » permettant de réduire une balle de ping-pong idéalisée sans étirement ni contraction. Les oscillations visibles à toutes les échelles figurent les « innombrables petits contournements » de la théorie de Gromov

Un tour de force du livre de Gromov est de pallier ce manque d’imagination en décrivant par le menu ces petits contournements. Non seulement son livre permet de détecter les invraisemblables suspects, mais il explique comment les réaliser mathématiquement. Il construit ni plus ni moins qu’une machine à démanteler les impossibles. Un exemple pour en sentir la portée. Vous vous souvenez que l’on peut retourner une sphère à condition qu’elle soit fabriquée avec un matériau souple, déformable et pouvant se traverser lui-même. Pourquoi ne pas prendre ce fait comme la situation simplifiée initiale et exiger ensuite du matériau qu’il ne puisse être ni étiré, ni contracté ? L’invraisemblable va-t-il se produire ? Oui. La machinerie de Gromov s’applique à ce cas pour construire un retournement de la sphère sans contraction ni étirement de la matière ! Un fait violemment contre-intuitif. Dusa McDuff nous avait prévenus, ce livre est un fantastique trésor d’idées.

Cet article est paru sur le site The Conversation le 30 mai 2016 à la suite de cette conférence :