Il n’existe pas de prix Nobel en mathématiques. La médaille Fields ne récompense que des mathématiciennes [1] et mathématiciens de moins de 40 ans et n’a donc pas le même rôle qu’un prix Nobel qui récompense souvent une carrière complète. En ce sens, le prix Abel est l’équivalent d’un prix Nobel des mathématiques par son prestige, le caractère avancé des carrières des récipiendaires et le montant du prix.

Le nom du prix vient de Niels Abel, mathématicien norvégien. On lui doit surtout la première réponse à la question de la résolubilité par radicaux des équations polynomiales de degré $5$. Il est le premier à montrer que c’est impossible pour certains polynômes puis Évariste Galois caractérisa exactement les polynômes pour lesquels c’est possible. Sa vie fut courte puisqu’il mourut à 26 ans et c’est pour le deux-centième anniversaire de sa naissance que le prix Abel fut créé en 2002. Le premier prix fut remis à Jean-Pierre Serre. Le prix est doté de 7,5 millions de couronnes norvégiennes soit environ 600 000 €, bien plus que la médaille Fields.

Cette année, l’attribution a été annoncée en début de confinement, et c’est par webcams interposées que les intervenants ont pris la parole. La cérémonie en elle-même est remise à plus tard, lorsque l’épidémie de coronavirus sera terminée. On peut revoir l’annonce en ligne ainsi que les entretiens avec les récipiendaires.

Les deux lauréats, bien que leurs travaux soient dans la même veine, n’ont jamais collaboré directement. Ils n’ont même aucun collaborateur commun bien que certains de leurs co-auteurs aient eux-mêmes collaboré (on dit que la distance d’Erdős entre Furstenberg et Margulis est égale à $3$).

Dans la suite, nous évoquons les travaux les plus célèbres des deux récipiendaires en essayant de donner une certaine idée sur le sujet. Aucune exhaustivité n’est visée même parmi leurs contributions les plus remarquables. Si le début est une piste rouge, la suite est clairement hors piste.

H. Furstenberg

Hillel Furstenberg devant le laboratoire de mathématiques de l’Université hébraïque de Jérusalem.

Hillel Furstenberg est né en Allemagne en 1935, immigre aux États-Unis au début de la Seconde Guerre mondiale, y fait ses études et y commence sa carrière. En 1965, il part s’installer en Israël et devient professeur à l’Université hébraïque de Jérusalem jusqu’à sa retraite.

Le premier fait marquant de la carrière d’Hillel Furstenberg est une nouvelle preuve de l’infinité des nombres premiers. Bien sûr, il était connu depuis l’antiquité qu’il existe une infinité de nombres premiers et une preuve classique se trouve dans les Éléments d’Euclide : Soit $n$ le plus grand nombre premier connu alors le nombre entier $n!+1 = 1\times 2\times 3\times\dotsb \times n+1$ est divisible par un nombre premier qui est premier avec tous les entiers de $1$ à $n$ et donc différent de tous les nombres premiers déjà connus. Ainsi, il existe une infinité de nombres premiers.

La preuve de Furstenberg est totalement différente dans sa forme, car elle fait appel à la topologie, qui est la branche des mathématiques qui étudie les propriétés d’objets géométriques préservées par déformation continue sans arrachage ni recollement. A priori, la relation avec les nombres premiers semble tenue et est très surprenante. Mais, c’est là une marque des travaux de Furstenberg : utiliser un domaine des mathématiques pour répondre à des problèmes d’un autre domaine.

La preuve demande de savoir ce que sont des ouverts et des fermés et nous laissons la lectrice ou le lecteur intéressé dérouler le bloc ci-dessous pour lire la preuve qui tient en quelques lignes. La publication originale s’étend d’ailleurs sur douze lignes seulement au milieu d’une page de l’American Mathematical Monthly en 1955.

Les douze lignes de la fameuse preuve de l’infinité des nombres premiers, telles qu’elles sont apparues dans le American Mathematical Monthly de mai 1955.

Pour plus de détails et d’autres preuves, on pourra consulter cet article.

Une autre nouvelle preuve fameuse donnée par Furstenberg est une preuve du théorème de Szemerédi qui affirme que pour tout ensemble $E$ de nombres entiers positifs, si la densité de $E$ dans l’ensemble des entiers positifs est strictement positive alors $E$ contient des progressions arithmétiques finies (c’est-à-dire des suites $b,b+a,b+2a,\dots, b+na$ où $b$ est le premier terme, $a$ la raison et $n$ la longueur) de longueur aussi grande que voulu. La densité d’un ensemble $E$ dans l’ensemble des entiers positifs comme la limite (si elle existe) du quotient
\[ \frac{\lvert E\cap\{1,\dots,n\}\rvert}{n}, \]
c’est-à-dire la limite de la proportion de nombres dans $E$ parmi les $n$ premiers entiers.

Pour cette preuve, ce n’est pas la topologie l’outil original, mais les probabilités ! Le point clé est un théorème de récurrence multiple, qui est une extension du théorème de récurrence de Poincaré, outil classique de théorie ergodique, l’étude des systèmes dynamiques en présence d’une mesure invariante comme l’évolution d’un gaz à volume fixé. Cette nouvelle preuve n’était pas seulement intéressante par son originalité. Le théorème de récurrence multiple a ouvert une nouvelle branche des mathématiques liant théorie ergodique et théorie combinatoire des nombres. Une illustration remarquable de cette ouverture est le théorème de Green et Tao démontré en 2004. Ce théorème affirme que l’ensemble des nombres premiers, bien que de densité nulle, possède des suites arithmétiques de longueur arbitrairement grande.

La principale notion à laquelle Hillel Furstenberg a donné son nom, c’est celle de frontière de Furstenberg. En fait, il y a plusieurs objets mathématiques qui portent ce nom, l’un étant de nature topologique et l’autre faisant partie du monde de la théorie de la mesure.

Donnons un exemple de cette notion de frontière. Le premier exemple est peut-être donné par une fonction harmonique $f$, c’est-à-dire $\Delta f=0$, sur le disque unité. L’équation de la chaleur en régime stationnaire indique que la température est une telle fonction harmonique. La valeur en chaque point de l’intérieur est complètement déterminée par les valeurs au bord du disque. C’est la formule dite de Poisson. Une manière probabiliste de voir le même phénomène est le suivant. On se place sur le disque de Poincaré (aussi appelé plan hyperbolique), on effectue une marche au hasard (un mouvement brownien) à partir d’un point $x$ et on s’arrête lorsque l’on rencontre le cercle qui borde le disque. On obtient une mesure de probabilité sur le cercle qui pour chaque partie du cercle indique la chance d’aboutir dans cette partie. Cette mesure de probabilité, notée $\mu_x$ dépend du point initial $x$ et c’est le cercle muni de cette famille de probabilité qui constitue une frontière de Furstenberg. Le groupe $\mathrm{SL}_2(\mathbb{R})$ agit par isométries sur le disque de Poincaré de manière transitive et il faut penser au cercle unité comme une frontière du groupe $G=\mathrm{SL}_2(\mathbb{R})$ dans le sens où presque sûrement toute marche au hasard sur le groupe $G$ converge vers un point de la frontière. Furstenberg généralise la construction aux groupes de Lie comme $\mathrm{SL}_n(\mathbb{R})$ et aussi à des groupes discrets comme le réseau $\mathrm{SL}_n(\mathbb{Z})$.

La compréhension (existence, unicité et identification pour les groupes de Lie) de ces frontières sera un outil clé dans les travaux de Margulis. Mettons en avant que ces frontières passent très bien du continu, comme $\mathrm{SL}_n(\mathbb{R})$, au discret, comme $\mathrm{SL}_n(\mathbb{Z})$.

La valeur des travaux de Furstenberg a été reconnue dès leurs publications, mais c’est par les résultats de nombreux autres mathématiciens inspirés par ces travaux que l’on peut apprécier la profondeur de l’oeuvre de Furstenberg.

G. A. Margulis

Grigori Alexandrovitch Margulis.

Grigori Alexandrovitch Margulis naît à Moscou en 1946. Il soutient une thèse en théorie ergodique en 1970. Au début des années 1970, il annonce une étape clé dans la solution de la conjecture de Selberg et Piatetski-Shapiro sur l’arithméticité des réseaux des groupes de Lie semi-simple de rang supérieur : Si $G$ est un groupe de Lie semi-simple de rang supérieur comme $\mathrm{SL}_n(\mathbb{R})$ (avec $n\geq3$) ou $\mathrm{O}(p,q)$ avec $p,q\geq2$ alors tout réseau $\Gamma$, c’est-à-dire sous-groupe discret tel que le quotient $G/\Gamma$ possède une mesure finie invariante sous l’action par multiplications de $G$, est essentiellement obtenu comme l’ensemble des matrices à coefficients entiers de $G$. Par exemple, on retrouve $\mathrm{SL}_n(\mathbb{Z})$ comme réseau arithmétique de $\mathrm{SL}_n(\mathbb{R})$.

Pour donner une idée de quoi il s’agit, on peut dire que les premiers réseaux sont les réseaux euclidiens. Une définition dans ce cas particulier est la suivante, ce sont les sous-groupes discrets de $(\mathbb{R}^n,+)$ qui contiennent une base de $\mathbb{R}^n$. Par exemple, le sous-groupe $\mathbb{Z}^n$. On en trouve des plus compliqués comme le fameux réseau hexagonal en dimension $2$. Tous ces réseaux sont arithmétiques dans le sens où il existe une base adaptée dans laquelle les éléments du réseau sont les éléments à coordonnées dans $\mathbb{Z}$. Cela se généralise à d’autres groupes continus et suivant les mots de G. Mostow, on peut penser aux réseaux comme l’échafaudage autour de l’immeuble constitué par le groupe continu. Toute la difficulté est de retrouver le continu à partir du discret.

Le réseau carré de $\mathbb{R}^2$ qui correspond aux points à coordonnées entières.

Le réseau hexagonal de $\mathbb{R}^2$ qui correspond aux points à coordonnées entières dans la base $(\overrightarrow{OA}, \overrightarrow{OB})$.

L’annonce de cette étape clé se fait dans une revue spécialisée russe (et donc en russe). La nouvelle est accueillie avec surprise (et peut-être scepticisme) par les spécialistes qui n’arrivent pas à démontrer le résultat. Quand une preuve est finalement publiée, c’est une grande surprise de découvrir que les techniques ne sont pas trop sophistiquées, mais surtout qu’elles sont très inventives. Un point surprenant est l’utilisation des groupes algébriques sur le corps des réels $\mathbb{R}$ tout comme sur le corps des nombres $p$-adiques.

En 1974, Margulis est invité à donner un exposé plénier au Congrès international des mathématiciens à Vancouver. Les autorités soviétiques ne l’autorisent pas à s’y rendre (en autres parce qu’il était juif) et alors qu’il était attendu que Margulis détaille la preuve de l’étape clé ci-dessus, non encore totalement publiée, il envoie une annonce détaillée de résultat concernant une autre partie de la conjecture. Personne ne s’attendait à des résultats dans cette autre partie qui semblait inattaquable avec les outils de l’époque.

Une idée essentielle dans la preuve du résultat d’arithméticité est un fameux résultat couramment appelé théorème de superrigidité maintenant. Ce nom, un peu étonnant, est dû à George Mostow qui avait déjà montré un résultat dit de rigidité forte. Le résultat de Margulis étant beaucoup plus fort, Mostow lui a donné ce nom de superrigidité. La preuve fait appel à de la théorie ergodique, de la théorie des représentations, de la géométrie algébrique et la structure des groupes algébriques. Une version de la preuve utilise les frontières de Furstenberg et le principal théorème de Furstenberg à leur sujet.

En 1978, pour le Congrès international des mathématiciens, Margulis doit recevoir la médaille Fields et de nouveau, les autorités russes l’en empêchent. C’est Jacques Tits qui présente les travaux de Margulis. L’exposé des travaux de Margulis laisse transparaître l’admiration de Jacques Tits pour ce mathématicien qu’il n’a jamais rencontré et dont il déplore l’absence alors que le congrès a lieu à l’endroit même où les accords d’Helsinki (marquant la détente entre l’Est et l’Ouest) ont été signés en 1975.

Les preuves seront finalement rassemblées, bien plus tard, dans le livre Discrete subgroups of semisimple Lie groups qui est un monument et est forcément d’étude difficile parce qu’il demande au lecteur des connaissances poussées dans des branches bien différentes des mathématiques.

Discrete Subgroups of Semisimple Lie Groups (1991), où se trouve la démonstration complète de la conjecture de Selberg et Piatetski-Shapiro.

À partir de 1979, Margulis est autorisé à voyager en Europe de l’Ouest puis en 1991, il devient professeur à l’Université de Yale où il est resté jusqu’à ce jour.

Une autre pièce majeure de l’oeuvre de Margulis est la résolution de la conjecture d’Oppenheim. Il s’agit d’une conjecture énoncée en 1929 et qui est restée ouverte jusqu’en 1987, date de la preuve de Margulis. Elle concerne les formes quadratiques et les points à coordonnées entières. Une forme quadratique $Q$ de degré $2$ comme $Q_1(x)=x_1^2+\dots+x_p^2-x_{p+1}^2-\dots-x_{p+q}^2$ sur $\mathbb{R}^{p+q}$ ou encore $Q_2(x)=\sqrt{2}x_1x_2+\pi x_3^2$ sur $\mathbb{R}^3$. On s’intéresse à trouver des points à coordonnées entières $x=(x_1,\dots,x_n)\neq0$ qui annulent la forme quadratique $Q$, c’est-à-dire $Q(x)=0$. Pour la forme quadratique $Q_1$, on peut trouver de tels points (par exemple celui dont les $2p$ premières coordonnées valent $1$ et les dernières sont nulles). Par contre pour la seconde, ce n’est pas possible.

Un théorème d’Arnold Meyer affirme que si $Q$ est une forme quadratique à coefficients rationnels alors on peut trouver de tels points. Un exemple est donné par les triangles rectangles à côtés $a,b,c$ de longueurs entières (comme le célèbre triangle de côtés $3,4$ et $5$, mais il n’est pas le seul !). En effet dans ce cas, le théorème de Pythagore affirme que les côtés annulent la forme quadratique $a^2+b^2-c^2$.

La conjecture d’Oppenheim dit alors que si $Q$ est une forme quadratique quelconque (mais pas le carré d’une norme ou son opposé), on ne peut pas nécessairement trouver des solutions à coefficients entiers, mais on peut toujours trouver des points $x\neq0$ à coordonnées entières tels que $Q(x)$ soit aussi proche de zéro que désiré. On parle d’approximation diophantienne des solutions. De manière un peu surprenante au premier abord, la preuve de Margulis utilise les mêmes outils (réseaux, groupes de Lie semi-simple, théorie ergodique et dynamique topologique) que le résultat d’arithméticité précédent.

Terminons avec un dernier résultat qui porte le nom de Margulis, il s’agit du lemme de Margulis comme l’a appelé Gromov. Cette fois, il ne s’agit plus de théorie ergodique, mais de géométrie. Au lieu de l’énoncer, donnons une application. Une variété hyperbolique est un espace géométrique où les triangles géodésiques (les côtés sont les plus courts chemins entre les sommets) sont plus fins que les triangles euclidiens. C’est ce qui se passe, par exemple, si on choisit trois points sur la selle d’un cheval et que l’on tend des élastiques entre ces trois points.

Un morceau de surface hyperbolique avec un triangle géodésique par dessus.

Un corollaire important du lemme de Margulis est la décomposition en partie fine et épaisse d’une variété hyperbolique. Sur le dessin ci-dessous, la partie fine est en bleue alors que la partie épaisse est en rose. Le lemme de Margulis permet d’affirmer que la partie fine est composée de deux types d’objets, des tubes ou des pointes qui sont bien compris. Pour la partie épaisse, on sait au moins que chacune de ses composantes a un volume plus grand qu’une certaine borne fixe.

La décomposition en parties épaisse et fine d’une surface hyperbolique.

Pour en savoir plus

On trouvera ci-dessous quelques références qui ont été utilisées pour ce texte et qui permettront à la lectrice et au lecteur intéressé d’en savoir plus.

• Biographie de Hillel Furstenberg sur Mathshistory.
• Biographie de Grigori Margulis sur Mathshistory.
• Présentation des travaux de Margulis par Jacques Tits au Congrès international des mathématiciens en 1978.
• Page internet du prix Abel 2020 avec les entretiens avec les lauréats des biographies de chacun d’eux.
• Présentation de Margulis par Mostow dans Science en 1978 (abonnement nécessaire).
• Résumé quasi exhaustif des travaux de Margulis par Lizhen Ji en 2008.
• Values of indefinite quadratic forms at integral points and flows on spaces of lattices, Armand Borel. Bulletin of the American Mathematical Society, Volume 32, Number 2, April 1995.
• Une prépublication récente de David Fisher sur la superigidité de Margulis et des travaux liés.