Sur une bouée à plusieurs anses, on peut jouer à tracer des courbes qui
se referment sur elles-mêmes sans se recouper. Par exemple, la surface
de l’eau où flotte la bouée trace une telle courbe (ou plusieurs). Mais il en existe de
bien plus compliquées, qui semblent par exemple s’embobiner à l’infini
autour des anses... Combien peut-on en trouver au juste, et peut-on les
comparer en un sens raisonnable ? On aimerait par exemple pouvoir dire
que deux courbes sont voisines si elles s’embobinent « à peu près autant,
à peu près aux mêmes endroits »...

Il serait bon de dire ce que nous entendons par courbe et surface. Nous
fixons la surface, c’est-à-dire que nous choisissons une fois pour
toutes le nombre de places dans la bouée [1]. Nous considérons une courbe
tracée sur la surface, qui ne se recoupe jamais (on dit que la courbe
est « simple » : ainsi la courbe noire de la figure 1 est exclue), mais qui finit par revenir à son point de départ (on dit
qu’elle est « fermée »). Qui plus est, lorsqu’on déforme la courbe sans jamais
l’obliger à se couper, nous considérerons qu’il s’agit toujours de la
« même » courbe. Par exemple les courbes qui découpent un disque dans la surface (comme la courbe bleue de la figure 1) sont toutes la même à déformation près, et c’est d’ailleurs la seule courbe qu’on puisse rendre arbitrairement courte en déformant juste la courbe et pas la surface [2]. Il n’y a donc pas de mal à l’ignorer dans la suite : seules compteront les courbes, bien plus nombreuses, qui ne découpent pas un disque dans la surface.

Même avec cette façon d’ignorer les déformations, il existe beaucoup de
courbes différentes. Par exemple, si deux courbes font le tour de deux
anses différentes, aucune n’est une déformation de l’autre (ce n’est pas
tout à fait évident !). Ou encore, dans la figure 1, la courbe verte partage la bouée en
deux moitiés et la courbe rouge non : on peut être assuré qu’aucune déformation
n’amène la verte sur la rouge. Le nombre de places (1 et 2) dans chaque moitié de
bouée que la courbe verte découpe, lui aussi ne change pas par
déformation.

A-t-on fait le tour des possibilités ? Non, loin de là. Il est facile de
construire des courbes (simples, fermées) effroyablement longues et
compliquées. Par exemple, donnez-vous une courbe $A$ qui en rencontre
une autre, $B$. Considérez la courbe $C$ qui suit le parcours de $A$
mais, à chaque fois qu’elle rencontre $B$, tourne vers la droite pour se
mettre à suivre un tour complet le long de $B$ avant de reprendre
tranquillement sa route. Il n’est pas trop difficile de se convaincre
que $C$ est encore une courbe simple (même si $B$ rencontre $A$ plusieurs fois). Sur la figure 2 on a dessiné (et pas du premier coup...) une courbe $C$ de longueur déjà respectable.

On peut répéter cette opération
de nombreuses fois, en variant $B$, et les nouvelles courbes auront
beaucoup de points d’intersection avec les plus anciennes, de sorte
qu’à chaque nouvelle étape leur longueur croît encore plus vite... On
se convainc ainsi qu’il y a une infinité de courbes simples [3].

Le graphe des courbes

Les mathématiciens ont alors envie de dire que deux courbes sont proches
ou « voisines » si elles ne se rencontrent pas. À première vue cela peut
sembler étrange : si deux objets ne se rencontrent pas, c’est justement
qu’ils ne sont pas proches ! Pourtant, supposez que l’une des deux
courbes s’embobine de façon frénétique autour de toutes les anses de la
surface, au point de ne laisser presque aucune place libre : pour ne pas
la rencontrer, la seconde courbe sera obligée de suivre peu ou prou les
mêmes spires, de sorte que leur aspect (visuel si l’on peut dire) sera
très voisin.

En ce sens, une courbe a-t-elle beaucoup de voisines ? Des tas ! Comme
l’ensemble des voisines d’une courbe $A$, c’est l’ensemble de toutes les
courbes de la surface obtenue en découpant $A$ (et qui est encore une bouée,
avec un certain nombre de places et un bord), il y a une infinité [4] de
voisines de $A$. Notez d’ailleurs que si $A$ est assez courte, deux
voisines très longues (disjointes de $A$ donc) n’ont aucune raison de se
ressembler en un sens visuel naïf : voir par exemple la figure 3. Ainsi de voisine en voisine on peut
se déplacer très vite dans l’ensemble des courbes, et se rendre en particulier de n’importe quelle courbe à n’importe quelle autre [5].

Si vite que cela ? Eh bien, voici un théorème :

Ce résultat peut surprendre, car il est remarquablement difficile de
dessiner à la main deux courbes à distance, mettons, 4 ou 5 l’une de
l’autre. De surcroît, la difficulté augmente diaboliquement avec le
nombre de places de la bouée. Pourtant c’est ainsi : même sur une bouée
à 100 places, il existe des courbes à distance 1000. Elles sont juste
très, très longues.

À partir des années 80 et 90, les mathématiciens ont commencé pourtant à
mieux comprendre abstraitement cet ensemble de toutes les courbes,
qu’avec leur tic de langage favori ils appellent « espace » ou « complexe »
ou encore « graphe » des courbes.

Un résultat clé, dû à Masur et Minsky, est que

Le terme « hyperbolique » est à rapprocher de la géométrie non euclidienne : pour $A, B, C, O$ des points du plan ordinaire, la propriété qu’on vient d’énoncer est fausse (par exemple si le triangle $ABC$ est très grand) ; mais elle devient vraie dans le plan hyperbolique, un objet étudié depuis le XIXe siècle et qui nous réserve encore des surprises.

Cette propriété d’hyperbolicité (définie sous cette forme par Gromov), les
mathématiciens en raffolent. Une importante raison est qu’elle permet de
définir un bord à l’infini [7] et donc de dire, en général, « dans quelle
direction s’échappe » et même « vers quoi converge » une suite de courbes
de plus en plus compliquées.

Vers quoi converge une suite de courbes ?

Pour donner une idée de ce bord à l’infini, nous allons introduire une
manière de coder les courbes par des nombres entiers. Ces nombres
pourront être très grands (après tout il y a une infinité de courbes),
mais pour chaque courbe ils formeront une liste dont la longueur est
toujours la même et ne dépend, encore une fois, que du nombre de places dans la
bouée.

L’idée de base, comme une très grande partie de ce qui est présenté dans cet article, est due à Bill Thurston (1946—2012), mathématicien américain à l’extraordinaire intuition visuelle. Le monde n’a plus vraiment le même aspect après avoir été regardé par un Michel-Ange ou un Picasso : avec Thurston, c’est un peu la même chose dans le monde mathématique. Ses images mentales ont peut-être apporté plus encore à la discipline que ses théorèmes.

Le point de départ est de regarder une très longue courbe, comme la courbe
$C$ de la figure 2. En la plupart des endroits de la surface, $C$
ressemble juste à une famille de brins qui voyagent parallèlement les
uns aux autres. En fait, quitte à déformer $C$ un peu, on peut la faire
ressembler aux voies d’un réseau autoroutier [8] : ces voies voyagent par
familles parallèles, sauf en un nombre fini d’endroits, appelés
« embranchements », où une bretelle d’autoroute à $n$ voies se subdivise en deux
bretelles à $n'$ et $n''$ voies (ou bien, où deux bretelles à $n'$ et
$n''$ voies fusionnent pour donner une bretelle à $n$ voies), avec
$n'+n''=n$.

Le point important est qu’on peut limiter le nombre de bretelles et
d’embranchements à un nombre, toujours le même, ne dépendant que du
nombre de places de la bouée. Mieux encore, en variant la position des
embranchements et la manière dont ils sont raccordés, un nombre fini de
réseaux autoroutiers (mettons 10 pour fixer les idées) suffit pour
réaliser toutes les courbes simples fermées, juste en variant le nombre
de voies des différentes bretelles. Ainsi, une courbe, c’est juste le
choix d’un des 10 réseaux autoroutiers, suivi de la liste des nombres de
voies.

Les nombres de voies sont donc des nombres entiers, parfois très grands,
auxquels on demande juste de satisfaire des relations du type $n=n'+n''$
ci-dessus.

Pourquoi donc s’arrêter en si bon chemin ? On pourrait autoriser le
nombre de voies à être n’importe quel nombre réel (et non pas entier),
mesurant en quelque sorte la largeur de l’autoroute.

Aparté : les réseaux autoroutiers forment une sphère

Notez qu’il existe des courbes qui sont portées par deux réseaux autoroutiers
distincts : par exemple, on peut échanger les positions de certains
embranchements (figure ci-dessous) sans changer de façon cruciale les courbes
supportées.

Ce problème a plus à voir avec la « technologie » autoroutière qu’avec le
fond de la question ; disons donc simplement que parmi l’ensemble
des systèmes de largeurs $r,r',...$ obtenus pour tous les réseaux
autoroutiers, il y a certaines identifications naturelles, ou
« recollements », à faire. On identifie aussi le système $r, r', r''...$ à
$ar, ar', ar'',...$ pour tout $a>0$.

Voici un théorème central de cette théorie :

Vous ne me croyez pas ? Il est vrai qu’on a du mal à voir une sphère à 5
dimensions... Mais il s’agit d’objets familiers qui ont le mérite de
ramener les mathématiciens en terrain connu [9].

Pour aider un peu la visualisation, je recommande très fortement les
vidéos suivantes :

De loin

D’un peu plus près

Elles montrent une situation où la « bouée » est en fait une sphère percée de cinq
trous ; une formule analogue (en présence de trous) à celle du théorème dit qu’alors on obtient
une sphère de dimension $3$... qu’on peut encore espérer visualiser.

Convaincus maintenant ?

Fin de l’aparté

Revenons à nos autoroutes.
Une telle liste de nombre réels $r,r',r''...$ (au lieu d’entiers
$n,n',n'',...$), décrivant des largeurs d’autoroutes, a-t-elle encore
quelque chose à voir avec les courbes simples fermées ?

Eh bien, oui ! En général, à une suite de courbes s’échappant dans le
graphe des courbes, on peut associer une « limite » sous la forme d’une
suite de nombres réels $r,r',...$, vus comme des largeurs d’autoroute,
et ayant pour somme $1$ (ce nombre $1$ est arbitraire : il correpond au
fait qu’on peut doubler les $r,r',..$ tout comme les $n, n'...$ sans
changer sérieusement la courbe ou « limite de courbes » définie).

Quelles sont les limites possibles ?

Peut-on être plus précis quant aux listes de réels $r,r',...$ obtenues ?
Par exemple, quand donc une telle liste correspond-elle à un point du
bord à l’infini du graphe des courbes ? Et peut-on obtenir le même
point de plusieurs façons différentes ? (Bien sûr, pour répondre dans un
cas précis il faudrait connaître $r,r',...$ avec une précision infinie ;
mais existe-t-il une caractérisation en principe ?)

• (1) Pour que les largeurs $r,r'...$ définissent un point « à l’infini »,
  il faut que le réseau autoroutier support remplisse la surface au sens
  où il ne reste aucune place pour une courbe simple fermée $A$ ne
  rencontrant pas le réseau (n’importe quelle courbe restant près du réseau
  serait voisine de $A$, et donc ne s’échapperait sûrement pas vers
  l’infini !). Pour la même raison, on ne peut pas autoriser trop de nombres
  réels $r,r',...$ à s’annuler simultanément.
• (2) Plus subtilement, les largeurs d’autoroute $r,r'...$ permettent de
  suivre le chemin d’un point de l’autoroute, voyageant par exemple à une
  distance donnée $d$ du bord d’une première bretelle d’autoroute : le
  point emprunte les embranchements selon le choix forcé par ce $d$, "sans
  jamais changer de voie". On dit que $d$ et $r,r',...$ déterminent le
  chemin. Il faut demander que pour tout point de départ, le chemin suivi
  ne se referme jamais, et finisse par visiter toutes les bretelles, ce
  qui correspond à une certaine propriété d’irrationalité des largeurs
  $r,r',...$
• (3) Mais voici le point le plus étrange : il existe des largeurs
  $r,r',r''...$ pour les différentes bretelles d’autoroutes, et d’autres
  largeurs $R,R',R'',...$ (pas proportionnelles aux premières) telles que
  les chemins suivis selon $r,r',...$ et selon $R,R',R'',...$ soient
  exactement les mêmes. Plus exactement, chaque fois que $d$ et
  $r,r',...$ déterminent un chemin donné dans le premier système, il
  existe $D=f(d)$ tel que $D$ et $R,R',...$ déterminent le même chemin
  dans le second système. La fonction $f$ est en général continue, mais
  biscornue : elle varie tantôt très vite et tantôt très lentement, même à
  l’intérieur d’un tout petit intervalle.

Ce dernier point est plutôt surprenant et les mathématiciens ont mis
quelque temps à le dégager. Il ne concerne en un sens que de très rares valeurs de $r,r',r''...$, pour lesquelles les chemins « manquent de très peu » de se refermer, un peu comme le nombre \[ \frac{1}{10^{1}}+\frac{1}{10^{1\times 2}}+\frac{1}{10^{1\times 2 \times 3}} + \frac{1}{10^{1\times 2 \times 3 \times 4}} + \dots = 0,110001~000000~000000~000001~000000...\]
« manque de très peu » d’être décimal (ou rationnel).
Toujours est-il que
$r,r',r''...$ et $R,R',R'',...$ définissent alors le même point à l’infini
du graphe des courbes, de même que toute combinaison de la forme $(ar+AR, ar'+AR', ar''+AR'',...)~$ avec $a$ et $A$ positifs.

Moralité :

À l’infini du graphe des courbes, qui est hyperbolique, on trouve une sphère de
dimension $6g-7$ (comme dans le théorème 3), à laquelle on a ôté
certains points « pas (assez) irrationnels » (comme dans (2)), avant d’en écraser certains
autres ensemble (« trop près des rationnels » comme $r,r',...$ et $R,R',...$ dans (3)).

À quoi ça sert ?

Dans les travaux de Brock, Canary et Minsky, le graphe des courbes et
son comportement à l’infini jouent un rôle crucial pour comprendre les
dégénérescences de groupes kleinéens. Disons-en un mot ici :

Un « groupe kleinéen », c’est la donnée de plusieurs transformations du plan
complexe, de la forme

\[ T(z) = \frac{az+b}{cz+d}\]

avec $a,b,c,d$ complexes. Donnons-nous plusieurs transformations $T_1, T_2, \dots, T_k$ de cette forme, et appliquons-les à un point base (par
exemple $0$) du plan complexe. Par exemple, au $n$-ème instant on tire
au sort une transformation $T_i$ parmi $T_1,\dots , T_k$ et on applique soit $T_i$,
soit la transformation réciproque $T_i^{-1}(z)= \frac{dz-b}{-cz+a}$
(vérifiez que $T_i^{-1}(T_i(z))=z$...).

Pour certains choix de $T_1, \dots, T_k$, le résultat sera qu’au fil du
temps, $z$ vient s’accumuler sur un ensemble fractal, souvent très joli, appelé ensemble limite. Ce sont les « bons » cas. Dans les mauvais cas, $z$ visite le plan tout entier
dans le plus grand désordre.

Lorsqu’on change $T_1, \dots, T_k$ tout en restant dans les « bons » cas, cet ensemble limite fractal se déforme. Mais que se passe-t-il lorsqu’on approche la frontière entre les bons et les mauvais cas ? Eh
bien, l’ensemble limite devient de plus en plus biscornu et s’effondre
sur lui-même de façon vertigineuse tout en remplissant une « portion » de
plus en plus grande du plan.

Une image est peut-être un peu plus parlante :

un ensemble limite...

... qu’on déforme...

... devient de plus en plus rugueux...

... et une fraction de seconde avant l’effondrement final :

Impressionnant, non ? [10]

Le travail de Brock, Canary et Minsky a consisté en un sens à comprendre exactement de quelles manières possibles cet effondrement peut avoir lieu, et à
quoi ressemble l’ensemble limite au moment de la transition.

Le lien avec les courbes sur une surface est celui-ci : on peut trouver dans le plan complexe une région $R$ disjointe de l’ensemble limite [11], bordée par exemple par des polygones et des arcs de cercle (éventuellement avec plusieurs morceaux ou des trous), et dont les transformations $T_i$ recollent les côtés l’un sur l’autre, de sorte qu’après recollement la région $R$ devienne une bouée à un certain nombre de places.

À une courbe simple fermée tracée sur cette bouée, on peut associer une longueur dépendant des $T_i$. Eh bien, l’effondrement dont nous parlons, correspond au fait que certaines de ces courbes voient leur longueur diminuer. Cela peut arriver même à des courbes très compliquées (situées très loin dans le graphe des courbes [12]), et c’est pourquoi la géométrie de ce graphe gouverne les types d’effondrement possibles.

Finissons par quelques belles images d’ensembles limite :