Comme amateur d’images mathématiques, j’ai fait la connaissance d’ensembles limites de groupes kleinéens en lisant le livre Indra’s Pearls, the vision of Felix Klein, par Mumford, Series et Wright.

Ce livre est abordable par tous ceux qui ont un niveau mathématique relativement élémentaire. Il faut comprendre les nombres complexes, mais le livre contient même un petit chapitre sur ce sujet.

On y explique comment deux transformations de Moebius peuvent engendrer de belles figures, comme celles ci-dessous. Ces figures sont en deux dimensions : elles sont dessinées dans le plan complexe, et on peut en trouver beaucoup d’exemples sur internet. [1] Les exemples d’images d’ensembles limites en trois dimensions sont beaucoup plus rares, même si Henri Poincaré en parlait déjà en 1883 [2]. Dans cet article nous allons explorer ces ensembles limites en trois dimensions.

Les groupes en deux dimensions

Pour le cas de deux dimensions, en (très) bref, il s’agit de choisir deux transformations de Moebius.
\[f(z)=\frac{a_1z+a_2}{a_3z+a_4} ,\quad g(z)=\frac{b_1z+b_2}{b_3z+b_4}\]
où $z=x+iy$ et les $a_i$ et $b_i$ sont des nombres complexes, et où le déterminant égale $1$, c’est-à-dire $a_1a_4-a_2a_3=1$ et $b_1b_4-b_2b_3=1$ .

Il est utile d’exprimer les transformations en termes de matrices :
\[a=\left(\begin{matrix} a_1 & a_2 \\ a_3 & a_4 \\ \end{matrix}\right) , b=\left(\begin{matrix} b_1 & b_2 \\ b_3 & b_4 \\ \end{matrix}\right).\]
Pour la transformation $z'=f(g(z))$ on peut faire la multiplication des matrices $ab$ et prendre la matrice qui en résulte pour calculer $z'$.

Les transformations inverses sont :
\[A=a^{-1}=\left(\begin{matrix} a_4 & -a_2 \\ -* a_3 & a_1 \\ \end{matrix}\right) , B=b^{-1}=\left(\begin{matrix} b_4 & -b_2 \\ -* b_3 & b_1 \\ \end{matrix}\right)\] et on forme des mots avec les lettres $a$, $b$, $A$ et $B$.

Avec ces mots, donc des multiplications des matrices, on transforme un point et on dessine le point qui en résulte en employant autant de mots différents que possible. Cela produit l’ensemble limite des deux transformations $a$ et $b$, qu’on appelle les générateurs : l’action des générateurs est d’attirer les points générés par l’action des quatre transformations vers une forme géométrique qui est souvent remarquable.

Prenons un exemple :

\[a=\left(\begin{matrix} t & -i \\ -* i & 0 \\ \end{matrix}\right) , b=\left(\begin{matrix} 1 & 2 \\ 0 & 1 \\ \end{matrix}\right).\]

Ce sont donc les deux transformations génératrices, où $a$ est la combination d’une inversion et d’une translation, et $b$ est une translation pure. L’ensemble limite, pour $t=2$, en dessous, montre clairement l’action de $b$ (et de $B$, l’inverse) comme translation selon l’axe $x$ : la figure se répète avec période $2$. L’ensemble est localisé entre deux droites horizontales : l’une a comme équation $y=0$ et l’autre $y=2$. Ces deux droites font partie de l’ensemble limite !

On peut écrire $a$ comme
\[a=f(z)=\frac{2z-i}{-iz}=2i+\frac{1}{z},\]
ce qui représente une inversion [3] par rapport au cercle d’unité, combiné avec une translation $2i$.

Le terme $\frac{1}{z}$ transforme la droite $y=2$ en un cercle dont le centre est $(0,-0.25)$ et de rayon $0,25$. La translation de $2i$ envoie ce centre sur $(0,1.75)$, et c’est donc un cercle qui est tangent à la droite horizontale $y=2$.

On remarque qu’on trouve dans l’ensemble une infinité de cercles tangents. On peut en effet dessiner l’ensemble limite en transformant le cercle que nous venons de trouver par tous les mots possibles en $a,b,A$ et $B$. Tous ces mots sont des multiplications de transformations de Moebius, donc leur produit en est une aussi. Ces transformations préservent les cercles.

La figure circulaire du début de l’article peut être engendrée en prenant une inversion par rapport à un cercle, comme on a fait ci-dessous avec une autre valeur complexe, non réelle, de t [4]. Le cercle jaune est le cercle d’inversion.

Les groupes en trois dimensions

Pour passer en trois dimensions, le plus simple c’est d’ajouter un troisième générateur $c$ qui effectue une translation permettant de sortir du plan des ensembles 2D. [5] [6] Cela pose évidemment un problème, car nos transformations $a$ et $b$ s’exercent dans le plan complexe, et n’utilisent que les nombres complexes. On veut maintenant qu’elles coexistent avec une transformation qui fait sortir du plan complexe.

La solution est de passer aux quaternions. Les quaternions sont des nombres à quatre dimensions : une de trop !

On exprime un quaternion comme ceci :
\[q=x+iy+jz+kw\]
avec $i^2=-1$, $j^2=-1$, $k^2=-1$, $ij=k$, $jk=i$, $ki=j$, $ijk=-1$.

Ce qu’on va faire, c’est exprimer un point $P(x,y,z)$ comme un quaternion dont la quatrième composante est nulle :
\[P=x+iy+jz+k.0\]

Les trois générateurs sont :
\[a=\left(\begin{matrix} t & -i \\ -* i & 0 \\ \end{matrix}\right) , b=\left(\begin{matrix} 1 & 2 \\ 0 & 1 \\ \end{matrix}\right), c=\left(\begin{matrix} 1 & 2j \\ 0 & 1 \\ \end{matrix}\right).\]
La transformation $c$ est donc une translation parallèle à l’axe $z$.

Il faut alors choisir pour le paramètre $t$ un nombre qui n’a pas de composante en $j$ ! \[t=t_x+it_y+j0+kt_w.\]
L’action de $a$ sur le plan horizontal à $y=it_x$ est de transformer ce plan en une sphère qui est tangente à ce plan. La transformation $A=a^{-1}$ transforme le plan $y=0$ en une sphère qui est tangente à ce plan. Pour construire l’ensemble limite, on va transformer l’une de ces sphères par des transformations qui sont cette fois des multiplications des matrices $a, b, c, A, B$ et $C$. Dans toutes ces multiplications, il faut évidemment suivre les règles de multiplication des quaternions !

Bien qu’on travaille avec des nombres qui ont des composantes en quatre dimensions, le calcul des transformations des sphères ne mène nulle part à des incohérences, comme une sphère dont le centre aurait une composante non nulle en $k$ !

Il y aura un nombre infini de sphères dans l’ensemble limite, et on pourrait donc mettre en marche un programme sur l’ordinateur qui ne finit jamais. On est toutefois aidé par le fait que $b$ et $c$ sont des translations qui vont mettre des copies dans le plan de ce qui se trouve près de l’origine. Nous pouvons donc nous concentrer sur ce qui se passe près de l’origine, et à la fin mettre des copies dans le plan avec les transformations $b$ et $c$.

Pour n’obtenir que des sphères de l’ensemble limite près de l’origine, il suffit de ne construire que des mots qui n’ont ni $b$, ni $c$ comme dernière lettre, par exemple le mot $A^{p}b^{n}c^{m}$ (qu’il faut lire de droite à gauche).

Par ailleurs, les sphères transformées deviennent de plus en plus petites, et on peut arrêter les calculs lorsque le rayon d’une nouvelle sphère devient si petit que la sphère serait invisible sur l’écran, donc plus petite que la taille d’un pixel.

Même avec ces limitations, il faut faire attention, car les calculs deviennent rapidement colossaux. Supposons que l’on cherche toutes les sphères données par le mot
\[A^{p}b^{n}c^{n}A^{p}b^{n}c^{n}A^{p}b^{n}c^{n}A^{p}b^{n}c^{n},\]
avec $p$ entre $1$ et $10$ et $n$ entre $0$ et $3$. Cela donne en principe plus de 600 millions de sphères ! Pour s’assurer que ce qu’on obtient est symétrique on doit alors aussi calculer
\[A^{p}B^{n}C^{n}A^{p}B^{n}C^{n}A^{p}B^{n}C^{n}A^{p}B^{n}C^{n} !\]

Il y aura aussi des duplications qui sont assez faciles d’éviter ( $b^{m}c^{n}$ donne la même chose que $b^{n}c^{m}$ ! ). Une dernière chose simplifie les calculs, c’est qu’il y a une symétrie entre la famille de sphères en haut et en bas, et il suffit donc de calculer l’un des deux avec les mots des transformations, et d’en tirer l’autre famille par symétrie.

Après toutes ces précautions, voici ce qu’on obtient pour $t=1.95+i0.05$ :

On peut alors simuler l’action de $b$ et $c$ en mettant des copies :

...mais quelques copies ne sont pas assez car l’ensemble limite couvre tout le plan à l’infini :

Il est clair que des images d’un plan rempli avec de tels objets ne sont pas trop intéressantes à explorer plus à fond. On obtient de bien plus beaux résultats en appliquant une inversion par rapport à une sphère à toutes les sphères de l’ensemble.

Cela engendre encore quelques problèmes techniques dans la programmation, car des sphères qu’on éliminerait normalement après les transformations par certains mots (sphères trop petites) peuvent devenir des sphères qu’on veut préserver, car elles deviennent plus grandes à cause de l’inversion.

Il s’agit alors de bien choisir le centre et le rayon de la sphère d’inversion pour obtenir les objets ci-dessous. (Pour certains la translation dans le plan est de $\sqrt{2}$ au lieu de $2$.)

D’abord avec $t=2$, L’équivalent 2D est ci-contre :

Avec la même valeur de $t$ que dans l’exemple 2D, avec une sphère d’inversion de rayon 1 placée à $(0,-1)$ :

Voici quelques autres exemples :

Pour une plus grande collection d’images, on peut visiter le site de l’auteur.

Pour une autre vue sur des ensembles limites, on peut consulter cet article.