5. Groupes ornementaux et cristallographiques

Notons $Is(2)$ le groupe des isométries du plan euclidien. Ses éléments ont été énumérés au chapitre 1 : rotations, translations, symétries et symétries glissantes.

Un groupe ornemental est un sous-groupe de $Is(2)$ qui est « discret » au sens où il ne contient ni translation d’amplitude arbitrairement petite ni rotation d’angle arbitrairement petit. (La seconde condition résulte de la première lorsque le groupe contient des translations.) Les groupes ornementaux se répartissent en trois familles :

• les groupes finis,
• les groupes de frises, qui sont infinis et laissent invariante une droite du plan,
• les groupes cristallographiques plans, aussi appelés groupes des paveurs, qui contiennent deux translations linéairement indépendantes.

Plaçons-nous un moment dans le cas plus général d’une dimension $n \ge 1$ (les cas importants ci-dessous sont $n=2$ et $n=3$). Notons $\mathbf E^n$ l’espace euclidien de dimension $n$ (ainsi $\mathbf E$ du chapitre 1 devient $\mathbf E^2$ ici), et notons $Is(n)$ son groupe d’isométries. Les translations de $\mathbf E^n$ constituent un sous-groupe normal de $Is(n)$, isomorphe au groupe additif de l’espace vectoriel $\mathbf R^n$, et le quotient est isomorphe au groupe orthogonal $O(n)$, ou groupe des isométries d’une sphère ronde dans $\mathbf R^n$ (à distinguer du groupe orthogonal spécial $SO(n)$, sous-groupe de $O(n)$ des isométries préservant l’orientation). Il en résulte une suite exacte $$ \require{AMSmath} 0 \quad \longrightarrow \quad \mathbf R^n \quad \longrightarrow \quad Is(n) \quad \stackrel{\pi}{\longrightarrow} \quad O(n) \quad\longrightarrow \quad 1 .$$

Cette suite est scindable ; plus précisément, à tout choix d’une origine dans $\mathbf E^n$ correspond une décomposition de $Is(n)$ en produit semi-direct de $\mathbf R^n$ par $O(n)$.

Soit $\Gamma$ un sous-groupe de $Is(n)$ ; l’usage de la lettre grecque $\Gamma$ indique que les groupes qui vont nous intéresser sont des sous-groupes « discrets » de $Is(n)$. A un tel sous-groupe $\Gamma$, on peut associer :

• son groupe des translations $\Lambda_{\Gamma}$ ;

• son groupe ponctuel $H_{\Gamma} \doteq\pi(\Gamma)$ et son groupe ponctuel spécial $H_{\Gamma}^0 \doteq H_{\Gamma} \cap SO(n)$ ;

• l’action naturelle  [1] $(h,t) \longmapsto h(t)$ de $H_{\Gamma}$ sur $\Lambda_{\Gamma}$ ;

et encore quelque chose pour caractériser l’extension

$$ 0 \quad \longrightarrow \quad \mathbf \Lambda_{\Gamma} \quad \longrightarrow \quad \Gamma \quad \stackrel{\pi}{\longrightarrow} \quad H_{\Gamma} \quad \longrightarrow \quad 1 \ \ ; $$

ce peut être une classe dans un groupe $H^2(H_\Gamma, \cdots)$, qui est un groupe de cohomologie (et un groupe fini lorsque $H_\Gamma$ est fini), ou de manière plus élémentaire et comme dans [Schw-74] (où on suppose a priori $n=2$ et $H_{\Gamma}$ fini),

• les éléments de la forme $x + h(x) + h^2(x) + \cdots + h^{q-1}(x)$, avec $x \in \mathbf R^2$ et $h \in H_{\Gamma}$ d’ordre $q$, éléments qui sont les invariants cycliques de $\Gamma$.

Attention : la suite (2) n’est pas nécessairement scindée ! Par exemple, si $\Gamma$ est le sous-groupe cyclique de $Is(2)$ engendré par la symétrie glissante

$ \left( \begin{matrix} x \\ y \end{matrix} \right) \longmapsto \left( \begin{matrix} x+1 \\ -* y \end{matrix} \right) $,

alors la suite (2) est isomorphe à

$$ 0 \quad \longrightarrow \quad \mathbf Z \quad \stackrel{\times2}{\longrightarrow} \quad \mathbf Z \quad \stackrel{mod 2}{\longrightarrow} \quad \mathbf Z / 2\mathbf Z \quad \longrightarrow \quad 1 \ \, $$

évidemment non scindée (puisque $\mathbf Z$ ne possède aucun élément d’ordre $2$).

Un groupe cristallographique au sens large est un sous-groupe $\Gamma$ de $Is(n)$ dont le groupe des translations $\Lambda_{\Gamma}$ est un réseau, c’est-à-dire un sous-groupe de $\mathbf R^n$ engendré par une base de l’espace vectoriel $\mathbf R^n$ ; un tel sous-groupe $\Gamma$ est aussi dit cocompact, parce qu’il existe une partie compacte $K$ de $Is(n)$ telle que tout élément de $Is(n)$ soit de la forme $\gamma k$, avec $\gamma \in \Gamma$ et $k \in K$. Un groupe cristallographique au sens strict est un tel sous-groupe dans le cas de dimension $3$, c’est-à-dire un sous-groupe $\Gamma$ de $Is(3)$ dont le groupe $\Lambda_{\Gamma}$ est engendré par trois translations linéairement indépendantes.

Pour les groupes cristallographiques au sens large, il y a des théorèmes fondamentaux de Bieberbach (voir par exemple [Miln-76], [BuKa-81] et [Buse-85]) :

1. pour tout groupe discret cocompact $\Gamma$ de $Is(n)$, le groupe des translations $\Lambda_{\Gamma}$ est un réseau ;
2. le sous-groupe $\Lambda_{\Gamma}$ de $\Gamma$ est abélien maximal, d’indice fini, et le groupe ponctuel $H_{\Gamma}$ correspondant de l’extension (2) est un sous-groupe de $GL_n(\mathbf Z)$ ;
3. pour tout $n \ge 1$, il n’y a qu’un nombre fini de classes d’isomorphie de sous-groupes discrets cocompacts de $Is(n)$ ;
4. deux sous-groupes discrets cocompacts de$Is(n)$ sont isomorphes si et seulement s’ils sont conjugués dans $Aff(n)$.

Ici et plus bas, $GL_n(\mathbf Z)$ désigne le groupe des matrices à coefficients dans l’anneau $\mathbf Z$ des entiers rationnels et à déterminant $\pm 1$. Et $Aff(n)$ désigne le groupe de toutes les transformations affines inversibles de $\mathbf E^n$ ; il contient évidemment $Is(n)$ comme sous-groupe.

Les articles originaux de Bieberbach ont paru en 1910-1912 ; c’est le sujet de sa thèse, dirigée par Hilbert, et la solution de la première partie du XVIIIème problème de Hilbert [Miln-76] [2]. En 1938, Zassenhaus a montré que, réciproquement, tout groupe $\Gamma$ extension comme dans (2), avec de plus $\Lambda_{\Gamma}$ isomorphe à $\mathbf Z^n$ et $H_{\Gamma} \subset GL_n(\mathbf Z)$ agissant naturellement sur $\mathbf Z^n$, est isomorphe à un sous-groupe de $Is(n)$ qui est discret et cocompact.

6. Les sous-groupes finis de $O(2)$

Soit $\Gamma$ un sous-groupe fini de $Is(2)$. Il est évident que $\Gamma$ ne contient aucune translation, ni aucune symétrie glissante, ni aucune paire de rotations de centres distincts (car leur commutateur serait alors une translation). Ainsi, si $\Gamma$ contient des rotations, elles sont toutes de même centre ; si $\Gamma$ contient de plus des symétries, leurs axes passent par ce centre. On admet désormais que ce centre est l’origine du plan et que $\Gamma$ est un sous-groupe de $O(2)$.

Il résulte de ce qui précède que tout sous-groupe fini de $Is(2)$ est

• ou bien engendré par une rotation d’ordre $n$ fini, c’est alors un groupe cyclique $C_n$ d’ordre $n$,

• ou bien constitué de l’identité et d’une symétrie, c’est alors un groupe $D_1$ d’ordre deux (abstraitement isomorphe à $C_2$, mais non conjugué à $C_2$ dans $Is(2)$),

• ou bien engendré par deux symétries relativement à des axes définissant un angle de $\pi/n$, c’est alors un groupe diédral $D_{n}$ d’ordre $2n$ (avec $n \ge 2$).

En résumé :

Remarques.

1. C’est un résultat que Hermann Weyl attribue à Léonard de Vinci (page 66 de [Weyl-52]).
2. La conclusion du théorème vaut aussi pour les sous-groupes finis de $Is(2)$ et de $Aff(2)$.
3. Les sous-groupes finis de $O(2)$ qui sont de la forme $\pi(\Gamma)$, avec $\pi$ comme au chapitre 5 et $\Gamma$ un groupe cristallographique plan, sont les groupes du théorème de L. de Vinci avec $n \in \{1,2,3,4,6\}$. Voir plus bas.
4. Pour la classification analogue en dimension $3$ de la classification du théorème 6.1 en dimension $2$, les (classes de conjugaison des) sous-groupes de $O(3)$ satisfaisant à la restriction cristallographique constituent une liste de $32$ sous-groupes finis de $O(3)$, dont $11$ dans $SO(3)$. C’est un résultat de Hessel (de 1830, mais passé inaperçu à l’époque).

Dans cette liste, les $21 = 32 - 11$ sous-groupes finis de $O(3)$ qui ne sont pas dans $SO(3)$ sont de deux types. Notons $Z$ la symétrie centrale $x \longmapsto -x$ de $\mathbf R^3$. Les groupes du premier type sont de la forme $\Gamma^+ \times \{1,Z\}$, avec $\Gamma^+ \subset SO(3)$. Les groupes du second type sont de la forme $\Gamma^+ \cup \{\gamma Z \ \vert \ \gamma \in \Gamma' , \gamma \notin \Gamma^+ \}$, avec $\Gamma^+ \subset \Gamma' \subset SO(3)$, et $\Gamma^+$ sous-groupe d’indice deux dans le sous-groupe $\Gamma'$ de $SO(3)$.

Voir par exemple [Weyl-52], page 120, ou le chapitre 15 de [Coxe-69], ou les sections 1.8 et 1.9 de [Ster-94].

Exercice. Pour $n \ge 1$ quelconque et un sous-groupe fini $\Gamma$ de $Is(n)$, vérifier que le barycentre de l’orbite par $\Gamma$ d’un point quelconque de $\mathbf E^n$ est un point fixe par $\Gamma$.

7. Les groupes de frises

Un groupe de frise est un sous-groupe $\Gamma$ de $Is(2)$ qui est infini, qui laisse invariante une droite $a$ de $\mathbf E^2$, et qui ne contient pas de translation d’amplitude arbitrairement petite. En voici sept exemples, les quatre premiers sans demi-tour, et les trois derniers avec.

• Le groupe $\mathcal F_1$ engendré par une translation. C’est le groupe des symétries d’une frise de la forme

$$\cdots \quad \text{F} \quad \text{F} \quad \text{F} \quad \text{F} \quad \text{F} \quad \text{F} \quad \text{F} \quad \text{F} \quad \text{F} \quad \text{F} \quad \text{F} \quad \text{F} \quad \text{F} \quad \text{F} \quad \cdots$$

(conviennent aussi : G, J, L, P, Q, R).

C’est un groupe isomorphe à $\mathbf Z$. Il possède un domaine fondamental qui est une bande perpendiculaire à la direction de la translation et de largeur son amplitude, et le quotient $\mathcal F_1 \setminus \mathbf E^2$ est un cylindre. Nous notons $a$ l’axe de la translation.

• Le groupe $\mathcal F_1^1$ engendré par $\mathcal F_1$ et une réflexion d’axe $a$. C’est le groupe des symétries d’une frise de la forme

$$\cdots \quad \text{B} \quad \text{B} \quad \text{B} \quad \text{B} \quad \text{B} \quad \text{B} \quad \text{B} \quad \text{B} \quad \text{B} \quad \text{B} \quad \text{B} \quad \text{B} \quad \text{B} \quad \text{B} \quad \cdots$$

(conviennent aussi : C, D, E, K). Le quotient $\mathcal F_1^1 \setminus \mathbf E^2$ est un demi-cylindre (homéomorphe au complément d’un disque fermé dans le plan).

• Le groupe $\mathcal F_1^2$ engendré par $\mathcal F_1$ et une réflexion d’axe orthogonal à $a$. C’est le groupe des symétries d’une frise de la forme

$$\cdots \quad \text{A} \quad \text{A} \quad \text{A} \quad \text{A} \quad \text{A} \quad \text{A} \quad \text{A} \quad \text{A} \quad \text{A} \quad \text{A} \quad \text{A} \quad \text{A} \quad \text{A} \quad \text{A} \quad \cdots$$

(conviennent aussi : M, T, U, V, W, Y). Le quotient $\mathcal F_1^2 \setminus \mathbf E^2$ s’identifie au domaine fondamental du type « bande », limité par deux demi-droites parallèles entre elles et orthogonales au segment.

• Le groupe $\mathcal F_1^3$ engendré par une symétrie glissante d’axe $a$. C’est le groupe des symétries d’une frise de la forme

$$\cdots \quad \Gamma \quad \text{L} \quad \Gamma \quad \text{L} \quad \Gamma \quad \text{L} \quad \Gamma \quad \text{L} \quad \Gamma \quad \text{L} \quad \Gamma \quad \text{L} \quad \Gamma \quad \text{L} \quad \cdots$$

Le quotient $\mathcal F_1^3 \setminus \mathbf E^2$ est un ruban de Möbius ouvert.

• Le groupe $\mathcal F_2$ engendré par $\mathcal F_1$ et un demi-tour $\rho_0$ de centre sur l’axe $a$. Si on identifie $a$ à $\mathbf R$ de telle sorte que l’origine soir le point fixe de $\rho_0$, et les entiers l’orbite de l’origine par $\mathcal F_1$, alors les rotations de $\mathcal F_2$ sont les demi-tours $\rho_{n/2}$ centrés aux demi-entiers. Le groupe $\mathcal F_2$ est le groupe des symétries d’une frise de la forme

$$\cdots \quad \text{N} \quad \text{N} \quad \text{N} \quad \text{N} \quad \text{N} \quad \text{N} \quad \text{N} \quad \text{N} \quad \text{N} \quad \text{N} \quad \text{N} \quad \text{N} \quad \text{N} \quad \text{N} \quad \cdots$$

(conviennent aussi : S, Z).

• Le groupe $\mathcal F_2^1$ engendré par $\mathcal F_2$ et une symétrie d’axe orthogonal à $a$ passant par $0$. C’est le groupe des symétries d’une frise de la forme

$$\cdots \quad \text{H} \quad \text{H} \quad \text{H} \quad \text{H} \quad \text{H} \quad \text{H} \quad \text{H} \quad \text{H} \quad \text{H} \quad \text{H} \quad \text{H} \quad \text{H} \quad \text{H} \quad \text{H} \quad \cdots$$

(conviennent aussi : I, O, X).

• (7) Le groupe $\mathcal F_2^2$ engendré par $\mathcal F_2$ et une symétrie d’axe orthogonal à $a$ passant par $1/4$. C’est le groupe des symétries d’une frise de la forme

$$\cdots \uparrow \quad \downarrow \quad \uparrow \quad \downarrow \quad \uparrow \quad \downarrow \quad \uparrow \quad \downarrow \quad \uparrow \quad \downarrow \quad \uparrow \quad \downarrow \quad \uparrow \quad \downarrow \quad \uparrow \quad \cdots$$.

Exercice. Détailler la méthode esquissée ci-dessous pour vérifier que deux des sept groupes de frises décrits plus haut ne sont pas conjugués dans $Aff(2)$.

• Distinguer d’abord les groupes avec demi-tours et les groupes sans.

• Pour les groupes avec demi-tours, distinguer les cas selon qu’ils ne contiennent aucune réflexion (cas de $\mathcal F_2$) ou la réflexion d’axe $a$ (cas de $\mathcal F_2^1$), ou une réflexion mais pas celle d’axe $a$ (cas de $\mathcal F_2^2$).

• Pour les groupes sans demi-tour, distinguer les cas selon qu’ils contiennent ou non une réflexion ; lorsqu’ils n’en contiennent pas, selon qu’ils contiennent une symétrie glissante (cas de $\mathcal F_1^3$) ou non (cas de $\mathcal F_1$) ; lorsqu’ils contiennent une réflexion selon que son axe est $a$ (cas de $\mathcal F_1^1$) ou orthogonal à $a$ (cas de $\mathcal F_1^2$).

Une autre méthode est esquissée dans l’exercice suivant.

Exercice. Soit $\Gamma$ l’un des sept groupes décrits ci-dessus ; notons $\Gamma^+$ le sous-groupe de $\Gamma$ formé des isométries conservant l’orientation de $\mathbf E^2$. Vérifier que la paire $(\Gamma,\Gamma^+)$ est isomorphe à l’une des paires suivantes : $$(\mathbf Z, \mathbf Z), \qquad (\mathbf Z \times C_2, \mathbf Z),\qquad (D_{\infty},\mathbf Z), \qquad (\mathbf Z, 2\mathbf Z)$$ $$(D_{\infty},D_{\infty}), \qquad (D_{\infty} \times C_2, D_{\infty}), \qquad (D_{\infty}, SD_{\infty}),$$

où $C_2$ désigne le groupe d’ordre deux, $D_{\infty}$ un groupe diédral infini (produit libre de deux copies de $C_2$), et $SD_{\infty}$ un sous-groupe propre de $D_{\infty}$ isomorphe au groupe $D_{\infty}$.

Voir aussi la démonstration de[CoBG-08], ou celle de [Mart-81].

8. Réseaux en dimensions $2$ et $3$ et condition cristallographique

Soient $\mathbf E^n$ un espace euclidien de dimension $n$ et $V$ son espace vectoriel de translations. Rappelons qu’un réseau de $V$ est un sous-groupe engendré par une base ; en particulier, un réseau plan est un groupe engendré par deux translations non collinéaires du plan euclidien $\mathbf E^2$. Les propriétés principales des réseaux en dimension $2$ font l’objet des trois résultats suivants.

Bien que facile à démontrer, le résultat suivant est assez important pour mériter le nom de « théorème ».

En d’autres termes et avec les notations du théorème 6.1, le groupe ponctuel de $\Gamma$ est l’un des groupes $C_n$, $D_n$ avec $n \in \{1,2,3,4,6\}$.

Démonstration

Notons $A$ le point fixe de $\rho_A = \rho$ et distinguons les cas, selon que $\rho_A$ est d’ordre fini ou infini.

Supposons d’abord $\rho_A$ d’ordre fini ; on ne restreint pas la généralité de ce qui suit en supposant que $\rho_A$ est une rotation d’angle $2\pi/n$. Soit $B$ un point de l’orbite $\Gamma A$ tel que $B \ne A$ et $d(A,B) \le d(A,X)$ pour tout $X \in \Gamma A \{A\}$ ; choisissons $\gamma \in \Gamma$ tel que $\gamma A = B$ et soit $\rho_B$ la rotation conjuguée $\gamma \rho_A \gamma^{-1}$. Posons encore $\rho_C = \rho_B \rho_A \rho_B^{-1}$, qui est une rotation fixant $C \doteq \rho_B(A)$, et $\rho_D = \rho_C \rho_B \rho_C^{-1}$, qui est une rotation fixant $D \doteq \rho_C (B)$.

Si $D = A$, alors $n = 6$. Si $D \ne A$, alors la condition $d(A,D) \ge d(A,B)$ implique $2\pi/n \ge \pi/2$, c’est-à-dire $n \le 4$. (Esquisser une figure !!!)

Supposons ensuite que $\rho_A$ puisse être d’ordre infini. Choisissons une translation $\tau \ne id$ de $\Gamma$. Pour $k \in \mathbf Z$, les points $\left( \rho_A^k \tau \rho_A^{-k}\right) (A)$ sont alors distincts deux à deux et tous contenus dans le cerce de centre $A$ passant par $\tau (A)$. Ceci est en contradiction avec l’hypothèse faite sur les translations de $\Gamma$.

CQFD

Il est facile de formuler un analogue de la proposition 8.1 en dimension $n$ quelconque : un réseau $\Lambda$ possède une base $(\tau_1,\dots,\tau_n)$ telle que $\Vert \tau_j \Vert$ soit minimal parmi les normes $\Vert \lambda \Vert$ des vecteurs qui sont dans $\Lambda$ et ne sont pas combinaisons linéaires de $\tau_1,\dots,\tau_{j-1}$. La restriction du théorème 8.2 vaut sans changement en dimension $3$, comme on s’en assure en raisonnant dans l’orthogonal de l’axe d’une rotation contenue dans $\Gamma$ ; il y a des restrictions sur les ordres des rotations possibles en toute dimension.

La restriction du théorème 8.2, et surtout de son analogue en dimension $3$, est cruciale pour toute la cristallographie classique. On l’appelle la restriction cristallographique.

On dit qu’un réseau plan est

• rectangulaire s’il est engendré par deux translations orthogonales,
• rhombique s’il est engendré par deux translations de même amplitude,
• carré s’il est engendré par deux translations orthogonales de même amplitude, c’est-à-dire s’il est à la fois rectangulaire et rhombique,
• hexagonal s’il est engendré par deux translations de même amplitude faisant un angle de $\pi/3$ (ou, c’est équivalent, de $2\pi/3$).

L’importance des réseaux rectangulaires et rhombiques est due entre autres raisons au résultat suivant.

Soit $\Gamma$ un groupe cristallographique plan qui contient une isométrie renversant l’orientation. Alors le groupe des translations $\Lambda_{\Gamma}$ est rectangulaire ou rhombique.