Ce que les mathématiciens appellent jeu de billard est très simple à définir. On se donne
une table de billard, autrement dit un morceau du plan d’aire finie (un rectangle comme on le connait dans la vie courante, mais cela peut etre un disque, l’intérieur d’une ellipse, un polygone plus compliqué ...). La boule est un point (ce qui est une simplification notable par rapport à la réalité), elle se déplace à vitesse constante dans la table et lorsqu’elle touche le bord, elle fait un rebond en suivant les lois classiques de la réflexion : l’angle d’incidence est égal à l’angle de réflexion. Il n’y a donc pas d’effet et la boule ne s’arrête jamais.

angle d’incidence et angle de réflexion

La trajectoire de billard est en rouge, le bord en noir et la perpendiculaire au bord en vert.

Voici une animation réalisée par Patrick Ventujol (peintre et infographiste à Marseille) qui illustre ce texte de façon allégorique.

La position de notre boule à un instant donné dépend bien entendu non seulement de l’endroit où elle se trouve au début mais aussi de la direction dans laquelle on l’envoie.

On peut se demander pourquoi certains mathématiciens s’intéressent à ce système. Il y a, à mon avis, plusieurs réponses. Le billard est un exemple de système dynamique, c’est-à-dire un système en mouvement dont on essaie de comprendre l’évolution au cours du temps. Tout d’abord, cet exemple est simple à présenter. Je viens de le faire en quelques lignes sans trop caricaturer le modèle. Il y a très peu de paramètres, si on veut tester des méthodes, cela semble une situation modèle (jouet comme nous disons) où l’on pourra tester leur efficacité. Il y a beaucoup moins de paramètres que dans le système solaire par exemple ! Ensuite, le système a des comportements très différents en fonction de la forme de la table. On n’étudie pas de la même façon le billard dans une table convexe, concave ou polygonale.

billard convexe

Billard concave

Enfin, les problèmes sont difficiles comme on va le voir dans la suite de ce texte. Pour vous en convaincre, l’exemple du billard concave est frappant. Sinai (aujourd’hui professeur à Princeton, USA) commence à étudier le billard concave dans sa thèse à la fin des années 50, depuis ce sujet a fait couler beaucoup d’encre. Certains résultats annoncés par Sinai à l’époque, ont été démontrés récemment ! Tout un tas de techniques sophistiquées ont dues être mises en place pour cela.

Dans ce texte, nous supposerons que la table est un polygone. Voici une question simple qui est pourtant un problème ouvert aujourd’hui. Pour la poser, nous avons besoin de définir quelques termes. On dit qu’une trajectoire du billard est périodique si au bout d’un certain temps la boule repasse par le même point avec la même direction (on emploie aussi les mots orbite périodique). Attention, on demande que la direction soit la même pour qu’ensuite la trajectoire se répète indéfiniment.

Orbite périodique dans l’hexagone

Orbite périodique dans le pentagone régulier

Orbite périodique dans le triangle équilatéral

Si la trajectoire repasse par le même point avec une direction différente de la direction de départ, on ne peut pas dire grand chose sur ce qu’elle va faire dans le futur. La longueur d’une trajectoire périodique est le temps que le point met pour revenir à sa position initiale avec sa direction de départ. Les trajectoires périodiques sont « sympathiques » car si on les connait pendant un temps fixe (leur longueur) on peut dire avec certitude ce qu’elles feront dans le futur. La table de billard la plus facile à étudier est le carré (ce qui est essentiellement la même chose que le « vrai » billard rectangulaire). Peut-on trouver beaucoup d’orbites périodiques dans ce cas ?

Orbites périodiques dans le carré

En regardant sur la figure ci-dessus,
on s’aperçoit que dans la direction verticale, toutes les trajectoires sont périodiques, c’est pareil dans la direction horizontale, à 45 degrés ... on a bien l’impression qu’il y en a des quantités. Dans un rectangle, il n’est pas difficile de comprendre toutes les trajectoires périodiques. On peut essayer de faire la même chose dans un triangle équilatéral, un polygone régulier général. Dans tous ces cas, on trouve des trajectoires périodiques ! Katok (professeur à l’université Penn state aux Etats Unis et éminent spécialiste de systèmes dynamiques) a posé la question suivante :

Est ce que, dans TOUT triangle, il y a (au moins) une trajectoire de billard périodique ?

On ne sait pas répondre à cette question pour l’instant. On dit que c’est un problème
ouvert. Katok a même promis 10 000 € à celui qui trouverait une solution à ce problème, ce qui signifie à quel point, il pense que c’est difficile. Personnellement, je trouve ce genre de question fascinante : il faut très peu de connaissance pour la poser, néanmoins, on ne sait pas la résoudre !

Avant d’expliquer quelques résultats partiels sur ce problème, je veux faire une mise en garde. Il est très vraisemblable que, dans tout triangle, il y ait au moins une orbite périodique. Par conséquent, trouver un exemple, même compliqué où il y a une orbite périodique (de très grande longueur) n’est pas une solution au problème. Ce qu’on veut est une réponse (positive) pour tous les triangles. Trouver un triangle sans trajectoire de billard périodique serait aussi une réponse mais aucun spécialiste ne croit que cela existe. Il y a en effet de bonnes raisons de penser que la réponse est oui. Lorsque le triangle est aigu (tous les angles sont inférieurs à l’angle droit), on sait depuis le 18 ème siècle construire des trajectoires de billard périodiques dans les triangles. Fagnano a montré que la trajectoire qui passe par les pieds des trois hauteurs est une trajectoire de billard périodique.

Orbite de Fagnano dans le triangle équilatéral

L’orbite de Fagnano est en rouge, les hauteurs en vert.

Orbite de Fagnano dans un triangle quelconque

Le montrer est un joli exercice de géométrie élémentaire.
On en trouve plusieurs solutions géométriques
ici (la première me parait la plus élégante).
On considère que c’est le premier résultat sur le billard. Lorsque les angles du polygone (mesurés en degré) sont des nombres rationnels, il y a toujours une trajectoire périodique (ce qui motive fortement la question de Katok). Ceci est trop compliqué pour que nous puissions l’expliquer ici. C’est un résultat « abstrait » dans le sens où on ne construit pas la trajectoire périodique, on montre uniquement qu’elle existe. On notera au passage que, lorsque les angles d’un billard polygonal sont rationnels, on a des outils mathématiques très puissants pour étudier ce système dynamique. De tes outils n’existent pas en général, c’est pourquoi, de nombreuses questions sur les billards polygonaux sont
sans réponse.

Pour aller plus loin, il faut paramétrer les triangles. Il est bien évident que l’aire du triangle est sans importance ici. On peut aussi supposer qu’un côté du triangle est horizontal (si on fait tourner le triangle cela ne change pas le fait qu’il y ait ou non une trajectoire de billard périodique). Il reste donc deux paramètres : deux angles (le troisième est déterminé vu que la somme des angles est égale à 180 degrés). On choisira les deux angles les plus grands. On a vu que si ces angles sont inférieurs à 90 degrés notre problème a une solution.

Résultat de Schwartz

Dans les années 90, un certain nombre de mathématiciens, ont essayé de faire des constructions géométriques plus compliquées que celle de Fagnano pour résoudre le problème de Katok. Cela permet d’augmenter le domaine où la réponse est affirmative mais on est très loin de traiter tous les cas. Ces constructions sont différentes les unes des autres, certaines techniquement compliquées (8 rebonds par exemple) mais l’approche est toujours la même
que celle de Fagnano, c’est de la géométrie élémentaire. Le résultat de Richard Schwartz (professeur à l’université de Brown aux USA) montre que cette approche est trop simpliste et ne peut aboutir. Sa méthode est bien plus intéressante et je vais essayer de la décrire. Schwartz a écrit plusieurs articles sur le sujet dont :

Obtuse Triangular Billiards I : Near the (2,3,6) Triangle
Journal of Experimental Mathematics (2006) Vol 15, Issue 2

et
Obtuse Triangular Billiards II : 100 Degrees Worth of Periodic Trajectories
Journal of Experimental Math, Vol 18, No 2 pp 137-171 (2008)

On trouve ces deux articles sur la page de l’auteur.

Schwartz montre que dans TOUT triangle, dont le plus grand angle est inférieur à 100 degré il y a une trajectoire de billard périodique.

Ceci est très intéressant mais il y autre chose qui, à mon sens, l’est beaucoup plus. Il montre que la technique élémentaire est vouée à l’échec. Il regarde, grâce à son ordinateur, ce qui se passe près du triangle
d’angles (90, 60, 30) degrés, en se restreignant bien sur au cas où l’angle le plus grand est supérieur ou égal à 90 degré. Il montre qu’étant donné une longueur L, si
les angles sont suffisamment proches de (90, 60, 30) il n’y a pas de trajectoire de billard périodique de longueur inférieure ou égale à L. Cela veut dire que, même si on invente une construction géométrique très astucieuse (du style Fagnano) qui se referme au bout de 100 rebonds ou 1000 rebonds, on ne couvrira pas tous les cas. Il montre aussi que chaque triangle dont les angles sont inférieurs à 100 degrés a une trajectoire de billard périodique !
Ouf, c’est ça le résultat positif !

Le billard rationnel

Comme nous l’avons dit plus haut, lorsque les angles du polygones sont rationnels, il y a des trajectoires périodiques, il y en a même une infinité. On peut alors se demander combien il y a de trajectoires de longueur donnée (ou plutôt de longueur inférieure à un nombre donné). Il faut ici faire attention qu’on compte pour un les trajectoires parallèles de même longueur (sinon dans le carré, on a déjà une infinité de trajectoires périodiques verticales). Dans le carré, on peut facilement montrer que le nombre de trajectoires de longueur au plus L est quadratique en L. C’est directement relié au nombre de points entiers dans un très grand carré de côté L. Le même résultat est vrai dans un polygone rationnel, c’est bien plus difficile à démontrer. Dans les polygones réguliers, par exemple, on peut obtenir des résultats extrêmement précis. Cette problèmatique a été très étudiée, Howard Masur dans les années 80, puis William Veech dans les années 90, enfin Alex Eskin, Howard Masur, Anton Zorich récemment ... C’est ce genre de quantités (appelées constantes de Siegel-Veech) que manipulent Alex Eskin, Maxim Kontsevich et Anton Zorich dans un travail monumental pas encore publié bien trop compliqué pour être évoqué plus précisément ici.