Un système hamiltonien est un système mécanique régi par les équations de Hamilton
\[ \dot{q}_{1}=\frac{\partial H}{\partial p_{1}}, \ldots,\dot{q}_{n}=\frac{\partial H}{\partial p_{n}},\]
\[\dot{p}_{1}=-\frac{\partial H}{\partial q_{1}}, \ldots,\dot{p}_{n}=-\frac{\partial H}{\partial q_{n}}. \]
L’énergie totale $H$ d’un tel système, fonction des grandeurs $q_{1},\ldots,q_{n}$ (penser à des positions) et $p_{1},\ldots,p_{n}$ (penser à des impulsions), est conservée au cours du temps.

Il arrive que d’autres quantités que l’énergie soient conservées, elles aussi. On les appelle des intégrales premières.

S’il y en a assez
(qui commutent, en un sens que je ne veux pas préciser ici), Liouville a démontré au XIXème siècle que l’on peut résoudre le système
différentiel par des quadratures (en calculant des intégrales). C’est pourquoi on dit que le système est complètement intégrable.

Il y a de nombreux exemples de systèmes hamiltoniens complètement intégrables. Commençons par les deux plus classiques :

La toupie

Tout le monde a déjà vu et touché une toupie (sinon, en voici une).

Figure 1. Mouvement de l’axe d’une toupie

On considère ici
que c’est un solide avec un point fixe (celui où la toupie est en contact avec le plan horizontal, le point $O$ de la figure) soumis à
la seule pesanteur. Ce solide a un axe de révolution. Le système mécanique a été étudié par Lagrange à la fin du XVIIIème siècle. En plus de l’énergie totale, il y a évidemment une deuxième quantité
conservée, le moment par rapport à l’axe de symétrie.

Comme tous les enfants le savent, l’extrémité de l’axe de révolution oscille entre deux parallèles de la sphère centrée au point fixe, comme indiqué sur la figure.

Le pendule « sphérique »

Il s’agit d’un pendule, suspendu à un point fixe $O$ par une tige rigide, et soumis, lui aussi, à la seule
pesanteur.
Il y a encore une
deuxième intégrale première « évidente », le moment par rapport à la verticale.

La boule tourne autour de l’axe vertical tout en oscillant entre deux petits cercles parallèles de la sphère. La figure ci-dessous représente la projection d’une trajectoire sur un plan horizontal.

Figure 2. Le pendule sphérique

Géodésiques

On aura remarqué la similitude des deux situations précédentes. Des comportements analogues (oscillation dans une
bande) apparaissent dans de nombreux autres problèmes de mécanique, comme par exemple, le mouvement d’une particule libre sur une surface de révolution ou sur un ellipsoïde.

Une particule libre va au plus court et suit une géodésique. Les figures ci-dessous représentent une géodésique d’une surface de révolution et d’un ellipsoïde respectivement.

Figure 3. Géodésiques d’une surface de révolution, d’un ellipsoïde

Dans le cas de la surface de révolution, le moment de la particule par rapport à l’axe de révolution est une intégrale première. Pour un ellipsoïde « quelconque » (pas de révolution), c’est moins évident, mais il y a aussi une « deuxième » intégrale première
(Jacobi, 1838, Uhlenbeck, 1980).

Des bandes et des tores

Une expression géométrique ou dynamique de l’intégrabilité à la Liouville est la régularité des solutions. Le mouvement décrit par un
système hamiltonien intégrable est extrêmement régulier. Les trajectoires s’enroulent sur des tores (c’est le théorème dit d’Arnold-Liouville), chacune revenant régulièrement près de son point initial, on dit que le mouvement est « quasi-périodique ».

C’est ce que montre la figure ci-dessous, que l’on peut imaginer dessinée dans l’espace de phases (en volume, sur un tore) ou dans l’espace de configuration (à plat, comme sur la feuille de papier) où elle ressemble beaucoup aux figures précédentes.

Les systèmes hamiltoniens sont-ils tous intégrables ?

On l’a vu, la physique peut fournir des intégrales premières, comme le moment par rapport à un axe de révolution (toupie, pendule sphérique, particule libre sur une surface de révolution,...)

Il y a aussi beaucoup de systèmes hamiltoniens qui ne sont pas intégrables.

Le problème à $n$ corps

Le plus célèbre est le problème « de la Lune » (problème de trois corps en interaction gravitationnelle). On sait que le problème à deux corps (Soleil-Terre) est intégrable. C’est même pour l’intégrer que Lagrange a introduit les prémisses de la géométrie symplectique et de la mécanique hamiltonienne. Poincaré a démontré que le problème à trois corps ne pouvait avoir assez d’intégrales premières analytiques, c’est-à-dire qui peuvent s’écrire comme des sommes (éventuellement infinies) de momomes faisant intervenir les positions et les moments des trois corps. La méthode que je présente ici permet de montrer qu’il n’en a pas assez, même si on autorise les éventuelles intégrales à ne plus être tout à fait analytiques, mais à avoir des dénominateurs (des pôles, on dit qu’elles sont méromorphes).

Il y a des systèmes
hamiltoniens dont on soupçonne qu’ils ne sont pas intégrables, parce qu’on n’a
pas été capable de leur trouver assez d’intégrales premières, et surtout parce que des expériences ou simulations numériques montrent un comportement chaotique incompatible avec le théorème d’Arnold-Liouville. Voir la figure dans l’encadré 1.

Le système de Hénon-Heiles

Étant donné un système hamiltonien, il n’est pas facile en général de décider s’il est, ou s’il n’est pas, intégrable. Je vais essayer d’illustrer cette remarque à l’aide du système de Hénon-Heiles.

C’est le système
défini par le
hamiltonien [1]
\[ H=\frac{1}{2}(p_{1}^{2}+p_{2}^{2})+\frac{1}{2}(Aq_{1}^{2}+Bq_{2}^{2}) -q_{1}^{2}q_{2}-\frac{\lambda}{3}q_{2}^{3} \]
où $A$, $B$ et $\lambda$ sont des paramètres à préciser.

Le système différentiel des équations de Hamilton est \[\begin{array}{rcl} \dot{q}_{1}&=&p_{1}\\ \dot{q}_{2}&=&p_{2}\\ \dot{p}_{1}&=&-Aq_{1}+2q_{1}q_{2}\\ \dot{p}_{2}&=&-Bq_{2}+q_{1}^{2}+\lambda q_{2}^{2}. \end{array} \]

Il existe des valeurs des paramètres pour lesquelles on sait que ce système est
intégrable.

• C’est le cas quand $A=B$ et $\lambda=1$. Le hamiltonien s’écrit
  \[H=\frac12(y_{1}^{2}+y_{2}^{2})+Ax_{1}^{2}-\frac43 x_{1}^{3}+Ax_{2}^{2}+\frac43 x_{2}^{3}\] (où $x_{1}+x_{2}=q_{1}$, $x_{1}-x_{2}=q_{2}$ et les $y_{i}$ sont les moments correspondants) de sorte que la fonction \[K=\frac12y_{1}^{2}+Ax_{1}^{2}-\frac43x_{1}^{3}\] est une intégrale première.

• Plus mystérieusement, quand $\lambda=6$, la fonction $K$ définie par Bountis, Segur et Vivaldi et par
  \[K=q_{1}^{4}+4q_{1}^{2}q_{2}^{2}+4p_{1}(p_{1}q_{2}-p_{2}q_{1}) -4Aq_{1}^{2}q_{2} +(4A-B)(p_{1}^{2}+Aq_{1}^{2})\]
  est une intégrale première pour le hamiltonien de Hénon-Heiles.

La figure ci-dessus montre une partie de la dynamique (de l’application de Poincaré, pour être précise) du système de Hénon-Heiles pour
$A=B=0$ et $\lambda=3/2$. Sans entrer dans les détails, elle semble indiquer que ce système est trop chaotique pour entrer dans la famille des systèmes présentés au début de cet article.

La méthode que je vais présenter permet de montrer qu’en effet, le système de Hénon-Heiles n’est pas intégrable en général.

Dans cet article, je ne considérerai que le cas simple où $A=B=0$ et $\lambda=0$, c’est-à-dire où
\[H=\frac{1}{2}( p_{1}^{2}+p_{2}^{2})-q_{2}q_{1}^{2}.\]

Le groupe de Galois, une obstruction à l’intégrabilité

Selon une tradition remontant à la Mécanique céleste de Poincaré, on considère l’équation aux variations, décrivant les solutions « infinitésimalement proches » d’une solution donnée. Je vais expliquer
ceci de façon heuristique, puis je donnerai un exemple.

Les trajectoires infiniment proches

On choisit une trajectoire (une solution du système différentiel) $x(t)$ et on écrit que $y(t)$ est aussi une solution, très proche, de sorte qu’on peut écrire $y(t)=x(t)+Y(t)$ et que, à l’ordre $1$, notre système différentiel devient linéaire en $Y$ : on a, à l’ordre $1$, \[\begin{array}{rcl} \dot{Y}&=&\dot{y}-\dot{x}\\ &=&X(y(t))-X(x(t))\\ &=&(dX)_{x(t)}(Y(t)). \end{array}\]
Cette équation différentielle linéaire en $Y$ est l’équation aux variations.

L’exemple de Hénon-Heiles

Dans le cas simple considéré dans l’encadré 1, le système différentiel est \[\dot{q}_{1}=p_{1},\quad \dot{q}_{2}=p_{2},\] \[\dot{p}_{1}=2q_{1}q_{2},\quad \dot{p}_{2}=q_{1}^{2}.\]
Parmi ses solutions, il y en a de très simples, les droites paramétrées par
\[q_{1}=0,\quad p_{1}=0,\]
\[q_{2}(t)=at-b, \quad p_{2}(t)=a\]
où $a$ et $b$ sont des constantes d’intégration arbitraires. L’équation aux variations le long d’une de ces solutions est le système différentiel linéaire
\[\begin{array}{rcl} \dot{Q}_{1}&=&P_{1}\\ \dot{Q}_{2}&=&P_{2}\\ \dot{P}_{1}&=&2q_{2}(t)Q_{1}\\ \dot{P}_{2}&=&0 \end{array}\]
obtenu en linéarisant le système hamiltonien.

On se contente d’en étudier les solutions vérifiant $Q_{2}=P_{2}=0$. Le système linéaire $\dot{Q}_{1}=P_{1}$, $\dot{P}_{1}=2q_{2}(t)Q_{1}$ est équivalent à l’équation différentielle \[\ddot{Q}-2(at-b)Q=0.\]

C’est une équation d’Airy, équation dont les solutions, les « fonctions d’Airy », sont des fonctions analytiques sur le plan complexe tout entier, mais dont aucune solution n’est une fraction rationnelle (quotient de deux polynômes) ni même une fonction algébrique (par exemple racine de fraction rationnelle). Pour ceux ou celles qui aiment les formules, on peut les écrire \[Q(t)=\int_{0}^{\infty}\cos(x^{3}\pm xt)dx.\]

La théorie de Galois

Ouvrons ici une parenthèse.
Supposons qu’on ne connaisse que les nombres rationnels et qu’on ait affaire à une équation algébrique. Il se peut qu’elle n’ait pas de solution rationnelle. C’est le cas, par exemple, pour $x^{2}-2=0$ dont les solutions $\sqrt{2},-\sqrt{2}$, sont des nombres irrationnels. Pour travailler avec les solutions de l’équation, on a besoin de considérer un ensemble de nombres plus gros, dans lequel on puisse calculer comme avant et qui contienne les vieux nombres (rationnels) ainsi que les solutions de l’équation.

Dans la théorie de Galois, on considère les transformations qui permutent ces nouveaux nombres (en fixant les anciens). Ces transformations forment un groupe. Dans l’exemple, on peut seulement échanger $\sqrt{2}$ et $-\sqrt{2}$, le groupe de Galois est un groupe à deux éléments, formé de la transformation qui fixe $\sqrt{2}$ et $-\sqrt{2}$ (transformation identique) et de celle qui les échange.

Un des premiers succès de la théorie de Galois est d’avoir pu montrer qu’une équation algébrique
\[x^n+a_{1}x^{n-1}+\cdots+a_{n}=0\]
est résoluble par radicaux, c’est-à-dire par des formules telles que
\[x=\frac{-b\pm\sqrt{b^{2}-4ac}}{2a}\]
pour les équations du second degré ou \[x= \sqrt[3]{-\frac{q}{2}+\sqrt{\frac{q^{2}}{4}+\frac{p^{3}}{27}}} -\sqrt[3]{\frac{q}{2}+ \sqrt{\frac{q^{2}}{4}+\frac{p^{3}}{27}}}\] pour l’équation
\[x^{3}+px+q=0,\]
que cette équation, donc, est résoluble par radicaux si et seulement si son groupe de Galois est... résoluble (justement !), c’est-à-dire peut se dévisser en morceaux qui sont tous des groupes commutatifs. Par exemple, pour une équation assez générale de degré $5$ ou plus, le groupe de Galois n’est pas résoluble, il est donc inutile de chercher des formules analogues à celles que je viens d’écrire pour les équations de de ces degrés.

Comme les équations algébriques, les équations différentielles linéaires ont un groupe de Galois. Supposons que les coefficients d’un système différentiel linéaire soient, comme dans notre exemple, des fractions rationnelles. Il se peut que les solutions soient, elles, beaucoup plus compliquées, comme on l’a vu dans l’exemple de l’équation d’Airy. À l’arsenal de fonctions dont nous sommes partis, on ajoute donc de nouvelles fonctions.

Le groupe de Galois (différentiel) est le groupe des transformations de cet ensemble de fonctions qui fixent les fractions rationnelles. Dans le cas d’une équation différentielle d’ordre $2$, c’est un groupe de matrices $2\times 2$.

Dans le cas d’Airy, les solutions (et
plus précisément leur comportement à l’infini) sont assez compliquées pour que le groupe de Galois soit très gros. C’est le groupe de toutes les matrices de déterminant $1$. Refermons la parenthèse.

Le théorème de Morales et Ramis

Le groupe de Galois différentiel (encadré 2) est l’acteur principal d’un théorème de non-intégrabilité dû à Morales et Ramis, dans une lignée de travaux remontant à Kowalevskaya (voir ci-dessous), Poincaré, Painlevé et plus récemment Ziglin. Ce théorème peut être considéré comme un analogue du théorème sur la résolubilité des équations algébriques que j’ai mentionné dans l’encadré 2. Il affirme que, si un système hamiltonien est
intégrable, alors le groupe de Galois du système différentiel linéarisé le long de n’importe quelle solution doit être presque commutatif, au sens où, à un groupe fini près, il est commutatif [2].

Concrètement (si j’ose dire) : vous choisissez une solution, vous linéarisez le système le long d’icelle, vous calculez le groupe de Galois, s’il n’est pas (presque) commutatif, vous pouvez conclure que le système n’était pas intégrable.

Encore faut-il avoir trouvé une solution, à la fois assez simple pour que vous ayez été capable de calculer le groupe de Galois et assez compliquée pour que celui-ci ne soit pas (presque) commutatif.

Toujours est-il que dans le cas simple considéré ici, le groupe de Galois est le groupe des matrices de déterminant $1$, qui n’est pas commutatif et même pas presque commutatif, ce qui permet de conclure à la non-intégrabilité du système de Hénon-Heiles dans le cas considéré.

Conclusion

La toute première approche à la non-intégrabilité est due à S. Kowalevskaya en 1889. Elle étudiait l’intégrabilité du
système hamiltonien décrivant le mouvement d’un solide avec un point fixe dans un champ de pesanteur constant. Elle s’est demandé à quelle condition les solutions du système sont des fonctions méromorphes [3], du temps, c’est-à-dire que leurs seules singularités sont des pôles (pas de ramification, logarithme, etc).

Elle a démontré que cette propriété n’est satisfaite que dans trois cas, ceux d’un solide mobile autour de son centre de gravité ou d’un solide avec un axe de révolution (la toupie), où l’on savait que le système était intégrable au sens utilisé dans ce texte, et un nouveau cas, qui porte depuis son nom et dont elle a montré qu’il était, lui aussi, intégrable, en exhibant l’intégrale
première manquante.

La relation entre l’intégrabilité
(au sens dit « de Liouville ») et la douceur des singularités des solutions n’est toujours pas complètement élucidée (voir par exemple le livre de Zakharov cité ci-dessous). Les méthodes d’algèbre
différentielle que j’ai présentées ici s’en approchent — à l’ordre $1$.

Références

Sur le théorème d’Arnold-Liouville

• Arnold (V.I.) Méthodes mathématiques de la mécanique classique Mir, Moscou 1974

Sur le théorème de Morales et Ramis

• Morales-Ruiz (J.) Differential Galois theory and non-integrability of Hamiltonian systems Progress in Math., Birkhäuser1999

• Audin (M.) Les systèmes hamiltoniens et leur intégrabilité Cours Spécialisés, 8, Société
  Mathématique de France & EDP Sciences 2001

Sur la notion d’intégrabilité

• Kowalevski (S.) Acta Math.121889 177

• 
  Zakharov (V.E.), éditeur What is integrability ? Springer, Berlin 1991

Sur la notion de plagiat par anticipation

• 
  Le Lionnais, (F.) Le second manifeste (1973), La bibliothèque oulipienne 2 Ramsay, Paris 1987