Pierre Fatou est mort il y a quatre-vingts ans, le 9 août 1929. Il était âgé de 51 ans. Après avoir été presque toute sa vie astronome-adjoint à l’Observatoire de Paris, il était devenu astronome titulaire un an auparavant, le 7 juillet 1928. Aucun journal de mathématique n’a publié de rubrique nécrologique à son sujet [1].

Aujourd’hui, la plupart des mathématiciens ne connaissent, de Pierre Fatou, que le lemme de Fatou. Ceux qui travaillent en dynamique complexe savent aussi qu’il a été l’un des créateurs de leur discipline, et connaissent ou propagent la rumeur d’une rivalité avec Gaston Julia, dont le nom a été donné aux célèbres ensembles de Julia, « beautés banales des gravures de mode de la mathématique », « top-models de la mathématique » [2]. Quelques-unes — mais quelques-unes seulement, dans un souci de sobriété — de ces gravures de mode apparaîtront un peu plus bas, en déroulant cet article.

Et pourtant... Sa carrière a été incontestablement lente et modeste. Lui-même s’y était résigné, qui écrivait à son ami Paul Montel, vers 1920 :

Quant à moi, qui suis résigné d’avance à ne jamais arriver, je continuerai tranquillement mon métier de sous-ordre [...] ; c’est peu glorieux, mais ma philosophie s’en accommode et cela ne m’empêchera pas de faire des math. dans la mesure de mes moyens.

Un scientifique actif

Pierre Fatou était pourtant un scientifique actif et bien intégré dans le milieu scientifique de son temps :

• il a écrit de nombreux articles de mathématiques très originaux sur des sujets assez variés d’analyse et de géométrie,
• il a fait des observations astronomiques, se spécialisant dans l’observation et la théorie des étoiles doubles,
• ce qui l’a amené à des résultats importants de mécanique céleste,
• il était un membre actif des deux communautés, par exemple il a été, en 1911, le président de l’Association amicale des personnels scientifiques des Observatoires français (AAPSOF), il a participé aux instances de la Société mathématique de France (SMF) de 1907 à sa mort, et il en a été le président en 1926.

Quelques mots sur sa vie

Pierre Fatou est né à Lorient le 28 février 1878 dans une famille d’officiers de marine [3]. Après avoir été élève du lycée de Lorient [4], il a fait ses classes préparatoires à Paris au collège Stanislas et est entré à l’École normale supérieure en 1898. Il en est sorti, agrégé, en 1901, et a aussitôt été embauché à l’Observatoire.

Une parenthèse.
En ce temps-là, une mutation s’effectuait dans le travail et la fonction des astronomes qui, de personnel scientifique de service, allaient devenir d’authentiques chercheurs. Le recrutement d’un brillant jeune mathématicien faisait sans doute partie de ce mouvement [5].

La thèse de Fatou.
Il a passé sa thèse en 1907, sous le titre Séries trigonométriques et séries de Taylor [6]. Sans entrer dans les détails, disons quand même ici que Fatou était un des meilleurs connaisseurs de l’intégrale de Lebesgue... qui était encore une nouveauté. S’il a laissé son nom à un lemme, dont j’écris ici la conclusion [7], pour la beauté des formules
\[\int\liminf f_n\,d\mu\leq\liminf\int f_n\,d\mu\]
c’est aussi depuis sa thèse que l’on appelle formule de Parseval une autre belle formule
\[\sum\vert{a_n}\vert^2=\frac{1}{2\pi}\int\vert{f(t)}\vert^2\,dt\]
pour une fonction $f(t)=\sum a_n e^{2i\pi nt}$ [8].

Il a continué à faire des mathématiques, de l’astronomie, de la mécanique céleste ; je n’aborderai ici qu’une toute petite partie de son travail, celle liée à l’itération (ci-dessous). Pour le reste, on trouvera un panorama assez complet dans le livre cité en note.

Il aimait beaucoup la musique, fréquentait les concerts, c’était un photographe amateur, il aimait marcher dans Paris, il aimait marcher dans la montagne, il aimait les vacances en Bretagne, et c’était un danseur acharné, qui avait pris, par exemple, des cours de tango. Comme tous les astronomes faisant des observations de nuit, il habitait le quartier de l’Observatoire, boulevard Montparnasse dans son cas, juste à côté du Bal Bullier où il passait semble-t-il pas mal de temps [9]. Il a bien essayé d’obtenir un poste de mathématicien (au Collège de France, à la Sorbonne...) mais sans succès [10].

Il est mort, sans doute d’un ulcère à l’estomac, en vacances à Pornichet. Il venait de terminer d’écrire un livre sur les groupes fuchsiens et les fonctions automorphes qui a été publié... comme le deuxième tome d’un traité d’Appell et Goursat (le nom de Pierre Fatou n’apparaît pas sur la couverture du livre) [11].

Le Grand Prix de 1918

Dès 1906, Fatou avait commencé à étudier la question de l’itération. Pour une raison ou pour une autre (sa thèse, des problèmes de santé, des observations trop prenantes...), malgré l’originalité de son approche et les surprenants résultats obtenus, il n’avait plus rien publié sur la question. En 1915, l’Académie des sciences déclarait un Grand Prix des sciences mathématiques, pour 1918, sur ce sujet. Fatou se remit à l’étude de la question et, en 1917, commença à publier ses résultats sous forme de notes aux Comptes rendus. En juin de cette année, Montel fit paraître, lui aussi, une note aux Comptes rendus, sur un autre sujet, mais qui contenait une idée dont Fatou s’empara : ce qui s’appellerait, soixante ans plus tard, l’ensemble de Julia, était né.

Et d’ailleurs, puisqu’on en parle, Gaston Julia avait lu, lui aussi, la note de Montel, et eu des idées analogues. Il se mit en colère, réclama la priorité, l’Académie des sciences la lui accorda, Fatou continua à travailler tranquillement dans son coin, Julia envoya un dossier de candidature pour le Grand Prix et vainquit, sans péril donc... mais non sans gloire.

Une autre parenthèse.
Dans cette affaire, les dates ne sont pas innocentes [12]. En août 1914, Gaston Julia était un jeune homme de 21 ans, tout juste sorti d’une brillante scolarité à l’École normale supérieure, lorsque la guerre avait éclaté. En janvier 1915, jeune sous-lieutenant d’infanterie, il était très grièvement blessé au visage. Pendant ce temps, de très nombreux jeunes scientifiques étaient tués. Parmi ceux-ci, les enfants ou petits-enfants des mathématiciens de la génération précédente (Jordan, Picard, Borel, Hadamard...). Gaston Julia, survivant rare et « gueule cassée » (il devait porter toute sa vie un masque de cuir) ne pouvait que devenir une sorte d’icône glorieuse pour la communauté mathématique française.

Ensembles de Fatou et de Julia

Ce qui est une des raisons pour lesquelles l’Académie des sciences a accordé la priorité à Julia. Avec un léger remords peut-être puisque Fatou, qui n’avait pas déposé de mémoire pour le Grand Prix, est néanmoins mentionné dans le rapport qui attribue ce prix à Julia... et que l’Académie des sciences attribue un (autre) prix à Fatou pour ses travaux sur ce même sujet.

Mais ce qui n’explique pas pourquoi c’est le nom de Julia que Mandelbrot a donné, vers 1980, à ces « gravures de mode » [13].

Mais au fait, de quoi s’agit-il ?

Pour cette brève explication, j’utilise des nombres complexes, des fonctions et même des suites... (il y avait déjà une suite dans l’énoncé du lemme de Fatou, mais maintenant je ne prétends pas ne vous montrer que des formules dont seule la beauté est importante). Quand même : vous êtes chaudement invités à regarder les images même si les mathématiques sont trop difficiles.

Itérer. J’emprunte l’explication suivante à un article de Tan Lei. Imaginons, de même que nos calculatrices ont des touches $\sqrt{\phantom{2}}$, $\log$, etc. qu’elles aient des touches plus compliquées, comme par exemple celle qui calcule
\[z^2+2\]
si on a entré $z$. Vous entrez une valeur, vous appuyez sur cette « touche », vous appuyez encore une fois, puis encore, etc. Ce qu’avait démontré Fatou, en 1906, c’est que, si l’on est parti d’un point en dehors d’un certain ensemble $F$, cette opération d’itération forcenée va toujours nous amener vers le même point. Et l’ensemble $F$ a une allure particulièrement étonnante (c’est une « poussière » assez grossie sur la figure)... au moins dans le cas de la touche

\[z^2+2,\]
parce que, si l’on utilise à la place la touche
\[z^2+\frac{1}{8},\]
l’ensemble $F$ a une forme assez différente (c’est le quasi-cercle bord de la partie grisée représentée ici).

Il restait à faire une théorie générale qui englobe ces deux exemples (il y avait un peu plus que des exemples dans la note de Fatou en 1906) et c’est ce que nos deux mathématiciens ont fait en 1917... et après.

Je reproduis ici encore une fois un bel ensemble « de Julia », dessiné par Tan Lei et que l’on a déjà vu sur ce site ici ou là.

C’est un des premiers ensembles de Julia qui ait été « dessiné » :

• une authentique figure manuscrite très ressemblante et assez précise se trouve sur un des manuscrits que Julia avait déposés à l’Académie des sciences [14],
• Julia lui-même en a dessiné pour publication une figure « synthétique » qui l’apparente au flocon de von Koch, que je redessine ici

• Fatou l’a décrit (par des mots) ainsi

  On peut se faire une idée de l’ensemble $F$ par l’exemple suivant qui est analogue : considérons deux circonférences tangentes entre elles extérieurement ; traçons deux autres circonférences tangentes extérieurement aux deux premières et complètement extérieures l’une à l’autre ; traçons ensuite quatre circonférences tangentes extérieurement respectivement aux quatre circonférences déjà tracées, mais extérieures les unes aux autres et ainsi de suite de manière que les rayons de ces circonférences successivement tracées tendent vers zéro et que chaque point de l’une d’elles soit limite de points de contacts ; l’ensemble de toutes ces circonférences et de leurs points limites forme une courbe ayant une infinité de points doubles qui est analogue à notre $F$ ; les circonférences doivent seulement être remplacées par des courbes de Jordan sans points doubles qui, comme nous le verrons au Chapitre suivant, n’ont de tangentes en aucun point.

  Dans son livre Rational Iteration [15], Norbert Steinmetz a fabriqué une figure qui ressemble beaucoup à celle que Fatou l’avait décrite.

Les différentes propriétés de nos ensembles « de Julia » ont été étudiés dans de longs articles écrits par nos deux auteurs [16].

Là aussi, avec le recul, il semble clair que Fatou, qui était de toute façon un mathématicien plus mûr que ne l’était Julia, avait mieux compris ce qui se passait, mieux vu les choses. Il a en particulier posé quelques questions dont certaines ont été la source de théorèmes de Douady (dans les années 1990), par exemple, ou de Xavier Buff et Arnaud Chéritat (plus récemment) [17], et font toujours l’objet de recherches...

Une question intéressante...

(bien qu’un peu extérieure au portrait dressé ici) serait de savoir pourquoi, après un si beau départ, les travaux sur l’itération se sont « arrêtés », jusqu’à leur renaissance dans les années 1970—80, lorsqu’on s’est mis à faire dessiner des ensembles de Julia par des ordinateurs.

D’abord, il n’est pas tout à fait vrai que rien n’a été fait. Fatou et Julia eux-mêmes ont continué à travailler un peu sur la question, il y a eu d’autres travaux, de Cremer et surtout Siegel, dans les années 1930—1940...

Ensuite, ici encore, le contexte n’est pas neutre. Je ne prendrai qu’un exemple, celui du nécessaire avancement de la « topologie générale » pour préciser et résoudre certaines questions évoquées ci-dessus. Il y avait bien un mathématicien, Felix Hausdorff , qui développait, vers 1918 lui aussi, des notions qui seraient utiles, bien plus tard. Mais, d’une part il était allemand, donc ses travaux, juste après la première guerre mondiale, ont été assez mal diffusés en France... et d’autre part il était juif, donc il s’est passé très peu de temps entre le moment où les relations entre les communautés mathématiques française et allemande se sont normalisées et celui où le régime nazi l’a empêché de travailler [18].

Un portrait ?

Derrière ce bref portrait de Pierre Fatou se cachent donc des mathématiques et des questions assez profondes. Encore une bonne raison de ne plus oublier ce mathématicien...