« Fatou, Julia, Montel, le grand prix des sciences mathématiques de 1918, et après… » c’est le titre du beau livre d’histoire et de mathématiques, nourri de documents et d’explications, que nous donne Michèle Audin. On y trouve les trois protagonistes, leur entourage, la guerre, les relations franco-allemandes, et le thème de l’itération proposé par l’Académie pour un grand prix. Il est fascinant sous tous les rapports, et de quelque façon qu’on le lise.
J’ai commencé par les appendices, constitués pour une bonne part de lettres de Fatou à Montel, parce que j’étais impatient de découvrir un Fatou que j’ignorais. Le Fatou que je connaissais était un personnage attachant et mystérieux : le Fatou de la thèse, première application de la mesure de Lebesgue à l’analyse complexe ; celui des mémoires du bulletin de la SMF sur l’itération, que j’avais eu le bonheur de lire à l’Institut Mittag Leffler quand Carleson en était le directeur ; et aussi l’astronome ne parvenant à la titularisation qu’à la fin de sa vie. Il m’était sympathique comme homme à partir de quelques indices : l’attribution à Parseval de son théorème sur l’égalité des normes \(L^2\) et \(l^2\) d’une fonction et de la suite de ses coefficients de Fourier, sur la base d’un mémoire de Parseval de 1806 qui naturellement est loin de ce résultat ; et aussi son exemple d’une série trigonométrique partout convergente qui n’est pas une série de Fourier-Lebesgue, à savoir la série de terme général \(sin nx \log n\). Cet exemple est un passage obligé entre la théorie de Riemann des séries trigonométriques, complétée par Cantor, et la totalisation de Denjoy ; on le trouve à la fin du livre de Lebesgue sur les séries trigonométriques, qui d’ailleurs cite Fatou à plusieurs reprises.
Les lettres de Fatou n’étaient évidemment pas destinées à publication. On le voit à l’œuvre en mathématiques ; dans une lettre à Fréchet il introduit une notion de facteur de convergence d’une série de Fourier qui me paraît avoir un intérêt actuel, en même temps qu’il annonce ses travaux sur l’itération et sur la théorie des nombres. Dans les lettres à Montel, très libres de ton, il apporte ses commentaires aux sujets traités par Montel, compléments ou critiques, de façon toujours simple et amicale, et il montre une grande variété d’intérêts en mathématiques, dans des directions dont on reconnaît aujourd’hui la portée. Il y est aussi question des mathématiciens et de leurs carrières, et de sa place parmi eux. Il a parfaitement conscience de sa valeur, mais il se résigne à l’ostracisme dont il est l’objet à la Sorbonne, au Collège de France et à l’Institut. « Quant à moi qui suis résigné d’avance à ne jamais arriver, je continuerai tranquillement mon métier de sous-ordre…. C’est peu glorieux, mais ma philosophie s ‘en accommode,et cela ne m’empêchera pas de faire des math. dans la mesure de mes moyens. » (p.226 du livre)
Outre ces lettres, Michèle Audin consacre 50 pages à Fatou, et elle a mené pour cela un vrai travail d’historienne-détective. Pierre Fatou 2Voir sur le site l’article Pierre Fatou, mathématicien et astronome de Michèle Audin. est un personnage qu’elle s’est attachée à découvrir, et le résultat est non seulement de le sortir de l’ombre, mais de le mettre en pleine lumière aux cotés de Gaston Julia et de Paul Montel. Il vaudrait la peine de publier les œuvres de Fatou, et également celles de Montel, pour ne pas laisser les six beaux volumes des œuvres de Julia comme seuls témoins dans les bibliothèques sous forme d’œuvres complètes de la belle aventure mathématique que nous raconte Michèle Audin.