Les mathématiciens d’aujourd’hui connaissent tous le nom de Jacques Hadamard (1865-1963), non seulement parce qu’on l’a donné à une bibliothèque et à une « fondation mathématique »... mais aussi, par exemple, parce qu’ils ont rencontré, dans les cours d’analyse complexe de licence, une

ou un « théorème des trois cercles d’Hadamard »...

Note. Des détails un peu plus techniques sont cachés dans les « blocs dépliants », comme celui ci-dessus et celui-ci, qui en donne le mode d’emploi :

En effet, c’est d’analyse complexe, c’est-à-dire de « fonctions d’une variable complexe », que Jacques Hadamard, ce mathématicien universel, s’est occupé au début de sa vie mathématique. Ne vous arrêtez pas ici ! ces mots seront expliqués plus bas.
Un des triomphes de la théorie de ces fonctions fut la démonstration, en 1896, par Jacques Hadamard, du « théorème des nombres premiers » [1]. Il ne s’agit pas, comme le croient souvent nos étudiants, du théorème qui dit qu’il existe une infinité de nombres premiers : celui-là est élémentaire (voir ce billet). Il s’agit de dire, avec quelque précision, comment sont répartis les nombres premiers parmi tous les nombres entiers.

Note. Le théorème des nombres premiers est un théorème difficile, que j’enseigne en quatrième année d’université à des étudiants plutôt dégourdis. Pour cet article, je n’ai d’autre possibilité que de présenter l’énoncé et les outils principaux de la démonstration.

Les nombres premiers

2, 3, 5, 7, 11, 13, 17, 19, 23,... Les nombres premiers sont les nombres entiers qui ne sont divisibles que par eux-mêmes et par 1 [2]. Par exemple, le seul nombre qui est à la fois premier et pair est 2. Les nombres premiers jouent dans l’arithmétique le rôle de briques de base, parce que chaque nombre entier peut s’écrire comme un produit de nombres premiers.

Il y a une infinité de nombres premiers. Mais ce n’est pas tout... laissons la parole à Euler.

Euler

En 1747, Leonhard Euler écrivit

on n’a qu’à jeter les yeux sur les tables des nombres premiers, que quelques personnes se sont donné la peine de continuer au-delà de cent mille : et on s’apercevra d’abord qu’il n’y règne aucun ordre ni règle [3].

La distribution des nombres premiers parmi les nombres entiers semble en effet extrêmement désordonnée. Les lecteurs qui le souhaitent peuvent s’en faire une idée en regardant les listes de nombres premiers, par exemple ici. Par exemple, il peut y avoir un gros trou entre deux nombres premiers.

D’autre part, il est peut-être vrai (c’est la conjecture dite « des nombres premiers jumeaux ») qu’il y a une infinité de paires de nombres premiers à distance $2$ l’un de l’autre (comme $3$ et $5$, ou $59$ et $61$...). C’est un problème ancien et toujours irrésolu. Mais il y a eu des progrès récents, pour lesquels je renvoie à cet article.

Le théorème

Alors, de quoi s’agit-il ? Appelons, comme c’est la tradition, $\pi(n)$ (lire « pi de enne ») le nombre de nombre premiers parmi les $n$ premiers nombres entiers.

Le théorème des nombres premiers affirme que, lorsque $n$ devient très grand, $\pi(n)$ vaut à peu près $n/\ln n$. Ou encore que la proportion de nombre premiers parmi les $n$ premiers nombres entiers, $\pi(n)/n$, se comporte comme $1/\ln n$.

Cela pourrait s’écrire de la façon suivante

\[\frac{\pi(n)}{n}\sim\frac{1}{\ln n}.\]

Comme j’espère qu’il y a des lecteurs qui ne savent pas « comment se comporte $1/\ln n$ » et qui sont arrivés jusqu’à ce point de l’article, voici deux petites explications, de moins en moins techniques :

• la fonction $\ln n$ est croissante, donc $1/\ln n$ est décroissante, l’énoncé indique donc que $\pi(n)/n$ décroît,
• la fonction $\ln n$ croît vers l’infini, donc $1/\ln n$ décroît vers $0$, l’énoncé indique donc que $\pi(n)/n$ décroît vers $0$,
• en d’autres termes, bien qu’il y ait une infinité de nombres premiers, il y en a, en proportion, de moins en moins parmi les entiers... et même, en choisissant $n$ assez grand, on peut rendre cette proportion aussi petite qu’on veut.

Pourquoi cette idée ?

Certainement, cette idée est venue d’expériences et de calculs effectués par les mathématiciens, par Euler, par exemple, et aussi par d’autres. À défaut de posséder des ordinateurs, ils étaient d’excellents calculateurs et avaient un grand sens de l’observation. Quelques-uns des mathématiciens ayant contribué à cette idée sont cités un peu plus bas.

Observons, nous aussi. La première figure montre les valeurs de $\pi(n)$ pour $n\leq 56$.

La deuxième figure montre celles de $\pi(n)/n$ pour $50\leq n\leq 550$.

C’est une fonction qui décroît, mais assez lentement, du moins dans le domaine considéré, où $n$ est assez petit (inférieur à $550$).

Ces figures ne prouvent rien. Elles peuvent quand même être considérées un peu comme des expériences : elles indiquent peut-être une tendance, suggèrent un énoncé qui pourrait être vrai... mais qu’il faut encore démontrer.

Et comment faire ?
Avant d’indiquer des réponses à cette question, remarquons que l’on étudie un phénomène « discret » — des nombres entiers. Tel que l’énoncé est écrit (« vaut à peu près » est assez vague). Il s’agit en réalité d’un

et la démonstration va mobiliser des idées « continues » (par opposition à « discrètes »), et même plus.

Puisqu’il y a un passage à la limite pour $n$ « tendant vers l’infini », il faut aller regarder des nombres de plus en plus grands.

La troisième figure nous montre à nouveau $\pi(n)/n$, toujours en rouge, pour $n\leq 100\,000\,000$. L’axe horizontal est gradué d’une façon inhabituelle : 1 signifie $10^1$ (c’est-à-dire $10$), 2 signifie $10^2$ (c’est-à-dire $100$, et ainsi de suite jusqu’à $8$, qui signifie $10^8$, cent milliards. Pour passer de $1$ à $2$, on n’ajoute pas $1$ mais on multiplie par $10$, c’est ce qu’on appelle une « échelle logarithmique » et c’est bien pratique pour représenter des grands nombres. La courbe bleue représente, dans la même échelle, le graphe de la fonction $1/\ln x$.

La fonction zêta de Riemann

L’outil essentiel de la démonstration d’Hadamard est la fonction zêta de Riemann. Zêta (que d’ailleurs on prononce parfois dzêta) est le nom de la lettre équivalente au Z en grec. Elle s’écrit comme ça : $\zeta$. Par définition, $\zeta(k)$ est la somme d’une infinité de termes, les $1/n^k$, ce que l’on écrit :
\[\zeta(k)=\sum_{n=1}^{+\infty}\frac{1}{n^k}.\]
Dans cette formule, le symbole $\sum$ remplace beaucoup de points de suspension,
\[\zeta(k)=\frac{1}{1^k}+\frac{1}{2^k}+\frac{1}{3^k}+\cdots\]

On peut se contenter d’admirer cette formule. On peut aussi essayer de comprendre de quoi il s’agit.

En 1737, Euler (toujours lui) a démontré l’égalité [4]
\[\sum_{n=1}^{+\infty}\frac{1}{n^k}=\prod_{p\text{ premier}}\Big(1-\frac{1}{p^k}\Big)^{-1}\text{ pour }k>1.\]
Ici, $\prod$ résume aussi une formule avec beaucoup de points de suspension, multiplicatifs cette fois :
\[\Big(1-\frac{1}{2^k}\Big)^{-1}\Big(1-\frac{1}{3^k}\Big)^{-1}\Big(1-\frac{1}{5^k}\Big)^{-1}\cdots\]
La formule d’Euler relie cette somme infinie (sur tous les nombres entiers) à un produit infini (sur tous les nombres premiers).

De la formule d’Euler, on déduit déjà des informations sur la répartition des nombres premiers. Elle implique que

ce qui montre par exemple, que les nombres premiers sont plus « denses » que les carrés des nombres entiers, puisque

Peter Gustav Lejeune Dirichlet

Outre les « expériences » résumées dans les figures ci-dessus, l’énoncé du théorème des nombres premiers, équivalence entre $\pi(n)$ et $n/\ln n$, est une conjecture venue de travaux, notamment, de Legendre (1808) [5], Gauss (qui l’avait dit avant, mais ne l’avait pas écrit), et Tchebychev (1848)... Beaucoup de monde travaillait sur les nombres premiers et je n’ai pas la place ici de citer tout le monde. Il serait pourtant dommage de ne pas citer Dirichlet (au sujet de ses travaux sur les nombres premiers, et notamment du théorème de la progression arithmétique, voir cet article) — d’autant plus que Hadamard a utilisé ce que l’on appelle les « séries de Dirichlet » [6] dans sa démonstration.

C’est avec Riemann en 1859 que commence la véritable histoire de la répartition des nombres premiers. Il voulait comprendre $\pi(n)$ et essaya de l’écrire comme une somme infinie dont le terme principal [7] serait
\[\text{li}(n)=\int_2^n\frac{dt}{\ln t}.\]
Cette formule est donnée ici pour des raisons purement esthétiques.

Et parce que ceci donnerait le résultat voulu, et beaucoup plus.

Seul problème : Riemann ne réussit pas à le démontrer. Mais, au cours de ses essais, il eut l’idée grandiose de considérer
\[\zeta(s)=\sum_{n=1}^{+\infty}\frac{1}{n^s}\]
comme une fonction de la variable complexe $s$, c’est-à-dire en considérant $s$ variant dans le « plan complexe ».

Bernhard Riemann

Jusque là, l’exposant, noté $k$, des $n$ de la formule par laquelle nous avons défini $\zeta$
\[\zeta(k)=\sum_{n=1}^{+\infty}\frac{1}{n^k}\]
était surtout considéré comme un nombre entier, au mieux comme un nombre réel plus grand que $1$.

De $k$ à $s$, parenthèse sur le passage du réel au complexe

Les figures qui précèdent représentent des graphes de fonctions. L’axe horizontal représente les nombres habituels, les nombres réels. Étudier ce genre de fonction, c’est faire de l’analyse réelle. Dans l’analyse complexe, au lieu d’une variable qui est un nombre réel (et qu’on appelle souvent $x$), on considère une variable complexe : au lieu de varier sur une droite, elle varie dans un plan. On la décrit donc par deux coordonnées, abscisse et ordonnée, $x$ et $y$, que l’on regroupe sous la forme $x+iy$ (de préférence à $(x,y)$). Ce « nombre » $x+iy$ s’abrège souvent en $z$ (ou $s$ dans les notations de Riemann). Ici il faut faire quelques remarques :

• d’abord, les nombres réels sont présents parmi les nombres complexes : les notations sont assez bonnes pour que $x$ et $x+i0$ désignent la même chose,
• ensuite, c’est bien agréable d’être dans un plan plutôt que sur une droite : lorsqu’on rencontre un obstacle, on peut en faire le tour,
• à ces nombres $x+iy$, on peut prolonger les opérations des nombres ordinaires, en convenant que $i$ (qui est $0+i1$), élevé au carré, vaut $-1$ [8].

Fin de la parenthèse, retour à zêta...

Ici, cet article devient encore plus difficile. Je m’en excuse auprès des lecteurs, à qui j’espère avoir donné quand même une idée du parfum de ce beau théorème d’Hadamard.

Riemann a montré que la formule pour $\zeta(s)$ définissait une fonction de $s=x+iy$ pour $x>1$ (et $y$ quelconque) et qu’il était possible de prolonger cette fonction à tout le plan des $s$, sauf le point $s=1$ [9],

On démontre [10] que, pour $x<0$, $\zeta$ s’annule aux points $-2, -4,\ldots, -2n,\ldots$. Ces zéros de $\zeta$ sont qualifiés de « triviaux » [11]. Pour $x>1$, la formule d’Euler est valable et donc $\zeta$ ne s’annule pas (aucun des facteurs du produit infini ne s’annule). Enfin, on démontre que

De cette formule, on peut déduire $\zeta(s)$ ne s’annule pas pour $s$ réel dans $]0,1[$.

Bref, à part ceux que nous avons appelé « triviaux », les zéros de la fonction $\zeta$ sont complexes (non réels) et dans la bande $0\leq x\leq 1$.

L’hypothèse de Riemann. Ce qui nous amène au célèbre problème dit « hypothèse de Riemann » (ici « hypothèse » veut dire « conjecture » [12]) : tous les zéros non triviaux de $\zeta$ sont sur la droite $x=1/2$.

Démontrer cette conjecture rapporterait un million de dollars [13]. De nombreux mathématiciens célèbres ont essayé de démontrer cette conjecture. Je citerai seulement André Weil, qui est un de ceux qui s’en sont le plus approchés, au vingtième siècle, et qui en dit, répondant à une question de Pour la Science, en novembre 1979 :

PLS : Est-il un théorème que vous auriez voulu démontrer ?

André Weil : Autrefois, il m’est quelquefois venu à l’esprit que, si je pouvais démontrer l’hypothèse de Riemann, laquelle avait été formulée en 1859, je la garderais secrète pour ne la révéler qu’à l’occasion de son centenaire, en 1959. Comme en 1959 je m’en sentais encore bien loin, j’y ai peu à peu renoncé, non sans regret.

[...]

Or l’hypothèse de Riemann n’est pas un point isolé des mathématiques, mais au contraire, constitue un verrou de la théorie des nombres. Pour la démontrer, il faudrait d’abord mieux connaître, et par conséquent faire progresser la théorie des nombres.

... une conjecture, un prix, une thèse...

Un des tout premiers à « démontrer » l’hypothèse de Riemann fut, en 1890, Thomas Stieltjes. Ceci avait beaucoup excité son ami Charles Hermite, qui était alors le mathématicien « phare » en France et le président de l’Académie des sciences. Au point que cette Académie mit au concours un Grand Prix des sciences mathématiques, pour 1892, sur cette question.

Thomas Stieltjes

Heureusement, le sujet du prix était libellé ainsi :

Détermination du nombre des nombres premiers inférieurs à une quantité donnée.

Lorsque Stieltjes s’aperçut que sa démonstration était fausse, le sujet convenait à ce qu’avait fait le jeune Jacques Hadamard dans sa thèse (des propriétés de la fonction zêta)... et c’est lui qui se vit décerner ce prix.

C’est quatre ans plus tard que Jacques Hadamard démontra un autre théorème sur la répartition des nombres premiers, le théorème remarquable (pour lequel il n’eut pas de prix) dont il est question dans cet article.

... et retour au jeune Jacques Hadamard

Jacques Hadamard

Revenons donc à notre héros de l’heure, Jacques Hadamard, alors âgé de trente ans. Car c’est d’un théorème démontré et pas d’une conjecture qu’il s’agit dans cet article. Il l’a démontré en deux étapes :

• d’abord, il a démontré que $\zeta$ n’a pas de zéro sur la droite $x=1$,
• et puis, il a démontré que ceci est suffisant pour avoir le résultat espéré sur $\pi(n)$.

Ceci a fait l’objet d’une annonce aux Comptes rendus de l’Académie des sciences, le 22 juin 1896, et d’un article au Bulletin de la Société mathématique de France [14].