Disons, pour commencer en douceur, que c’est un dessin.
Un joli dessin généré par un programme.
Et ce programme est très simple.

Des dessins générés par ordinateur, il y en a plein. Alors qu’est-ce qu’il a de particulier celui-là ?

Je ne saurais pointer la cause de son succès. Aussi vais-je vous le présenter, à vous de juger.

De multiples représentations du même objet

D’abord, l’ensemble de Mandelbrot est un sous-ensemble du plan. C’est-à-dire une collection de points. Celle-ci contient des aires mais également des courbes lisses, des filaments, des points d’où émanent de multiples branches, et d’autres choses.

Si on veut le représenter simplement, en noir sur fond blanc, voici ce que cela donne :

L’ensemble de Mandelbrot, brut

Voici le genre d’images qu’on peut trouver sur Internet :

Trois exemples de représentations de l’ensemble de Mandelbrot

Les images montrent des détails de l’ensemble, mis en relief de diverses façon, au sens propre comme au sens figuré. Crédits, de gauche à droite : Wolfgang Beyer, Jos Leys, Aexion.

Voire des représentations plus fantaisistes :

Vues originales sur l’ensembe de Mandelbrot

Copyright, dans l’ordre de lecture : Arenamontanus, Paul Nylander, da_duke (dbki), Melinda Green.

On croit sentir comme une préférence pour les tons bleus.

Toutes ces images sont calculées. Certaines sont conçues pour représenter différentes informations sur le phénomène mathématique en jeu (caractère scientifique). D’autres recherchent l’esthétisme (caractère artistique) par un choix de formules, parfois mariées avec l’insertion d’images traditionnelles.

Systèmes dynamiques et fractals

Tout cela est bien joli mais qu’est-ce ?

Il s’agit de systèmes dynamiques. Quelque chose qui évolue en suivant une règle fixe et invariable. Comme les planètes autour du soleil. On sait depuis un siècle que, même avec des lois physiques constantes, un système simple peut avoir un comportement irrégulier ou imprévisible. Je répète : on sait depuis un siècle (les travaux de Poincaré) que même avec des lois physiques constantes (la loi de la gravitation universelle de Newton par exemple), un système simple (2 planètes et une étoile suffisent) peut avoir un comportement irrégulier ou imprévisible (il n’est pas clair que des planètes de notre système solaire ne rentreront jamais en collision entre elles, ou avec le soleil, ou bien qu’elles ne seront jamais éjectées de leurs orbites). C’est ce qu’on appelle aujourd’hui le chaos.

Figure issue des systèmes dynamiques

Cette figure illustre le chaos dans un système dynamique simplifié faisant partie de la même famille que celui décrivant le mouvement des planètes. Copyright Scholarpedia.

Il n’est peut-être pas complètement surprenant qu’une règle d’évolution répétée à l’infini puisse être associée à des objets fractals, plus précisément possédant une forme d’auto-similarité : qu’on les observe au microscope ou dans leur globalité, on voit les mêmes anfractuosités, comme dans l’exemple ci-dessous.

Une fractale

La fougère de Barnsley, un exemple d’image fractale de type IFS (Iterated Function System). Un même motif se répète à différentes échelles : la fougère tout entière est
similaire à ses parties bleu ciel, rouge et bleu foncé. Ces parties sont donc elles-mêmes composées de mini-fougères, et ainsi de suite.

En mathématiques, on s’intéresse à des systèmes dynamiques agissant sur des quantités mathématiques, et non sur des quantités physiques. Typiquement, des nombres. La règle de passage d’un nombre au suivant est une formule. Tout cela peut aussi bien être le modèle d’un véritable système physique qu’un simple jeu.
Un objet fractal dans la nature n’est autosimilaire que sur une certaine gamme d’échelles. Par exemple le chou romanesco est fractal sur 5 ou 6 générations s’étalant de 20cm à 0,1mm environ.
Par contre, une fractale en mathématique l’est indéfiniment.

En passant : l’adjectif fractal a été inventé par Mandelbrot. Les deux genres du nom commun, une fractale et un fractal, sont acceptés, profitons-en !

Dynamique holomorphe

Au début du 20e siècle, Pierre Fatou et Gaston Julia ont défriché un sous-domaine appelé dynamique holomorphe. Ils se sont intéressés à des systèmes particuliers, agissant sur des nombres, avec des formules parmi les plus simples qui soient. Les nombres en question sont des nombres complexes. Si vous ignorez ce que c’est, il s’agit de quantités représentées par deux coordonnées (tout comme les points d’un plan). Ils furent inventés au 16e siècle par les mathématiciens comme auxilaire facilitant la résolution d’équations mais ont trouvé de vastes et profondes applications en mathématiques et en sciences physiques. On peut additionner les nombres complexes, les multiplier, les inverser, et faire plein d’autres choses avec.

Fatou et Julia ont ainsi étudié les propriétés de certains systèmes dynamiques où varie un nombre complexe selon une règle simple répétée à l’infini.

Ils ont dévoilé la richesse de ces systèmes, défini les ensembles appelés aujourd’hui ensembles de Julia, réalisé leur caractère autosimilaire, donc fractal... mais le mot n’existait pas car il n’a été introduit que bien plus tard, par... Benoît Mandelbrot ! Ils ont démontré bien d’autres propriétés, et émis des conjectures.

Un ensemble de Julia, par Michael Becker

Si on sait où chercher, on peut trouver de magnifiques spécimens.

Détail d’un ensemble de Julia

En gros, il y a des points qui bougent dans le plan, par à-coups, selon une règle que l’on peut choisir, et l’ensemble de Julia, c’est là où le système dynamique présente une dépendance sensible aux conditions initiales.

Aujourd’hui, la dynamique holomorphe comprend d’autres systèmes que ceux considérés par Fatou et Julia.

Benoît Mandelbrot

Après les travaux des fondateurs, le domaine tomba un peu dans l’oubli. Quand arrivèrent les ordinateurs, on put explorer des tas de phénomènes mathématiques requérant du calcul intensif, dont le zoo ouvert par Julia et Fatou.

Ainsi, quand Benoît Mandelbrot décida d’utiliser les ordinateurs d’IBM dans les années 80 pour représenter un certain ensemble mathématique lié à la dynamique holomorphe, il obtint un fort joli dessin très intriguant. Brooks et Matelski semblent avoir la primeur avec une image de 70 par 30 pixels en 1978, voir [1], mais ils sont vagues sur la façon dont ils l’ont obtenue.

L’ensemble de Mandelbrot, par Brooks et Matelski

Toujours si vous connaissez les nombres complexes, vous pouvez déplier le bloc ci-dessous.

Que représente l’ensembe de Mandelbrot ? En gros à chaque point de l’image correspond un système dynamique sous-jacent. Le point joue le rôle d’un paramètre ajustable. Différents points correspondent à des ensembles de Julia différents, à des systèmes différents, et selon le comportement de ces derniers, on peut décider de colorier le point de telle ou telle façon. L’ensemble de Mandelbrot est l’ensemble des paramètres pour lesquels le système a une certaine propriété (l’ensemble de Julia est en un seul morceau). D’où son surnom de Chef d’orchestre.

Le chef et son orchestre

À chaque point du plan, que ce point soit dans M ou pas, correspond un ensemble de Julia.

Les premières images étaient bien sûr de qualité moindre que ce que l’on obtient aujourd’hui en une fraction de seconde sur un simple ordinateur portable.

Anecdote : J’ai entendu dire que sur certaines images, Mandelbrot avait découvert des îlots, ce que l’on a reconnu depuis comme des petites copies de l’ensemble de Mandelbrot. Les images devaient ressembler à celle ci-dessous, obtenue par un algorithme basique.

Mandelbrot fit part de sa découverte dans une publication, illustrée par une telle image, et l’histoire dit que l’éditeur prit les îlots pour des tâches et les effaça avant l’impression.

En réalité il y a des filaments qui relient les îlots. Pour les faire apparaître, il faut ruser. On peut utiliser soit une coloration dépendant de ce qu’on appelle techniquement le temps d’échappement (image ci-dessous à gauche), soit une astuce mathématique nommée estimateur de distance (image de droite).

On doit à Benoît Mandelbrot d’avoir su reconnaître l’importance et l’omniprésence des objets fractals, d’avoir fait émerger ce concept, de l’avoir unifié, que ce soit en mathématiques abstraites ou en science appliquée.

Aparté : pour moi, les mathématiques sont une science expérimentale. Il ne suffit pas en effet d’admirer les idées de nos aînés pour progresser. Il faut les appliquer sur des exemples ou des problèmes qu’on nous suggère. C’est alors qu’on voit émerger des faits, des régularités que notre imagination ne pouvait soupçonner. Le travail d’abstraction vient ensuite pour transformer un amoncellement de faits, d’expériences et d’intuitions, en théories/principes/outils concis, clairs, généraux et par là même à la fois beaux et puissants. Je décris là un point de vue personnel sur le travail de mathématicien. Il me semble avoir lu que Gauss et Euler étaient de fameux calculateurs, ce n’est peut-être pas un hasard.

Douady et Hubbard ont débuté l’étude mathématique proprement dite de l’ensemble de Mandelbrot. C’est eux qui ont décidé de l’appeler ainsi. Pour abréger, on le note M.

Hubbard m’a dit que son intérêt pour les ensembles de Julia lui vient d’expériences numériques qu’il mena à la même époque que Mandelbrot, concernant une méthode de résolution d’équation appelée Méthode de Newton (encore lui). Des ensembles de Julia apparaissent alors naturellement.
À ce sujet on peut consulter l’article de Tan Lei : La méthode de Newton et son fractal.

Vertige

L’ensemble de Mandelbrot, M, fit la couverture de Scientific American en 1985. Moi j’avais 10 ans. Les ordinateurs personnels existaient depuis 5 ans environs. À l’époque c’était l’Atari ST qui dominait le marché. Il était 1000 fois moins rapide qu’un PC d’aujourd’hui. Je ne lisais pas Scientific American, bien sûr ! Mais 1 ou 2 ans plus tard, une revue de programmation francophone donnait l’algorithme, ainsi qu’un petit programme à taper pour l’implémenter sur un Atari. Je me souviens de l’émerveillement devant la beauté de l’objet. Je me souviens de la surprise procurée par le contraste entre sa complexité d’une part et la simplicité de son algorithme d’autre part. Je me souviens de l’agacement devant la lenteur du rendu.

Mais d’où vient la fascination pour M ? Qu’est-ce qu’il a de plus que les autres fractals ?

Notez déja son aspect amusant, sorte de bonhomme bien portant ou d’insecte avec son rostre. Ensuite, la co-existence de tous ces disques (ils ne sont pas parfaitement circulaires mais ça ne se voit pas) et de ces arbres aux filaments irréguliers. Puis la variété des paysages, selon l’endroit où l’on zoome.

Différents détails de M

Les autres objets fractals ne présentent pas une telle variété dans une même entité. Certains agrandissements montrent d’ailleurs un enrichissement considérable. Et puis à bien y regarder il y a un aspect combinatoire, une sorte d’ordre que n’ont pas d’autres images fractales.

Image fractale dite de Lyapounov

Cerise sur le gâteau : les petites copies de M dans M.

On peut également regarder les magnifiques images de l’article de Jos-Leys Benoît Mandelbrot.

Douady et Hubbard ont donné une description de la combinatoire de l’ensemble de Mandelbrot, c’est-à-dire de la façon dont les embranchements et les bulbes se succèdent. Ils ont aussi expliqué pourquoi il y a des copies de M dans M.

On peut trouver sur Internet des films de vertigineux plongeons au cœur de M : par exemple http://vimeo.com/12185093. Vous pouvez aussi taper Mandelbrot zoom dans votre moteur de recherche favori. Ou utiliser un logiciel—il y en a foison !—tel Xaos qui permet de zoomer en temps réel.

Recherche fondamentale

Mais l’ensemble de Mandelbrot n’est pas qu’un jeu. C’est une sorte de passage obligé dans la compréhension des systèmes dynamiques. En effet : d’une part il s’agit d’une classe de systèmes parmi les plus simples qui soient après les systèmes dits linéaires. D’autre part on a démontré l’universalité de M : dans la catégorie des systèmes dynamiques holomorphes, on en retrouve des copies partout !

Des Mandelbrots, partout

Quatre exemples de « lieux de bifurcation » dessinés en noir sur fond coloré, associés à quatre différentes familles de systèmes dynamiques holomorphes. Il y a des petites copies de M partout. McMullen a démontré qu’elles sont « denses », c’est à dire que sur chaque dessin il y a une infinité de copies et que près de chaque point noir, quel que soit le niveau de zoom, on peut en trouver une.

J’ai eu la chance de pouvoir mener depuis 1997 des travaux de recherche en dynamique holomorphe. Ma rencontre avec Adrien Douady fut déterminante dans mon choix d’orientation, et c’est sous sa direction que j’ai effectué ma thèse. Je n’étudie pas directement l’ensemble de Mandelbrot mais plutôt ceux de Julia. Malgré la profusion et parfois la complexité des outils mathématiques à notre disposition, tout n’est pas encore démontré. Comprendre le comportement des systèmes dynamiques sous-jacents, comprendre les propriétés des ensembles de Julia, demanderont encore de nombreuses années de travail. De même pour M : par exemple, le modèle combinatoire de Douady et Hubbard est-t-il une représentation fidèle de M (c’est la conjecture MLC) ? Si vous répondez à cette question, vous gagnerez peut-être une Médaille Fields, ou un prix équivalent si vous avez dépassé vos 40 ans. À vos marques...