J’ai enseigné pendant cinquante ans, de 1960 à 2010, d’abord au lycée, puis à l’Université, à l’École polytechnique, et enfin à l’ENS de Cachan. J’ai corrigé des dizaine de milliers de copies. J’ai encadré plus de cinquante thèses. Je devrais donc savoir comment enseigner les mathématiques. Je ne le sais toujours pas. Je vais dire mes échecs dans la transmission des mathématiques, puis raconter quelques miracles auxquels j’ai assisté. Cela sera décousu, mais je crois pouvoir arriver à une conclusion.

Sans m’en rendre compte je viens de faire un choix. En répondant à la demande de Thierry Horsin, je ne me suis pas posé la question de savoir quelles mathématiques il convient d’enseigner. Ce qui m’a tourmenté toute ma vie et me tourmente encore aujourd’hui est de savoir comment transmettre, comment obtenir que l’enfant auquel je m’adresse se sente concerné par ce que je lui raconte, comment faire pour que le visage de cet enfant s’illumine du bonheur d’avoir compris.

Commençons par le début, par mes expériences d’élève. C’était à Tunis, dans les années 50. La Tunisie n’était pas la France, mais un protectorat. Les lycées français étaient donc payants. Comme en France à la même époque, il fallait réussir un examen pour avoir le droit d’entrer au lycée. C’était le fameux examen d’entrée en sixième. L’enseignement au lycée avait donc un haut niveau. Ma mère m’imposa la filière latin-grec. Je ne le regrette pas, tant j’ai aimé la littérature et la pensée grecques. Je lis et relis toujours Platon avec passion. La cruauté de la guerre du Péloponnèse racontée par Thucydide et la défaite finale d’Athènes me font toujours souffrir. Mais dans cette filière latin-grec l’enseignement de la physique était pratiquement inexistant.

L’enseignement des mathématiques que j’ai reçu était basé sur la géométrie et le raisonnement. On ne cherchait pas à relier les mathématiques aux autres sciences. Pas de pluridisciplinarité. J’adorais la géométrie. J’admire encore aujourd’hui les propriétés de la transformation géométrique qui s’appelle l’inversion, j’aime les faisceaux de cercles, etc. Mais voici ce que j’aimais par-dessus tout à Tunis. L’élève, par la justesse et la qualité du raisonnement qu’il élabore, pouvait devenir l’égal du maître. Je pouvais prouver que j’avais raison et que le maître se trompait. Je pouvais montrer que ma démonstration était plus belle et plus simple que la sienne. Cela ressemble fâcheusement à «l’élève au cœur de l’acquisition du savoir». Mais en aucun cas! En effet je ne pouvais discuter avec le maître qu’en me hissant à son niveau de connaissances et de rigueur. Le dialogue d’égal à égal avec le maître est la fin, l’aboutissement, la consécration d’une initiation. Ce dialogue n’est évidemment pas le point de départ. Il n’y a aucune flatterie, aucune complaisance envers les élèves dans cette vision de la transmission et de l’échange avec le maître.

En revanche l’enseignement de la physique et de la chimie que j’ai reçu reposait sur la soumission ou la croyance. Qui aurait pu reproduire les mesures délicates et précises faites par Michelson et Morley? Ce qu’on nous demandait, c’était seulement d’y croire. C’est pour lutter contre ce type d’enseignement que Georges Charpak, Pierre Léna et Yves Quéré ont créé «la main à la pâte».

L’enseignement des mathématiques reposait sur une éthique sévère prônant la vérité et la démocratie: devant la vérité mathématique nous étions tous égaux. J’étais dans un rapport d’égalité avec mon professeur. Je n’étais pas soumis à sa parole. Un raisonnement effectué par le professeur n’était juste que si j’y acquiesçais. Apprendre les mathématiques, c’était avant tout apprendre à penser par soi-même. Or, dans les années cinquante, nous vivions la pire crise de la guerre froide. Beaucoup d’idéologues et de dictateurs prétendaient penser à notre place. Il me semblait essentiel d’apprendre à penser par moi-même, de savoir distinguer le vrai du faux, d’apprendre à critiquer une argumentation. Pendant longtemps, les mathématiques ont été pour moi l’une des voies conduisant à cette recherche de la vérité. La formation de l’esprit que donnent les mathématiques nous prépare à oser formuler une pensée belle, fière et libre, comme celle de Descartes, de Spinoza ou de Kant. Ce ne sont pas des mots creux. Je crois en l’autonomie de l’esprit. A Johannesburg, le 17 juillet 2018, Barack Obama nous conjurait de cultiver chez les enfants des écoles l’esprit critique nécessité par les enjeux du monde contemporain. Obama a dit: «We have to insist that our schools teach critical thinking to our young people, not just blind obedience.» Kant écrivait: «Le mouvement des Lumières est la sortie de l’homme de sa minorité dont il est lui-même responsable. Minorité, c’est-à-dire incapacité de se servir de son entendement sans la direction d’autrui, minorité dont il est lui-même responsable, puisque la cause en réside non dans un défaut de l’entendement mais dans un manque de décision et de courage de s’en servir sans la direction d’autrui. Sapere aude! Aie le courage de te servir de ton propre entendement! Voilà la devise des Lumières.»

Au lycée Carnot de Tunis, j’admirais et j’aimais mes professeurs. J’aimais mes professeurs à travers la beauté et la richesse de ce qu’ils me transmettaient. Enseigner me semblait le plus beau des métiers. Je n’ai pas changé d’avis. Mais comment bien enseigner aujourd’hui? Le lycée et l’Université sont ouverts à tous et il faut donc élaborer une pédagogie adaptée à un public très différent de celui du lycée Carnot de Tunis des années cinquante. Quelle est cette pédagogie? Doit-on, année après année, réduire la part du raisonnement dans l’enseignement des mathématiques? Les mathématiques seraient-elles devenues une science expérimentale et les exercices demandés aux élèves se limiteraient-ils à des vérifications à l’aide de calculettes? Si cela était, les mathématiques ne pourraient plus jamais être le premier pas vers une pensée libre, fière et altière.

Je quittai Tunis en août 1956 et rentrai à l’ENS Ulm en septembre 1957. En 1958 je rêvais encore de retourner à Tunis, sitôt mes études terminées. Mais en 1960, agrégé, je fus confronté à d’autres choix: soit débuter une thèse et bénéficier automatiquement d’un sursis, soit faire mon service militaire et aller combattre en Algérie des hommes dont je comprenais trop bien la révolte. La guerre d’Algérie semblait ne jamais devoir finir. M’engager dans la recherche scientifique était une décision grave qu’on ne pouvait faire dépendre d’un marchandage indigne. «Faites une thèse ou bien je vous envoie torturer et tuer en Algérie» hurlait l’Armée. Je ne voulais pas obéir. Je choisis une voie moyenne, un compromis boiteux. Je résiliai mon sursis, renonçai à être officier et, devenant soldat-professeur (c’est-à-dire professeur sans salaire, effectuant son service militaire), demandai à être affecté au Prytanée militaire de La Flèche. J’y ai passé trois années merveilleuses (incluant deux années de service militaire).

Le Prytanée militaire de La Flèche fut fondé par Henri IV en 1604 et s’appelait alors le Collège Royal Henri-IV. René Descartes y fut élève, ainsi que son ami, Marin Mersenne. Au Prytanée, j’avais deux classes de «mathélème», chacune comportant cinquante élèves. Je leur donnais un problème par semaine, et, à chaque fin de semaine, j’avais cent copies à corriger dont certaines avaient dix pages. J’ai beaucoup appris en corrigeant ces milliers de copies. Parmi mes élèves de cette époque, certains sont devenus des chercheurs. Je pense à François Ledrappier et à Paul-Jean Cahen. D’autres sont devenus de grands ingénieurs, comme Michel Virlogeux, concepteur du viaduc de Millau. J’ai été inspecté deux fois pendant ces trois ans. Les deux inspecteurs généraux ont tiré la même conclusion de leur visite. J’enseignais avec passion, fougue, mais avec un fâcheux désordre. Par exemple j’aurais dû consigner le déroulement de mes leçons sur un cahier de texte. J’ignorais cet usage. Les inspecteurs généraux m’ont conseillé l’enseignement supérieur. J’ai suivi ces sages conseils et me voilà devenu, en octobre 1963, maître-assistant au département de mathématiques de l’Université de Strasbourg. En 1967 j’avais terminé une thèse et fus nommé au centre d’Orsay qui n’était, à cette époque, qu’une extension, une antenne de la Faculté des sciences de Paris.

Mais retournons à notre question. Comment bien enseigner les mathématiques? Comment susciter la ferveur des élèves? Doit-on motiver les mathématiques que l’on enseigne? Si oui, comment le faire? Avant de donner une réponse, je souhaite évoquer des souvenirs.

Duong H. Phong

Duong H. Phong (Columbia University) me dit un jour: «J’ai horreur que le conférencier fournisse une motivation. Il doit démontrer son théorème et ne surtout pas le motiver. La motivation, c’est moi qui la trouve, c’est mon affaire.» J’étais stupéfait. Mes élèves ont toujours réclamé des motivations. «A quoi ça sert ?» demandent-ils. «Si ce n’est pas utile, pourquoi l’apprendre ?»

La motivation n’est pas toujours une aide. Un appui paradoxal à la critique de Phong me fut donné par certains de mes étudiants du Mastère «Mathématiques, Vision et Apprentissages» (MVA) à l’ENS-Cachan. A la fin du cours les étudiants devaient répondre à un questionnaire permettant une critique anonyme et constructive de l’enseignement qu’ils avaient reçu. En ce qui me concernait un bon tiers des étudiants aimaient que l’étude de la transformée de Fourier soit motivée par son rôle dans la cristallographie aux rayons X et la découverte (F. Crick et J. Watson) de la structure de l’ADN. Mais d’autres étudiants étaient opposés à l’effort double qui leur était demandé: maîtriser simultanément le symbolisme mathématique et la réalité concrète des applications; je leur imposais de comprendre deux langues alors qu’ils n’en maîtrisaient aucune.

La même critique m’a été formulée à Jyväskylä (Finlande), en août 1995. Je devais donner un cours sur les ondelettes dans le cadre d’une école d’été. Mon public se composait de scientifiques (étudiants et chercheurs) de différentes disciplines. Quelle ne fut pas ma surprise lorsqu’à la fin du cours, un de ces étudiants me dit: «Mais pourquoi vous refusez vous à faire un cours bien structuré, du type définition, lemme, théorème...?» J’avais tout faux dans mes échappées pluridisciplinaires. Pour certains étudiants, une motivation crée un insupportable mélange des genres.

Donald Geman

Malgré tout j’aimais enseigner en motivant ce que je présentais et, en gros, mon cours de mastère plaisait à une majorité d’étudiants. Ceci, jusqu’au jour où Don Geman a enseigné dans ce même mastère. Les étudiants lui ont immédiatement octroyé la première place dans leur classement. Intrigué j’ai demandé à Geman l’autorisation de suivre son cours et j’ai continué à le faire jusqu’à la fin de l’année tant j’avais de plaisir à l’écouter. Et j’ai tout compris. Geman enseignait mille fois mieux que moi. Geman faisait bien des démonstrations, mais il accompagnait chacun des théorèmes de son cours par un certain nombre de petits «programmes-projets». Il y suggérait des expérimentations sur ordinateur permettant d’illustrer, de vérifier ou d’examiner des cas limites du théorème étudié. L’expérimentation ne remplaçait pas la démonstration, mais l’enseignement «théorique» au tableau était complété par des «travaux pratiques» de sorte que l’étudiant apprenait à se servir de ses connaissances dans des circonstances assez réalistes. Cela constituait une préparation à un éventuel travail d’ingénieur de recherche. En outre Geman «corrigeait les copies» lors du cours suivant. Je n’ai jamais pu ni su imiter Don Geman. Enseigner les mathématiques, c’est transmettre des connaissances fournissant un élan à l’élève et lui permettant alors d’agir de façon autonome. Je compléterai et préciserai cette définition à la fin de cet essai.

Sans pouvoir imiter Don Geman, j’enseignais avec ferveur en essayant de communiquer ma joie et mon émotion aux étudiants. Et cette ferveur, cette émotion transmise, je la retrouve dans un beau souvenir.

Alberto Calderón

Antoni Zygmund

Au département de mathématiques de l’Université de Chicago, à la fin des années 70, nous allions tous écouter le cours «gradué» donné par Alberto Calderón. C’était un régal, tant Calderón était clair et lumineux. Et soudain Calderón eut un trou. Impossible d’aller plus loin. Alors il s’adressa à Zygmund qui était assis au premier rang: «But Antoni, it is a theorem we proved seven years ago, we should know the proof». Et ils sortirent pour aller travailler dans le bureau de Zygmund, et revinrent un bon quart d’heure après avec la preuve. Quelle émotion! La science en train de s’élaborer devant les étudiants se mêlait à l’histoire de la science ! C’est dans ce même bureau de Zygmund que dix ans plus tard, en 1987, Stéphane Mallat et moi, enfermés pendant trois jours, avons découvert les liens entre les ondelettes, les filtres miroirs en quadrature et l’analyse multi-résolution.

En 1979 j’ai dû assurer les «petites classes» à l’École polytechnique. J’illustrais le cours de Laurent Schwartz par des exercices appropriés. Pour cela j’allais d’abord écouter Schwartz. Quelle merveille ! Quel enchantement. Un des jeunes polytechniciens m’a cependant avoué: «Pendant une heure on est totalement sous le charme et, en sortant, on s’aperçoit qu’on n’a rien compris ni retenu». En fait cela n’avait aucune importance, car le cours oral n’était qu’une incitation à lire attentivement le cours écrit, distribué sous la forme de fascicule. J’ai enseigné sept ans à l’École polytechnique et, depuis, j’ai adopté le principe que le cours oral ne soit qu’un amuse-gueule préparant le repas principal. Ce repas sera l’étude approfondie du cours écrit, distribué à tous les étudiants. C’est le même principe qui est utilisé dans les universités américaines. L’enseignant doit illustrer un manuel de référence, le «textbook.» Avant d’enseigner à l’X, je trouvais ce principe trop contraignant. Depuis, m’étant mis à la place des élèves, je le trouve parfait, à ceci près que le «textbook» peut changer d’une année sur l’autre et être élaboré par l’enseignant lui-même.

Même en adoptant le système du textbook, le cours oral est extrêmement utile. Il permet à l’enseignant de présenter une vision, des perspectives, des intuitions qu’aujourd’hui on ne peut décrire dans un article scientifique, car elles mêlent le langage scientifique à des images, des phrases, des perspectives décrites en utilisant les ressources de la langue courante. En outre le cours oral peut présenter l’élaboration, la naissance, le surgissement de la découverte. Le professeur peut alors tirer parti de sa mauvaise mémoire et redécouvrir une preuve devant les élèves, comme Calderón dans l’anecdote que j’ai racontée.

Georges Poitou (il fut Doyen de l’Université Paris-Sud de 1968 à 1970, puis directeur de l’Ecole Normale Supérieure) me disait un jour que les universités sont des conservatoires. Je fus choqué par cette remarque, car croyais naïvement que mon travail de recherche était révolutionnaire (je confondais conservatoire et conservateur). Mais aujourd’hui je comprends ce que Poitou voulait dire. Enseigner, c’est transmettre un héritage, un trésor. Et l’enseignant doit faire sentir, par son respect et son enthousiasme pour les mathématiques qu’il raconte, qu’il fait un cadeau somptueux aux élèves en leur transmettant cet héritage. Les élèves doivent sentir passer un frisson, une émotion de nature religieuse, frisson qui vient du contact avec ce qui est sacré.

Cette émotion, ce frisson je les avais ressentis pour la première fois à Tunis quand j’avais seize ans. En avril 1956 Jean-Pierre Kahane fut invité à faire une conférence à l’Institut des Hautes études (cet organisme jouait le rôle de l’Université de Tunis qui n’existait pas encore). Un exposé à l’Institut des Hautes études était un événement culturel autant que scientifique et le «Tout-Tunis» était venu écouter Kahane. Lycéen de 16 ans, j’étais l’un de ces auditeurs et je me souviens avec émotion du contenu de la leçon donnée par Kahane. Je crois encore entendre ce merveilleux exposé. Il s’agissait de séries de Fourier et, plus précisément, de la réciproque du théorème de Paul Lévy. Ce théorème dit que toute fonction analytique opère sur l’algèbre de Wiener. L’algèbre de Wiener ${\mathcal W}$ se compose des fonctions continues et $2\pi$ périodiques dont la série de Fourier est absolument convergente. Si $f$ appartient à ${\mathcal W}$ et si $F$ est holomorphe au voisinage de l’ensemble des valeurs prises par $f$ alors la fonction composée $F\circ f$ appartient encore à ${\mathcal W}.$ C’est le théorème de Paul Lévy. Kahane ne savait pas encore démontrer la réciproque (seules les fonctions analytiques opèrent sur ${\mathcal W}$) et il nous racontait une première étape de cette recherche qu’il conduisait avec Yitzhak Katznelson. Il avait seulement démontré qu’il existe une fonction $2\pi$ périodique, $f$, dont la série de Fourier est absolument convergente mais telle que la fonction $|f|$ a perdu cette propriété. J’admirais l’extrême élégance de cette éblouissante présentation. Ce fut mon premier contact avec un chercheur et avec la recherche en mathématique. Kahane était arrivé à nous communiquer la fièvre qui brûle les chercheurs. En 1956 Kahane ne me connaissait évidemment pas; je n’étais qu’un petit lycéen perdu dans la foule. Kahane semait des graines à tout vent, dans la grande tradition du Siècle des Lumières. Je fus l’une de ces graines. Onze ans plus tard j’étais son collègue à Orsay. C’est alors que lui ai raconté notre première rencontre. Mon récit fabuleux avait pour lui un parfum de conte oriental. Dans l’image qui suit on voit la baie de Tunis surmontée par le Boukornine.

Le djebel Boukornine

En 1973 j’aimais passionnément la théorie des nombres et j’ai suivi le cours de DEA de Charles Pisot. Après le cours nous déjeunions ensemble dans un restaurant vietnamien qu’il aimait. Il me disait qu’il évitait de trop bien préparer ses exposés, car il pensait que les étudiants de troisième cycle doivent rencontrer des difficultés et corriger par eux-mêmes les parties que le professeur a négligées. Pisot me parlait aussi de son enfance en Alsace et des guerres picrocholines entre villages protestants et catholiques.

Et comment ne pas évoquer le cours donné à Madrid en 1990 par Jacques-Louis Lions sur le changement climatique ? J’ai eu le bonheur de le suivre entièrement et j’ai été conquis, j’ai senti cette émotion, cette fièvre. Lions y présentait sa nouvelle théorie des «sentinelles» qui préfigurait ce qui deviendrait le «compressed sensing». Le livre qui en est résulté s’appelle «El planeta Tierra. El papel de las matemáticas y de los superordenadores».

Jacques-Louis Lions

Lions enseignait divinement. En outre, il savait impliquer dans son programme de recherche tous ceux qui l’écoutaient. J’en ai bénéficié en février 1984. Charles Goulaouic venait de mourir et, profondément affecté par cette disparition, je m’occupais, du mieux que je pouvais, de l’organisation du séminaire Goulaouic-Schwartz à l’Ecole polytechnique. Lions s’invita et nous proposa un problème sur le contrôle des structures spatiales déformables. Et par bonheur je pus résoudre ce problème et sortir ainsi d’une dépression qui me détruisait. C’est ainsi que j’abordai les mathématiques appliquées et qu’un an plus tard les problèmes posés par le traitement du signal me passionnèrent.

Comme me l’a dit Olivier Pironneau, Jacques-Louis Lions nous hissait au dessus de nous mêmes. Il nous faisait confiance. Grandis par cette confiance nous arrivions à vaincre des difficultés scientifiques qui nous paraissaient insurmontables. Enseigner les mathématiques, ce n’est pas seulement apporter un savoir, mais aussi transmettre un désir, un élan et une capacité d’agir. Cette action peut prendre les formes les plus diverses: chercher à en savoir plus, résoudre un problème théorique ou pratique, devenir soi-même un passeur et enseigner à d’autres, ou, simplement, apprendre à penser par soi-même.

Mais quel est le rôle du dialogue dans l’enseignement des mathématiques ? Voici un bel exemple de dialogue. En 1948 Antoni Zygmund donna une conférence à Buenos Aires et Calderón était venu l’écouter. Calderón avait vingt-huit ans, était encore ingénieur de recherche, n’avait pas écrit une thèse et Zygmund ne le connaissait pas. Zygmund entreprit de démontrer un théorème. Il ne retrouva pas sa démonstration. Silence prolongé. Calderón prit la parole et dit: «Mais, Professeur Zygmund, pourquoi ne démontrez-vous pas ce théorème comme c’est fait dans votre livre ?» Et Calderón monta au tableau à la demande de Zygmund et donna une preuve complètement neuve du théorème. Calderón avait confondu la preuve de Zygmund (qu’il n’avait jamais lue) avec celle que, dans ses réflexions, il avait inventée en parcourant distraitement le livre de Zygmund. Ce fut le début de la collaboration entre Calderón et Zygmund.

Comment transformer un enseignement en un dialogue ? J’ai un jour affirmé qu’un enseignement qui n’est pas un dialogue tourne à la confrontation. Cela nous amène au cœur des problèmes politiques que nous rencontrons aujourd’hui.