Esquisse d’un portrait de Jean Bénabou, catégoricien

Remembrance of Categories’ past

Piste verte Le 8 septembre 2011  - Ecrit par  Jacques Roubaud Voir les commentaires (3)

La rédaction d’Images des mathématiques propose ici un portrait écrit par Jacques Roubaud, « poète et retraité des mathématiques », comme il se définit, déjà lui-même portraituré sur le site. C’est de Jean Bénabou, un spécialiste de la théorie des catégories, qu’il nous entretient ici [1]. En même temps, Jacques Roubaud nous dresse aussi un portrait d’une partie des mathématiques, oralité, publications, plagiats, dans les années 1960, 1970... et aujourd’hui. Laissons-lui la parole.

I

1. La rue d’Hauteville, à Paris, est située entre la rue Lafayette d’un côté, les Grands Boulevards de l’autre. Dans un sens, ou l’autre, elle descend, puis remonte. C’est la fin du printemps, le début de l’été, peut-être. 1964, 1965. C’est le matin, assez tôt. Huit heures du matin, peut-être. Je suis venu travailler. Plus exactement, je suis venu écouter, prendre note. J’habite rue Notre-Dame de Lorette, pas trop loin. Il y a un balcon sur la rue. Au troisième étage. Vraiment ? au troisième étage ? je pourrais vérifier : une simple interrogation. Je ne le fais pas. J’ai 78 ans. Ma mémoire, de plus en plus, défaille, ou déraille. Comme le disait un de mes amis, il y a dix ans déjà : « ma mémoire n’est plus qu’un souvenir ».

JPEG - 18.5 ko
Un diagramme de Jean Bénabou

2. Depuis cinq heures du matin, comme chaque jour, quand le temps le permet, Jean Bénabou a sorti son tableau, ses craies sur le balcon et a travaillé. Maintenant, le condensé visible de ses réflexions de la matinée est là, à la surface du tableau. Il le commente pour moi, il l’explique. Je note. Je demande quelque éclaircissement. Je note. Sortant de leurs étagères, un peu poussiéreuses, à l’occasion de la tentative que je vous présente, de faire l’esquisse d’un portrait de Jean Bénabou, catégoricien, les nombreux cahiers que j’ai accumulés depuis bientôt un demi-siècle, j’ai relu certaines de ces notes. Mes cahiers contiennent bien d’autres choses que de la mathématique mais régulièrement, d’année en année, je peux suivre le mouvement d’une pensée mathématique, en quelque sorte à l’état naissant. Avant d’exposer, Jean prend un café. Il boit beaucoup de café. Je m’en souviens. Il m’offre un café, que je refuse. Je me lève très tôt, alors comme aujourd’hui, mais le café ne m’accompagne guère. Sur le tableau, que Jean commente, élucide, il y a des dessins. Comme il s’agit de catégories il y a des flèches, des diagrammes. Il y a peu, très peu, ou pas du tout de calculs. Selon la vieille distinction, si présente dans l’enseignement de la mathématique en France depuis des temps immémoriaux, Jean est un géomètre, un géomètre des catégories, pas un algébriste. Il calcule peu, je dirais le moins possible. En 1964, 1965, sur les dessins que ma mémoire me présente, je vois qu’il y a, déjà, des flèches doubles, des flèches entre flèches, des « cellules ». Je vérifie mon souvenir, dans un de mes cahiers.

3. En 1964, j’étais ce qu’on appelait alors un ‘Maître-assistant de Mathématiques’ à ce qu’on appelait alors la ‘Faculté des Sciences’ de l’Université de Rennes, en Bretagne. Jean était, lui, ‘Chargé d’enseignement’, c’est à dire quelqu’un qui ‘faisait fonction’ de ‘Maître de Conférences’, comme on disait alors de ceux qu’on nomme aujourd’hui ‘Professeurs de deuxième classe’. (J’emprunte l’expression ‘faire fonction de’ au vocabulaire antique de l’Armée française, qui connaissait certains soldats nommés ‘FFB’, c’est à dire ‘faisant fonction de brigadier’, sans en avoir le grade). Les ‘Maîtres-assistants’ sont devenus des ‘Maîtres de conférences’ [2]. Ils ont progressé en titre, sinon en qualification : un résultat concret, certains diraient le seul, de la Glorieuse Révolution de 1968. A cette époque Jean avait quitté le CNRS, où il se trouvait depuis sa sortie de l’École Normale Supérieure, ENS, rue d’Ulm, ce lieu prestigieux où nous nous trouvons en ce moment [3]. La plupart des mathématiciens français, en ces temps-là, aujourd’hui encore peut-être, ‘sortaient’ de l’ENS. J’ai à raconter, pour éclairer mon propos, deux histoires, très brèves, que j’ai entendu Jean raconter, à plusieurs reprises, au cours des presque cinquante années qui ont suivi son arrivée à la Faculté ses Sciences de Rennes. Je les raconterai comme je me souviens, peut-être déformées comme tous mes souvenirs ; pas trop j’espère. De deux histoires, la première, à laquelle je donne le titre suivant :

L’Histoire du Concours

Jean se trouvait, à l’oral du concours d’entrée à l’E.N.S., dans une position qu’il devinait précaire, sinon désespérée. Gustave Choquet, éminent topologue, était examinateur. Jean attendait son tour. Choquet avait posé à son prédécesseur une question, un exercice à résoudre ; problème que l’élève ne savait pas résoudre ; et Choquet non plus. Jean, qui écoutait, se décida : l’énoncé, selon lui, contenait une erreur. Perdu pour perdu, il interrompit l’interrogation. Choquet l’envoya au tableau. Jean avait raison. Choquet lui donna une note telle qu’il ne fut pas question qu’il ne soit pas reçu. [4]

JPEG - 84.2 ko
Jacques Roubaud prononçant l’esquisse du portrait de Jean Bénabou

4. Un ‘Chargé d’Enseignement’ était quelqu’un qui allait être ‘Maitre de Conférences’, qui était un Maître de Conférences en puissance, mais qui n’en avait pas encore le titre, car il n’avait pas encore rempli toutes les conditions nécessaires pour l’être, principalement et avant tout, terminer une thèse. En ce qui me concerne, je saisis cette occasion de me présenter, je ne suis pas ‘normalien’, mais seulement ‘Ancien Futur Elève de l’École Normale Supérieure, Section des Sciences’. (Je suis d’ailleurs également ‘Ancien Futur Elève de l’Ecole Normale Supérieure, Section des Lettres’. On a les titres qu’on peut. Mais ceci est une autre histoire). J’ai déjà dit la faiblesse grandissante de ma mémoire. Pour me définir d’une phrase, alors que je n’ai plus une maîtrise suffisante de la langue pour pouvoir parler devant vous en anglais, j’aurais recours à cette langue, ne parvenant pas à en trouver une traduction convenable en français :

My name is Jacques Roubaud. I am a mathematician, retired ; and a poet, not retired, but tired [5].

Mais revenons à nos moutons, c’est à dire à ce bavardage, où il ne sera pas question de mathématique, au sens technique du mot.

5. Deuxième histoire, que je nomme

L’Histoire Marocaine

Cela se passe au Maroc, comme le titre l’indique. Au premier jour de la rentrée d’une classe de ‘mathématiques élémentaires’ (on dit alors, ‘matélém’), l’année pour les élèves est celle de la deuxième partie du Baccalauréat (on le passe en deux ans), le professeur de mathématiques, le professeur par excellence dans une telle classe, consulte la liste des élèves qui lui sont confiés. Il constate (il n’a peut-être pas besoin de consulter la liste, il sait déjà sans doute ce qu’il veut savoir) la présence de deux noms et dit : X et vous, Bénabou, au dernier rang. De ces deux élèves envoyés au fond de la classe l’un, X, est arabe, l’autre est juif. Selon ce professeur, la mathématique, gloire du génie français, n’est pas pour eux.

JPEG - 12.6 ko
Charles Ehresmann en 1953

6. Quand Jean Bénabou commence son enseignement à Rennes, quand je découvre en lui quelqu’un qui a de la passion pour la théorie des catégories, branche de la mathématique qui n’a pas alors vingt ans d’âge, et pour laquelle j’ai conçu moi-même une passion très vive mais, disons, plutôt du genre rêveur et inefficace en termes de recherche, il n’a pas encore franchi l’étape, nécessaire, de la thèse. Il a déjà, je m’en rends compte très tôt, acquis une connaissance étendue du domaine et il a, déjà, largement esquissé le programme de travail qui l’occupe encore aujourd’hui. Mais il se trouve que la thèse qu’il doit ‘soutenir’ ne peut se faire sans l’autorité d’un ‘patron’. Le patron de Jean est un grand mathématicien, Charles Ehresmann. Ehresmann a lui aussi acquis la passion catégorique. Mais la vision que Jean s’est forgée de cette théorie diffère beaucoup de celle de son maître. Il en est résulté un malentendu entre eux qui, au moment dont je parle (automne 1963), retarde celui où la rédaction de la thèse pourra être envisagée.

JPEG7. Ici se présente un trait du caractère de Jean Bénabou qui joue un rôle tout à fait central dans mon portrait. Il s’agit des rapports très particuliers qu’il a toujours entretenus avec l’écriture mathématique. Un court développement préliminaire. Je viens de vous raconter l’histoire que j’ai nommée Histoire Marocaine de Jean. Je n’ignore pas qu’il est fort imprudent de confondre corrélation et causalité ; mais je ne peux m’empêcher de signaler ce qui suit : dans le cadre de ma participation à l’Ouvroir de Littérature Potentielle, dit OULIPO, fondé en 1960 par François Le Lionnais et Raymond Queneau, je suis devenu proche de celui qui est aujourd’hui Secrétaire Définitivement Provisoire & Provisoirement définitif de l’Ouvroir (cumulant les deux postes), Marcel Bénabou. Marcel est un cousin de Jean, plus jeune de quelques années, venu lui aussi du Maroc à l’E.N.S, mais Section des Lettres. Il y devint historien de l’Antiquité. Les rapports de Marcel avec l’écriture sont, comme ceux de son cousin, fort complexes. Après la publication de sa thèse, La Résistance Africaine à la Romanisation, qui fit date, il est resté de nombreuses années sans publier un seul livre et l’un de ceux qu’enfin il a, après un lourd silence éditorial, réussi à achever, a pour titre Pourquoi je n’ai écrit aucun de mes livres.

II

JPEG - 13.4 ko
Un cahier de Jacques Roubaud

8. Dès que j’ai commencé à parler mathématique avec Jean, je me suis mis à prendre note de ce qu’il m’exposait. Le plus ancien de ces comptes-rendus, que je trouve dans mes cahiers, date vraisemblablement du début de 1964, et vraisemblablement a été consigné à Rennes. La ville de Rennes, à cette époque, était généralement ville morte après six heures du soir. Les bureaux des mathématiciens se trouvaient dans le centre ville, au bord de la Vilaine. Il n’y avait que deux activités possibles pour ceux qui n’habitaient pas Rennes : regarder par la fenêtre pour essayer de décider dans quel sens coulait la Vilaine, ou bien aller au tableau et travailler. Dès que j’ai commencé à écrire des catégories sous sa dictée, à prendre note des exposés qu’il présentait en public, j’ai compris qu’il avait une difficulté sérieuse, une relation tourmentée avec l’écriture. Ce n’était pas une difficulté à écrire. Il écrivait, il continue à écrire quasi-quotidiennement ; beaucoup. Il écrivait manuscritement avec netteté, avec élégance, à lettres bien formées, à lignes bien droites (mes grands-parents maternels, instituteurs de la troisième république, auraient apprécié) ; une écriture qui respecte les yeux et l’intelligence d’un lecteur. Quand on l’avait nommé ‘Chargé d’Enseignement’, ce n’était pas pour sa bonne mine de normalien seulement. Quatre notes aux Comptes-Rendus de l’Académie des Sciences, la manière traditionnelle de ‘prendre date’ des scientifiques en France, en témoignent.

a) Catégories avec multiplication (séance du 25 février 1963)

b) Algèbre élémentaire dans les catégories avec multiplication (20 janvier 1964)

c) Un critère de représentabilité des foncteurs (janvier 1965)

d) Catégories relatives (5 avril 1965) [6]

JPEG - 26.2 ko
Claude Chevalley

9. On attendait de lui, alors, dans un délai aussi court que possible, une rédaction d’ensemble cohérente de tous ses résultats, conduisant à une thèse et, ensuite, son entrée, non seulement dans les rangs professoraux de l’université, mais dans ceux des mathématiciens professionnels. Or, en 1964, en 1965, le temps passait, et la thèse ne s’achevait pas. L’année universitaire 1964-65, nous avons exposé au séminaire de Claude Chevalley sur la descente. Jean, tous ces mois-là, travailla intensément sur les catégories fibrées. Et c’est vers la fin du printemps, il me semble, qu’il se décida à prendre rendez-vous avec Chevalley. Il voulait le consulter, lui dit-il. Il lui exposa le plan de ses travaux achevés et à venir. Il lui demanda si, une fois rédigés, il pourrait représenter quelque chose qui serait digne d’être considéré matière d’une thèse. Il lui avait apporté tout ce qu’il avait déjà écrit, plusieurs chapitres, et l’esquisse de nombreux autres chapitres, conçus mais non encore écrits. Jean m’avait, en préparation à son entrevue, exposé son plan général, les très nombreuses créations d’outils catégoriques extrêmement nouveaux qu’il contenait, et dont une partie est aujourd’hui le bien commun de catégoriciens. Je souligne qu’il ne demanda pas à Chevalley si ce qui était déjà rédigé pouvait constituer une thèse, mais seulement si, dans un futur indéfini, quand il aurait, à ses propres yeux, suffisamment avancé, il en serait ainsi. La démarche avait un aspect dilatoire évident. Chevalley avait lu avec soin (selon ma propre expérience, il lisait avec grand soin). Il écouta Jean avec attention. Son verdict fut le suivant :

Vous prenez le chapitre premier de ce que vous m’avez donné à lire. Il est parfaitement au point comme il est. Il fera une excellente thèse. Gardez le reste pour plus tard. Il y a de quoi vous occuper longtemps.

Ainsi fut fait.

10. Amener à l’état de mathématiques achevées ne serait-ce que deux ou trois des développements prévus dans le plan de bataille, aurait demandé beaucoup de temps. Mais surtout, là est le cœur du problème, aurait arrêté, une fois conduit jusqu’au bout, le mouvement de recherche, d’avancée, de défrichage du territoire catégorique. C’est cet arrêt sur un état de la recherche, en lui donnant une forme qui sera rendue publique et signée de son nom qui représente le nœud gordien que Jean ne parvient presque jamais à trancher. Et il se renoue sans cesse après chaque coup d‘épée : un nœud gordien en forme d’hydre de Lerne [7], en somme. Gertrude Stein a dit un jour :

If it can be done, why do it ? [8]

Si l’état d’une réflexion sur un objet catégorique, de préférence neuf, a été jugé tel qu’il est possible de lui donner une forme écrite publiée, une insatisfaction en résulte aussitôt. Car il est évident, aux yeux de Jean, qu’on peut aller beaucoup plus loin, qu’on peut faire beaucoup mieux. Entre l’instant de l’écriture et celui, parfois éloigné, de la publication, il serait allé beaucoup plus loin, il aurait fait beaucoup mieux. Syndrome de la perfectibilité infinie. Arrêter en publiant, c’est ‘déperfectionner’.

11. Obligé, pour toutes fins pratiques par le verdict de Chevalley, qu’il admirait, de trancher le nœud de la thèse en la soutenant et publiant, il s’exécuta. Mais on ne l’a pas souvent repris à ce jeu. Tel est le premier et le plus élémentaire aspect de la question. Car Jean ne tient pas du tout à garder pour lui la mathématique qu’il constitue. Il n’a pas le goût du secret. Aussi fort en lui que la répugnance à fixer, donc figer dans une publication un état de sa recherche, en pages imprimées devenues définitives, sanctionnées par quelque instance éditoriale, autorisées, posées sur le papier d’une manière provisoirement définitive, alors que sa pensée est définitivement provisoire, aussi fort est le besoin de la faire connaître par la voix. La mathématique est et doit être orale avant qu’écrite, même si la forme écrite lui est aussi indispensable. Il faut dire la mathématique. Il faut la faire entendre. C’est une obligation morale. Il l’a toujours fait, inlassablement. Il le fait encore.

12. Jean Bénabou est un orateur mathématique exceptionnel. Cela vaut autant pour la performance didactique, le cours devant un auditoire d’étudiants, que la révélation, également didactique, d’un objet, d’une théorie nouvelle (la dimension de l’instruction n’est jamais absente de sa parole). Dans un cas comme dans l’autre, il n’y a jamais répétition à l’identique (pas de ressemblance avec l’acteur de théâtre sur ce point). Il y a toujours reprise avançante, création d’un nouveau chaînon dans un chaîne potentiellement sans fin. Un chaînon nouveau est forgé neuf, et modifie ce qui précède. La progression, d’exposé en exposé, est plus proche d’une forme poétique japonaise, le renga [9], que de la rédaction hypothético-déductive ‘à la Bourbaki’ :

En vertu de la scholie 2 de la proposition 17 du paragraphe 23 du chapitre 11 du livre 6 de la première partie du Traité, …

J’ai connu, étudiant, un autre exemple d’orateur mathématique éblouissant, Laurent Schwartz [10]. Mais je n’ai pas aujourd’hui le loisir de m’étendre sur leurs ressemblance et divergences. Il résulte du fait de la création orale continue que les textes d’où émerge sa conception propre, d’ensemble, de la théorie des catégories, sont pour la plupart des rédactions de notes prises par des auditeurs, amenées à un point plus ou moins avancé de correction dans la rédaction.

13. Pendant de nombreuses années, il y eut à l’Institut Henri Poincaré, l’I.H.P. de notre jeunesse, un séminaire Bénabou, où il parla de très nombreuses fois. J’ai devant moi en ce moment où j’écris, un des quelques fascicules qui enferment des transcriptions de certains de ces ‘talkings’ [11]. Le titre : Sur la logique des catégories, est précédé d’une note préliminaire, de ton caractéristique, d’où j’extrais ceci :

Ceci n’est pas, je dis bien, n’est pas une rédaction mathématique, c’est la transcription presque mot à mot de trois exposés de séminaire (juin 1975).

C’est à la fois faute de temps qu’une rédaction complète au sens classique du terme, n’a pas été faite, mais aussi pour faire l’essai de ce pourrait donner la transcription d’un exposé avec ses défauts quant à la présentation, en essayant de garder si c’est possible, certain aspect de spontanéité [12].

Le premier exposé commence ainsi

Ce que l’on conçoit bien s’énonce clairement

Ce qui s’énonce clairement se classifie

Boileau-Bénabou-Roubaud

La signification du dessin (une reproduction d’un couvercle de boite de formage ‘la vache qui rit’) et du slogan qui sert d’épigraphe, seront, j’espère, plus clairs à mesure que je parlerai. D’autre part je vous prie de m’excuser pour la qualité de l’exposé parce que je suis un peu fatigué parce que j’ai travaillé comme un diable et que tout ceci est très récent.

(La stratégie dilatoire est à l’œuvre.)

14. Une telle manière d’être mathématicien, ce rapport singulier entre divulgation et publication, dont je ne pense pas qu’il existe beaucoup d’exemples, peut avoir des conséquences désagréables, dont je vais exposer un aspect (parmi plusieurs) d’une manière délibérément hypothétique, fictionnelle.

III

Qohelet - verset 4,17 :
Ils ne savent même pas
faire le mal [13]

15. Soit B. un mathématicien. B. a obtenu un résultat qu’il trouve intéressant, ou défini un objet mathématique nouveau, qu’il estime prometteur, et voudrait faire connaître, sans plus attendre. Il n’a pas publié son travail, qui n’est pour l’heure pas sorti de ses tablettes d’argile, de ses papyrus, parchemins, cahiers de brouillons, de sa machine à écrire, de son imprimante d’ordinateur. Il est invité à O., dans un décor estival et forestier où se rencontrent, de manière régulière, les spécialistes de sa discipline, la théorie C.. Il prend la parole et, avec sa fougue habituelle, bien connue dans ce milieu, il expose son résultat, met en évidence, à l’aide de nombreux exemples, l’intérêt et la nouveauté de la famille d’objets dont il se propose d’enrichir la théorie. L’exposé est reçu avec faveur : remarques, questions, éclaircissements, notes abondantes des auditeurs. Parmi les auditeurs se trouve un certain K. qui a un collègue et ami K’.. qui n’a pas assisté à la rencontre d’O. , étant loin par delà les mers, et auquel K. a communiqué un résumé de l’exposé de B.. Du temps passe. Et voilà que, dans une revue un peu exotique, paraît un article, signé K’., qui présente des ressemblances troublantes avec quelque partie de la communication de B. aux rencontres d’O.. K’. remercie K. pour son aide mais ne cite pas B.. La communication de B. n’a pas été publiée entre temps. Comme d’habitude B. a jugé que le sujet n’était pas assez avancé, l’a laissé de côté provisoirement et est passé à autre chose, de plus prometteur à ses yeux. La situation que j’évoque, hypothétiquement et fictivement, présente, en plus doux et moins net, quelque analogie avec une autre qui renvoie aux années cinquante du vingtième siècle. Détente internationale et déstalinisation aidant, on découvrit, dans les démocraties dites ‘avancées’, que les mathématiciens russes et plus généralement soviétiques n’ayant pas tous été envoyés au ‘goulag’ (certains venaient même tout juste d’en sortir), publiaient des choses mathématiques fort intéressantes dans leurs bizarres revues. Malheureusement ou heureusement selon le point de vue auquel on se place, ces travaux étaient écrits en russe et non en anglais.

16. Une chanson du grand Tom Lehrer, du début des années soixante, que je viens de réécouter avec plaisir, illustre bien cette situation. Je cite deux extraits des paroles :

I have a friend in Minsk,
Who has a friend in Pinsk,
Whose friend in Omsk
Has a friend in Tomsk
With a friend in Akmolinsk.
His friend in Alexandrovsk
Has a friend in Petropavlovsk,
Whose friend somehow
Is solving now
The problem in Dnepropetrovsk.

And when his work is done -
Ha ha ! - begins the fun.
From Dnepropetrovsk
To Petropavlovsk,
By way of Iliysk,
And Novorossiysk,
To Alexandrovsk to Akmolinsk
To Tomsk to Omsk
To Pinsk to Minsk
To me the news will run,

...

Le titre de la chanson est Lobatchevsky [14] ; elle commence comme suit

I am never forget the day I first meet the great Lobatchevsky.
In one word he told me secret of success in mathematics :
Plagiarize !

Plagiarize,
Let no one else’s work evade your eyes,
Remember why the good Lord made your eyes,
So don’t shade your eyes,
But plagiarize, plagiarize, plagiarize -
Only be sure always to call it please ’research’.

...

17. Il n’était pas bien sûr, réellement possible, au 20ème siècle, de plagier d’une manière aussi crue que celle que décrit la chanson de Tom Lehrer ; même dans le cas où ce dont on voulait s’attribuer la paternité (ou ‘maternité’ ; soyons ‘inclusif’), n’avait pas fait l’objet d’une publication en forme. Il fallait se contenter d’emprunts plus ou moins masqués, de réécritures déguisées avec le plus d’ingéniosité possible. D’une manière générale, en plus, les questions de priorité, on le sait, ne sont pas considérées comme ayant un intérêt autre qu’historico-anecdotique. Dans la fameuse querelle entre Newton et Leibniz sur l’invention du Calcul Différentiel et Intégral (CDI pour les intimes), les historiens de la mathématique ne tranchent pas généralement entre l’astrologue de Cambridge (qui a bel et bien volé à Robert Hooke la théorie de la gravitation) [15] et le Directeur de la magnifique bibliothèque de Wolfenbüttel. Ce qu’il importe de retenir c’est qu’indubitablement le second a la priorité substantielle, celle de la notation.

18. Dans mon récit hypothétique, l’important, du point de vue de la ‘bonne santé’ de la théorie C., était que l’emprunteur avait fait son travail d’une manière médiocre, « gougnafière ». Il avait trivialisé la question, fait des erreurs évidentes, et cetera ; avait succombé à ce qu’on pourrait nommer le Syndrome de l’Emprunteur, qui se trahit en copiant mal. Pour continuer mon histoire, j’introduis ici un terme, emprunté à celle (plus ou moins légendaire) de l’OULIPO.

19. Invités un jour au festival d’Avignon (il y a un tiers de siècle de cela) à présenter leurs travaux (l’Ouvroir n’était que très récemmment devenu ‘public’), les oulipiens (les membres de l’Oulipo) avaient inventé une contrainte nouvelle, et composé selon cette contrainte quelques poèmes, qu’ils présentèrent à un public enthousiaste. La contrainte était la suivante : composer un poème qu’on peut dire sans que les lèvres se touchent. Parmi les auditeurs de cette ‘performance’ se trouvait un romancier turc qui, ayant applaudi comme les autres, vint, après la performance, féliciter les oulipiens, en ajoutant :

C’est très beau ; mais, vous savez, dans mon village, en Anatolie, on fait cela depuis des siècles. Et

ajouta-t-il avec une perfidie typiquement turque

vous savez, en turc, c’est quand même plus difficile. Surtout si on improvise.

Confrontés à cette nouvelle déstabilisante, les oulipiens présents à Villeneuve-lez-Avignon où avait eu lieu leur ‘lecture’, en firent part à François Le Lionnais, leur Président-Fondateur, qui déclara aussitôt : ‘dorénavant, tous ceux qui, pour une raison ou une autre, ont utilisé avant nous une contrainte que nous avons inventée, seront déclarés plagiaires, Plagiaires par Anticipation’ (Je note PLANT, pour simplifier).

20. Le 20ème siècle finissant a vu l’apparition d’une stratégie d’emprunts beaucoup plus élaborée que celle chantée par Tom Lehrer et que j’ai attribuée à un fictif K’.. En outre, sa visée est beaucoup plus vaste. La stratégie n’est plus individuelle, mais collective. Je ne la décrirai pas en détail ; ce serait long et je sortirais du cadre que je me suis fixé : esquisser le portrait d’un mathématicien au travail. (La stratégie dont je parle se rencontre ailleurs qu’en mathématique. Dans un de ses aspects que je laisse de côté ici, elle constitue une version sophistiquée de ce que je nommerai la ‘stratégie popov’ bien connue et florissante dans les pays du ‘Socialisme supposé existant’ d’autrefois).

21. La situation abstraite est la suivante : K’., mathématicien hypothétique, a, avec l’aide de K., autre mathématicien hypothétique, ‘emprunté’ et publié sous son nom un résultat, ou une nouvelle théorie, exposé antérieurement et oralement aux rencontres hypothétiques d’O., par le mathématicien hypothétique B.. B. est donc un Plagiaire par Anticipation de K’..

B. --- PLANT --->K’.

Supposons, hypothèse toujours hypothétique, une équipe de mathématiciens, spécialistes de la théorie C., l’équipe J.. L’équipe, (pensons à une équipe de rugby) a un capitaine, des joueurs vedettes, des remplaçants... J. est son entraîneur. Pour un ensemble de raisons que je ne chercherai pas à exposer ici, l’équipe J. a décidé de ‘reformater’ l’histoire de la théorie C., de la présenter à sa manière et d’orienter ainsi son développement ultérieur, selon les axes définis par elle. Pour parvenir à ce but, il est nécessaire de minimiser le rôle des mathématiciens qui ne font pas partie de l’équipe ; et, à terme, de les effacer entièrement de la C-Land (cette situation, très caractéristique de ce grand siècle que va être le 21ème, ne se rencontre pas qu’en mathématique). Un obstacle de taille est B. (il n’est pas le seul, loin de là. Il y aussi G. ; et bien d’autres).

22. Il ne s’agit pas, j’insiste, principalement d’une question de priorité. Le contenu même des recherches, leur direction ultérieure, seront affectés. Car de l’ensemble des travaux de B., de ses idées, résultats, et cetera résulte une conception d’ensemble de la théorie C. qui s’éloigne grandement de celle que cherche à imposer l’équipe J.. Je vais décrire un exemple, pas essentiel, mais significatif et simple. B. a publié, il y a pas mal d’années, en collaboration avec X., un résultat, Delta, qu’on voit encore cité et utilisé aujourd’hui dans la littérature. L’équipe J. invente alors, l’astuce est admirable, un Plagiat par Anticipation de Delta, par un mathématicien Bêta, qui l’aurait révélé oralement à des amis sûrs, mais ne l’a jamais écrit, ni exposé, ni publié. Il y a des témoins de ce fait, deux ou trois, tous appartenant à l’équipe J.. D’ailleurs Bêta est mort, jeune, et ne peut témoigner. Et le résultat, Delta, qui était nommé Théorème B. et X. devient Théorème de Bêta-B.-X., ce qui marque bien que l’on a

Bêta --- PLANT ---> B. et X.

Et voilà pourquoi votre fille est muette [16].

IV

23. Jean Bénabou a toujours défendu avec insistance, l’idée suivante : que la mathématique, quoique des idées reçues et trop reçues sans réflexion critique, risquent de nous faire croire le contraire, est une science expérimentale. Avant d’introduire, dans une branche quelconque de la science mathématique une notion, un objet ou une théorie nouvelle, il faut examiner quels exemples significatifs, non triviaux, on peut mettre en avant pour en justifier l’introduction ; des exemples surtout simples, élémentaires, fondamentaux. L’exigence vaut pour tous les aspects du fonctionnement de la recherche en vue de justifier la théorie dans laquelle le nouvel objet, la nouvelle notion va être étudiée. Une généralisation a priori séduisante peut s’effondrer, si on ne tient pas compte de cette exigence. C’est une règle de méthode (voir Claude Bernard), aussi décisive que celle qui gouverne la dialectique bien connue entre conjecture et contre-exemple.

24. Quelques conséquences :

La mathématique est un art du langage. Elle se parle en langue naturelle. Elle se parle, potentiellement, en toutes les langues. Toute langue est capable de mathématique. Potentiellement elle s’écrit, s’est écrite dès ses commencements sur des tablettes de boue séchée, sable, papyrus, papiers, et cetera ; ‘sur les bords de la mer Egée’ comme disait Bourbaki. Même si un mathématicien utilise, écrit dans la langue de communication dominante de son époque, que ce soit le grec, le latin, l’arabe, le français ou l’anglais des USA, il est indispensable de pouvoir penser la mathématique dans n’importe quelle langue.

25. Il s’ensuit qu’une tâche essentielle, pas du tout secondaire est la nomination des objets. Dès que les interrogations préliminaires à l’invention sont terminées, il faut baptiser, il faut nommer. Et il ne faut pas nommer, il ne faut pas baptiser un bébé mathématique. Il faut attendre d’avoir suffisamment effectué les recherches préliminaires justifiant sa naissance. Il faut être, en somme ‘anabaptiste’. La question de la nomination n’est pas du tout secondaire. Un nom, même mathématique, n’est jamais innocent, jamais indépendant des intentions des baptiseurs. Il en est de même des re-nominations, des changements de noms, des débaptisations. Il n’est pas indifférent que ‘débaptisant’ la ville connue pendant l’époque dite du ‘socialisme prétendument existant’ sous le nom de Leningrad, on ait choisi de reprendre le nom tzariste de Saint-Pétersbourg (et non celui, qui aurait manifesté un retour à la démocratie, de Petrograd), rendant ainsi un hommage, peut-être pas involontaire, au grand art du pogrom, que la Russie des derniers tzars porta la première à la perfection. La mathématique a besoin de sa propre mémoire pour progresser. Une fois adopté, par la communauté potentiellement universelle des mathématiciens, un nom mathématique ne peut pas être, sans réflexion, re-nommé. Bourbaki, autrefois, disait très bien :

On ne s’éloignera pas de la terminologie reçue sans de sérieuses raisons.

26. Ceci vaut aussi bien pour les objets et résultats que pour les notations, et les noms propres qui les désignent. Les noms mathématiques conservent des traces de leur histoire. Il n’y a pas de ‘table rase’. On ne met pas un monde mathématique à bas en déclarant

Ce monde à bas, je le bâtis plus beau [17].

27. C’est particulièrement vrai des noms propres. Tout nom propre, désignateur rigide selon Kripke, est un nom de mémoire. La mathématique, spontanément, a généralement toujours tenu compte de ce fait. Dans la Stratégie d’effacement dont j’ai parlé précédemment, les notations, les noms d’objets, les noms propres jouent un rôle central. Les changements que l’on tente d’imposer en effaçant les états antérieurs sont destinés à permettre une ré-orientation de la théorie.

V

28. La conception de la mathématique comme science empirique explique aussi certaines caractéristiques d’un style, qu’on pourrait nommer style-bénabou.

29. Le style-bénabou est un contraire du style-bourbaki si présent dans la mathématique d’aujourd’hui.

JPEG - 9.8 ko
Un 2-diagramme de Jean Bénabou

30. Un bel exemple de style-bourbaki me vient en mémoire : quand, au cours du séminaire sur la ‘descente’ dont j’ai parlé précédemment, on discutait avec Chevalley des exposés à venir, j’étais frappé de l’extrême rapidité avec laquelle il raisonnait oralement, assimilait les idées qui lui étaient présentées, prévoyait les étapes d’une démonstration. Etant moi-même plutôt ‘pedestrian’, j’avais plaisir à écouter les échanges entre le maître, Bénabou, Douady et Michèle Vergne qui étaient les principaux participants à ce séminaire. Bien différente était l’allure des exposés de Chevalley lui-même. J’avais l’impression (d’ailleurs pas désagréable) de recevoir dans l’oreille et de voir grandir sur le tableau quelques paragraphes d’un livre à venir des Éléments de Mathématique du maître polycéphale (en tout cas dans une des premières versions). (Comme j’avais passé plusieurs années à lire de la première à la dernière ligne tous les fascicules parus de Bourbaki, en résolvant ou essayant de résoudre tous les exercices, je n’avais pas de mal à suivre, confortablement, tout en prenant les notes nécessaires à une relecture).

31. J’ai retenu d’un de ces exposés de Chevalley un moment qui est resté pour moi symbolique du style-bourbaki. A un point de son développement, Chevalley déclare :

Soient deux espaces vectoriels $E_1$ et $E_2$.

Il écrit sur le tableau :

\[E_1, E_2,\]

puis il s’interrompt, efface ce qu’il venait d’écrire, et sa craie énonce à la place de ce qui vient de disparaître à nos yeux une nouvelle présentation, supposée correcte, de ces deux objets

\[E_i,\quad i \in\{1,2\}.\]

32. J’ai toujours pensé que l’origine du ‘style-bourbaki’ était à rechercher dans le traumatisme subi par les pères et grands-pères des fondateurs du groupe par l’apparition, non seulement des paradoxes de la théorie des ensembles à la fin du dix-neuvième siècle, mais des propriétés contre-intuitives des objets nouveaux apparus à cette époque. À peine est-il besoin de citer deux des paroles célèbres prononcées (peut-être) par deux grands mathématiciens [18] :

Je me détourne avec horreur du spectacle lamentable des fonctions continues sans dérivée

et :

Comment l’intuition a-t-elle pu nous tromper à ce point !

L’espèce de schizophrénie dont témoigne l’opposition spectaculaire entre le style de pensée et celui de l’écriture n’est-elle pas une trace de ce traumatisme ancien ?

JPEG - 18.6 ko
Alexander Grothendieck

33. Le paroxysme du ‘style-bourbaki’, son représentant monstrueux et monstrueusement efficace fut Alexandre Grothendieck, avant sa crise. Pour me l’imaginer au travail, il me vient un passage d’un poème en prose d’Henri Michaux que je cite de mémoire, et sans doute inexactement (n’ayant pas accès au poème lui-même, étant éloigné de ma bibliothèque) :

J’ai vu ce matin dans le port de Honfleur une locomotive. Elle avançait sur la mer, poussée par la foi.

34. Le projet de Bourbaki est, je crois, considéré aujourd’hui comme obsolète. Si c’est vrai, c’est dommage. Mais le ‘style-bourbaki’, lui, a largement survécu.

35. Le grand, étrange ouvrage, à la fois ridicule et sublime, de Grothendieck, Récoltes et semailles constitue une critique (c’est beaucoup plus que cela, mais cela y est) du style-bourbaki ; critique dont un des axiomes serait

L’invention du zéro n’est pas un théorème.

36. Le style-bourbaki n’est pas qu’un style d’écriture, de présentation. C’est aussi un style de composition de mathématiques, de déduction, tourné vers les résultats, les théorèmes. Et de ce point de vue, il s’est montré d’une grande efficacité. Par exemple pour Chevalley (dans son travail sur les groupes simples finis), pour Grothendieck que Jean Bénabou admire énormément (pour ses idées) [19].

VI

37. Le même point de vue d’ensemble sur la mathématique qui tend à la placer, paradoxalement, parmi les sciences expérimentales, explique la méfiance de Bénabou envers le fonctionnement habituel du couple syntaxe/sémantique en logique.

38. Je me souviens d’une remarque de lui à propos de l’intuitionnisme brouwérien : que la tentative de Heyting de construire des mathématiques intuitionnistes en calquant la démarche classique était un appauvrissement, un détournement de l’idée originelle de Brouwer.

39. Une petite parenthèse : Brouwer, on le sait, inscrit sa démarche mathématique dans la philosophie kantienne. Il est de bon ton de ricaner sur les rapports de Kant avec la mathématique. On le compare, à son détriment, par exemple à Leibniz. Le cas de Brouwer montre qu’on ne peut pas trancher si facilement. Et Brouwer n’est pas le seul. Voir Hamilton, par exemple.

40. Les fondateurs de la théorie des catégories n’ont jamais véritablement expliqué leur choix du mot ‘catégorie’. Je pense que c’est par prudence qu’ils n’ont pas évoqué une justification philosophique ‘kantienne’. Il serait peut-être utile d’examiner de plus près la question [20].

Section finale

41. Pour parvenir à ma phrase finale, je cite brièvement un travail de Jean Bénabou, exposé à son séminaire en 1987-88 et qui a fait l’objet d’une publication très ‘excentrique’, puisqu’il s’agit de trois numéros des ‘Cahiers de Poétique Comparée’ dirigés par Pierre Lusson, Léon Robel et moi-même (à l’I.N.A.L.C.O, anciennement Ecole des Langues Orientales).

42. Extraits de L’Avertissement de l’Auteur :

a) Je sais, par expérience que très souvent, dans une rédaction obéissant aux canons de rigueur en usage dans les textes mathématiques, une bonne partie de l’intuition, des idées, de ce qui rend une théorie vivante, tend à s’estomper sous l’appareil formel. Il m’a semblé, qu’à ce stade de l’élaboration, il valait mieux présenter les idées ‘presque nues’, avec le minimum d’appareil mathématique nécessaire pour voir un peu comment elles fonctionnent.

b) Il y a quinze ans (déjà), alors que je travaillais sur les rapports entre la logique mathématique et la théorie des catégories, je m’étais convaincu du fait que le raisonnement mathématique ne prenait en compte qu’une partie des ‘modes de raisonnement empiriques’ et qu’il serait sans doute intéressant et fructueux de tenter de formaliser une plus grande partie de ces raisonnements

c) ... si on veut élargir les modes de raisonnement, il faut élargir la notion même d’ensemble. Cette idée a été partiellement mise en œuvre dans plusieurs domaines : la sémantique des logiques modales et intuitionnistes, au moyen des ‘mondes possibles’ – les ensembles flous (Zadek) ...

d) Ce qui rend à mes yeux ces démarches insuffisantes, c’est que l’extension de la notion d’ensemble n’y est pas suffisamment radicale et les modes de raisonnement admis trop restrictifs.

e) Les ‘ensembles empiriques’, c’est-à-dire ‘observés’, sont présentés ici. Les observateurs ont une ‘perception’ différente des ensembles, mais les différentes perceptions sont liées par des contraintes de continuité.

f) Dans cette perspective, le mode de raisonnement ‘classique’ apparaît comme solipsiste (il y a un seul observateur) ou totalitaire (il peut y avoir plusieurs observateurs, mais ils sont alors contraints de voir tous la même chose)

...

43. En guise de préliminaire simple, était étudié l’opérateur « très grand » :

de ‘très grand’ on peut inférer ‘grand’. On a aussi, en langue naturelle « très très grand ». Mais ici apparaît une différence avec tous les opérateurs modaux ; « très très grand » n’est pas équivalent à ‘très grand’. L’opérateur ‘très’ n’est pas idempotent. … On peut bien sûr appliquer une nouvelle fois l’opérateur ‘très’ et obtenir ‘très très très grand’ » ; mais, à partir d’un certain rang, ajouter un ‘très’ supplémentaire ne renforce plus rien...

Jean Bénabou

44. Et voilà. J’achève ici et ainsi cette esquisse de portrait d’un très très très ... original, passionné, inventif serviteur de la Théorie des Catégories, Jean Bénabou.

Post-scriptum :

La rédaction d’Images des mathématiques remercie Jean Bénabou pour les images qu’il lui a confiées. Tous les diagrammes qui illustrent cet article lui sont dus (les diagrammes rouges ont été re-fabriqués par la rédaction d’IdM).

Merci aux relecteurs Clément Caubel, Sylvia, Nicolas Bergeron, Bertrand Rémy, pour leur aide.

Notes

[1Jean Bénabou a lui-même contribué à ce portrait en nous confiant certains de ses diagrammes et en nous suggérant de les utiliser comme illustration et ponctuation de ce texte, ce que nous avons fait.

[2En ce temps-là, comme le dit l’auteur, le titre de ’maître de conférences’ correspondait à ce qu’est aujourd’hui un professeur ; aujourd’hui, c’est le nom que porte le premier poste permanent des enseignants-chercheurs. Comme les autres (sauf une), cette note est de la rédaction.

[3Ce texte est la version écrite d’un exposé prononcé au cours d’un colloque consacré à Jean Bénabou qui s’est tenu dans les locaux de l’École normale supérieure de Paris.

[4Sur Gustave Choquet, on lira ou relira les premières pages du récit Mathématique :, de Jacques Roubaud.

[5Le jeu de mots est en effet intraduisible, mot à mot : « Je m’appelle Jacques Roubaud. Je suis un mathématicien retraité ; et un poète, pas retraité (retired) mais fatigué (tired). »

[6

JPEG - 28.2 ko
Note aux Comptes rendus de Jean Bénabou et de l’auteur

Si Jean Bénabou a peu écrit, comme l’explique Jacques Roubaud, il a publié quelques autres articles, et notamment, en 1970, une note dont on voit ici le titre et les noms des auteurs.

[7Sur le nœud gordien, qui fut tranché par Alexandre-le-Grand, voir cette page, pour l’hydre de Lerne, dont le meurtre fut l’un des travaux d’Hercule, voir cette autre.

[8Gertrude Stein (1874-1946) était une écrivaine américaine. La citation peut se traduire par : « si ça peut être fait, pourquoi le faire ? » ou « à quoi bon le faire ? »

[9Le renga est une forme poétique japonaise, un poème collectif à forme très stricte. Par exemple, Renga, d’Octavio Paz, Jacques Roubaud, Edoardo Sanguineti et Charles Tomlinson, Gallimard 1971.

[10Les lecteurs d’Images des mathématiques pourraient à bon droit s’étonner qu’il n’y ait pas de portrait de Laurent Schwartz sur le site. Signalons qu’il en a, quand même, été question dans le portrait des papillons. Il y a une très belle description de Schwartz orateur dans Mathématique : (après celle de Choquet montrée ci-dessus).

[11Le mot évoque des « causeries ».

[12Cette fraîcheur de la transcription directe d’exposés oraux est à l’œuvre dans certaines « lecons de mathématiques d’aujourd’hui » de Bordeaux publiées par les éditions Cassini (cette note est due à un relecteur).

[13Le Qohelet, ou Ecclésiaste, est un des livres de la Bible. Jacques Roubaud est l’un des traducteurs de ce livre dans la « Bible des écrivains ».

[14On peut écouter la chanson en cliquant sur ce lien. Une page wikipedia est consacrée à Tom Lehrer (en anglais).

[15Le savant britannique Robert Hooke (1635-1703) fut peut-être le premier à écrire la loi « en $1/r^2$ » qui fait partie de la théorie de la gravitation universelle. Isaac Newton (1643-1727), qui avait correspondu avec Hooke à ce sujet, ne publia ses travaux sur cette théorie qu’après la mort de Hooke et prétendit semble-t-il ne pas avoir eu connaissance des travaux de Hooke. Voir par exemple la page wikipedia sur Newton. Ceci est à la source des opinions qu’exprime l’auteur dans ce paragraphe.

[16Comme le dit le « médecin malgré lui » de Molière,

Voilà justement ce qui fait que votre fille est muette.

à la fin d’une démonstration qui n’explique rien.

[17« Le monde à bas, je le bâtis plus beau » est un des vers de Feu de joie, d’Aragon, en 1919.

[18Il s’agit de citations de Charles Hermite (dans une lettre à Mittag-Leffler, en 1883) et d’Henri Poincaré (dans la Valeur de la science, en 1902).

[19On pourra s’étonner que ce portrait mette ensemble Bourbaki et catégories, alors que Bourbaki est réputé avoir fait un choix « historique » non catégorique pour sa rédaction de la théorie des ensembles. S’il est vrai que la théorie des ensembles selon Bourbaki ne rend pas compte de la théorie des catégories, une forme rudimentaire de cette théorie affleure à travers l’usage important des propriétés universelles dans le traité.

[20Dans cette partie, il est à nouveau question de la méthode expérimentale (voir le paragraphe 23) de Claude Bernard (voir l’Introduction à l’étude de la médecine expérimentale, de Claude Bernard (disponible en librairie et même en version électronique ici)), de l’« intuitionnisme » de Brouwer, du mathématicien W. R. Hamilton... et de leur relation à la philosophie d’Immanuel Kant.

Aux lecteurs qui veulent en savoir davantage sur les questions évoquées, l’auteur propose les références suivantes (les deux articles sont en anglais) :

  • P. Ohrstrom, W.R. Hamilton view of algebra as the science of pure time and his revision of this view, Historia Mathematica 12 (1985) pp. 45-55,
  • Bernard Freyberg, Brouwer’s Intuitionism Vis à Vis Kant’s Intuition and Imagination, Mathematical Intelligencer 31 (2009), n°4, pp. 28-36.

À propos de Kant, la rédaction d’Images des mathématiques renvoie aussi à un « produit-maison », l’article de Joël Merker, Hilbert était-il kantien ?.

Partager cet article

Pour citer cet article :

Jacques Roubaud — «Esquisse d’un portrait de Jean Bénabou, catégoricien» — Images des Mathématiques, CNRS, 2011

Crédits image :

Image à la une - Les photographies de Charles Ehresmann, Claude Chevalley et Alexander Grothendieck viennent de sites wikipedia, celles de Jean Bénabou et de Jacques Roubaud ainsi que les diagrammes appartiennent à Jean Bénabou, les photographies d’objets (cahier, livre) son dues à la rédaction (M.A.).

Commentaire sur l'article

  • Esquisse d’un portrait de Jean Bénabou, catégoricien

    le 9 septembre 2011 à 18:05, par case

    Merci pour ce magnifique portrait !
    Concernant la locomotive dans le port de Honfleur : était-elle étale, la mer ?

    Répondre à ce message
  • Esquisse d’un portrait de Jean Bénabou, catégoricien

    le 10 septembre 2011 à 08:49, par Alain Valette

    Dans « La disparition », de Georges Perec (ouvrage préfacé par J. Roubaud), il y a un célèbre passage sur les maths, avec une note en bas de page : « Il paraîtrait, dit-on, qu’Ibn Abbou (son cousin plutôt), aurait la solution, mais s’il la connaît, à coup sûr il la tait ! »
    Comme la note porte sur une phrase consacrée aux foncteurs adjoints de Kan, l’allusion me paraît transparente...

    Répondre à ce message
  • Esquisse d’un portrait de Jean Bénabou, catégoricien

    le 28 septembre 2011 à 02:19, par marc

    Le lecteur intéressé pourra consulter, d’une part Impératif catégorique, de Jacques Roubaud (deuxième partie de la branche 3 de Le grand incendie de Londres, la première partie étant Mathématique :), d’autre part La descente trente ans après, article de Jean Benabou, publié dans le numéro 49 de la revue Mezura, constituant un hommage à jacques Roubaud et un aperçu de la pensée catégorique de Jean Bénabou.
    Merci à Jacques Roubaud pour ce texte. Et Merci à Jean Benabou pour ses exposés.

    Répondre à ce message

Laisser un commentaire

Forum sur abonnement

Pour participer à ce forum, vous devez vous enregistrer au préalable. Merci d’indiquer ci-dessous l’identifiant personnel qui vous a été fourni. Si vous n’êtes pas enregistré, vous devez vous inscrire.

Connexions’inscriremot de passe oublié ?

Suivre IDM