Ce mode de calcul est pourtant bien une des spécificités les plus flagrantes de l’algèbre, même si ce n’est pas sa fonction première. Lorsque l’algèbre émerge dans la civilisation arabo-musulmane, elle n’est alors qu’une méthode qui intervient dans les transformations du calcul. Elle permet d’écrire des équations du second et du troisième degré, et de les présenter sous des formes standard servant de modèles de résolution. Cependant, tout comme dans la géométrie grecque depuis Euclide, ces calculs et ces équations s’écrivent exclusivement avec les mots du langage. En dehors de l’écriture des nombres, l’algèbre est alors dépourvue de toute expression symbolique. Le mot « algèbre » va lui-même changer plusieurs fois de signification au cours des siècles à venir.

En remplaçant les nombres par des lettres, à partir de la Renaissance, les algébristes vont progressivement renoncer à spécifier une signification à ce qu’ils persistent cependant à appeler « symbole ». Ils n’auront de cesse de s’interroger sur la légitimité de telles pratiques, et leurs débats d’alimenter de nouveaux développements. Une fois cette écriture symbolique élaborée et unifiée, l’algèbre s’imposera au 17^ème siècle comme recherche d’une théorie générale de la résolution des équations, au service de l’analyse des problèmes en général. Au 19^ème siècle, tout ce champ de recherche a acquis une grande autonomie, en même temps qu’ont surgi, du fait même de la manipulation des symboles, jusqu’à des résultats opératoires parfois contradictoires. Ces difficultés d’ordre logique renouvellent les interrogations sur l’algèbre : s’agit-il d’un art ou d’une science ? Comment faire de cet instrument faillible une théorie assurée ? Cette mutation, qui va s’opérer tout au long du 19^ème siècle, débouchera sur l’abandon de toute signification a priori attachée aux symboles, fondant le calcul sur des règles opératoires plutôt que l’adéquation première des résultats à des valeurs numériques. Au terme de cette mutation, l’algèbre acquerra une fois encore un statut nouveau, son statut présent, celui de l’étude des structures abstraites.

La naissance de l’algèbre dans la langue arabe : une audace

Lorsqu’il intervient dans les travaux d’al-Khwarizmi (avant 800-après 847), le mot al-jabr est associé à celui d’al-muqabala. L’un et l’autre désignent deux méthodes de transformation des équations, aujourd’hui rassemblées sous le terme de « transposition ». L’al-jabr, terme diversement traduit par « remplissage » ou « reprise » ou « restauration », consiste à ajouter un même nombre aux deux membres, l’al-muqabala, terme diversement traduit par « balancement » ou « rejet » ou « comparaison », et consiste à retrancher un même nombre aux deux membres. Ainsi, ce que nous écririons aujourd’hui :

devient, grâce à l’al-jabr :

et grâce à l’al-muqabala :

qu’Al-Khwarizmi réduit, par al-hatt, à la forme canonique :

Ces « équations » initient une audace essentielle : celle de désigner ce qui est inconnu par un mot spécifique : la « chose » – say – ou la « racine » – gizr –, c’est-à-dire la « cause », et d’effectuer les calculs sur cette racine comme sur n’importe quelle autre quantité numérique connue. Dans son ouvrage majeur, Le livre concis de l’al-jabr et l’al-muqabala, al-Khwarizmi traite d’ailleurs comme entités numériques, non seulement la « racine », mais aussi son carré, qui reçoit un nom spécifique – mal – qui signifie d’abord « bien possédé », tout comme les nombres eux-mêmes, dénommés dirham, un mot d’origine monétaire. Il s’ensuit alors, non pas un travail immédiat de résolution de problèmes, mais d’abord une classification de toutes les façons possibles d’écrire les équations ainsi réduites en mobilisant ce nouveau vocabulaire. Une fois définis ces trois termes, al-Khwarizmi produit donc six énoncés qui correspondent aux différentes manières de les combiner additivement.

Chacune de ces formes canoniques reçoit alors un modèle de résolution spécifique, numérique, énoncé sous la forme d’une procédure, d’un algorithme [1], dont la légitimité est fournie par la construction géométrique correspondante, travaillant sur l’aire d’un carré en s’appuyant sur les constructions du livre II des Eléments d’Euclide. Dans ce monde méditerranéen que les Arabes ont alors entrepris de conquérir, non seulement la langue grecque est d’usage courant, mais une campagne systématique de traduction du grec, du syriaque, du perse et du sanskrit, entend synthétiser l’héritage des connaissances antérieures. Les Eléments d’Euclide viennent alors d’être traduits par al-Hajjaj ben Matar à la « Maison de la Sagesse » – Bayt-al-Hikma – à Bagdad, sous le règne du calife Al-Ma’mun (813-833).

« Son procédé de résolution consiste à diviser les racines en deux moitiés,
et c’est cinq dans ce problème.
Tu le multiplies par lui-même, et ce sera vingt-cinq.
Tu l’ajoutes à trente-neuf. Cela donnera soixante-quatre.
Tu prends alors sa racine carrée qui est huit
et tu en retranches la moitié du nombre des racines, et c’est cinq.
Il reste trois et c’est la racine du bien que tu cherches
et le bien est neuf ».

Schéma du carré

Ce procédé de résolution est alors légitimé par la construction suivante, dans laquelle al-Khwarizmi exprime l’aire du carré de deux manières différentes.

L’équation $x^2 + 10x = 39$ peut ainsi s’écrire :

D’où al-Khwarizmi tire, en quelque sorte géométriquement

Ce qui peut apparaître aujourd’hui au lecteur comme des limitations de la pensée opératoire – absence d’écriture explicite pour les coefficients, entités strictement positives – correspond très précisément à l’état des connaissances de cette époque : représentations géométriques, et opérations arithmétiques effectuées sur des quantités dont l’écriture numérique elle-même n’est pas encore unifiée [2].

La précision du vocabulaire et l’organisation systématique des procédures de résolution déterminent pourtant un nouveau champ de recherche qui va s’imposer comme celui de l’« algèbre ». L’école arithmético-algébrique d’al-Karaji (fin X^ème s.-déb. XI^ème s.) et d’as-Samaw’al ($\sim$1130-$\sim$1175) étend ainsi la pratique de ces opérations et transformations du calcul à tous les types d’entités rencontrées dans la résolution des problèmes : entiers, racines, fractions sexagésimales et décimales, irrationnels, jusqu’aux opérations sur des tableaux de nombres qui relèvent d’un calcul polynômial sur l’indéterminée et son inverse. Le grand poète et mathématicien Umar al-Khayyam ($\sim$1048-$\sim$1130) prolonge le travail d’al-Khwarizmi en établissant la classification complète des équations jusqu’au 3^ème degré. Sa démarche est cependant plutôt qualifiée d’algébrico-géométrique, dans la mesure où al-Khayyam ne fournit pas de procédure de résolution, mais obtient les solutions comme abscisses des points d’intersection de deux coniques.

Cette algèbre littérale, rhétorique, constitue une grille de méthodes standard commune pour la résolution de problèmes aussi bien d’origine géométrique qu’arithmétique. Face à la diversité des entités mathématiques manipulées, le vocabulaire et le système des procédures unifient les pratiques de l’algébriste et soutiennent ses audaces, lorsqu’il s’autorise à « opérer sur les inconnues au moyen de tous les instruments arithmétiques, comme l’arithméticien opère sur les connues », comme l’écrit as-Samaw’al dans son Al-Bahir (1172). Dans ce contexte, aussi bien le traitement géométrique emprunté à Euclide que l’origine des problèmes auxquels la « racine » reste attachée lui garantisse un certain ancrage sémantique.

Symbolisation de l’algèbre à la Renaissance : des transgressions nouvelles

François Viète, un mathématicien sous la Renaissance (éds) Evelyne Barbin et Anne Boyé

La symbolisation de l’algèbre intervient à la Renaissance avec le développement des échanges commerciaux. Elle donne lieu à de véritables écoles d’algébristes-arithméticiens, concentrées en Italie et en Europe du Nord, autour des cités marchandes les plus dynamiques. Ces écoles héritent des acquis mathématiques de la civilisation arabo-musulmane dès le Moyen-Âge, notamment par le biais de passeurs tels que Gerbert d’Aurillac ($\sim$945-1003) – le futur pape Sylvestre II –, Léonard de Pise ($\sim$1170-$\sim$1250) – plus connu sous le nom de Fibonacci – ou Luca Pacioli (1445-1514). L’audace nouvelle dont elles témoignent débouche, non seulement, sur une écriture spécifique, mais aussi sur l’invention de nouvelles entités mathématiques, si riches du point de vue opératoire qu’elles finiront par s’imposer, en dépit d’un mode d’existence très problématique, et au prix d’une reconfiguration des modes opératoires.

Le processus de symbolisation répond alors à des besoins de calcul devenus massifs, qui mobilisent de nombreux protagonistes. Il concerne aussi bien la désignation des termes de l’équation – inconnue(s) et coefficients – que celle des opérations. Il apparaît d’abord comme une recherche d’abréviations commodes, qui se développe localement et de manière foisonnante, avec des spécificités différentes selon les écoles. L’algèbre comme recherche d’une théorie générale des équations naîtra du processus assez lent d’unification de ces notations nouvelles. Il sera synthétisé par François Viète (1540-1603) avant que René Descartes (1596-1650) n’écrive l’algèbre sous la forme que nous lui connaissons.

L’écriture algébrique des équations suppose d’établir à la fois la symbolisation des opérations et celle des puissances de l’inconnue. Avant de se stabiliser, la symbolisation des opérations connaît d’abord une très grande diversité.

La symbolisation de l’inconnue et de ses puissances n’est pas immédiate non plus. Elle passe par la traduction du terme arabe correspondant, qui devient d’abord : en latin, res, radix, causa pour l’inconnue, et census pour son carré ; en italien, cosa, et en allemand, coss. Et elle accole des significations géométriques pour parler de bicarré, de carré-cube ou de cubo-cube, afin de représenter des puissances dont l’exposant serait supérieur à 3. Les premiers symboles produits ont toutefois valeur d’abréviations, telles qu’elles se trouvent aussi dans les manuscrits de l’arithméticien grec tardif Diophante (325-409), redécouverts par Regiomontanus en 1464. Elles ne traduisent pas l’opérativité des puissances.

De l’abréviation au symbole, un obstacle épistémologique reste à surmonter : pour basculer d’un vocabulaire signifiant à un vocabulaire opératoire, l’algébriste doit expliciter la distinction entre le symbole de l’inconnue et celui de ses puissances, passer de l’expression d’un résultat à celle d’une opération. Cette distinction peine à s’imposer. Dans les textes, la représentation des exposants précède celle de l’inconnue, dont la présence n’est d’abord indiquée que par la position des exposants dans le calcul – sans doute par analogie avec la représentation décimale à virgule introduite par Stevin. Cette virtualité de l’inconnue conduira les historiens à qualifier cette écriture d’algèbre syncopée.

L’école italienne brillera moins par l’efficience de ses notations que par son inventivité dans la production de nouvelles entités algébriques. La question de la résolution de l’équation du 3^ème degré y joue un rôle déterminant. L’histoire des défis et duels oratoires qui opposent sur ce point Scipione del Ferro (1465-1526), Nicolo Tartaglia (1505-57), Ludovico Ferrari (1522-65) et Girolamo Cardano (1501-76) est assez connue pour qu’il n’y ait pas lieu d’y revenir ici [3]. Mais le contenu de leurs débats est significatif des contradictions qu’engendre le nouveau symbolisme opératoire vis-à-vis des références antérieures.

Dans le cas des équations du second degré, les algébristes arabes avaient déjà rencontré des cas où les procédures conduisaient à des calculs non définis dans le contexte arithmético-géométrique, donnant lieu à une solution négative ou à une racine de nombre négatif : ils concluaient alors à l’impossibilité du problème. Pour les équations du 3^ème degré, la situation est toute autre. Dans le cas de l’équation :

la formule qualifiée ultérieurement de formule de Cardan, et qui s’écrit aujourd’hui :
\[ x=\sqrt[3]{\frac{q}{2} +\sqrt{\frac{q^2}{4}-\frac{p^3}{27}} } + \sqrt[3]{\frac{q}{2} -\sqrt{\frac{q^2}{4}-\frac{p^3}{27}} } \]
fait intervenir des racines de quantités négatives :
\[ x=\sqrt[3]{2 +\sqrt{-121}}+\sqrt[3]{2 -\sqrt{-121}} \]
alors que cette équation a pourtant la racine évidente 4. Ces écritures symboliques, même si elles expriment des calculs impossibles, deviennent donc opératoirement pertinentes. Dans son Algebra, Raphaele Bombelli (1526-72) les écrit :

Il conclut : « Bien que ce mode de résolution soit, à vrai dire, plutôt sophistique, toutefois, dans les opérations, on peut s’en servir sans aucune difficulté ». Il les utilise donc sans réticence dans les opérations. Il prend toutefois la précaution d’isoler la partie problématique du calcul, qu’il désigne par l’expression « piu di meno », proche de notre $\sqrt{-1}$. Cette précaution lui permet alors d’énoncer comme une règle des signes portant sur la multiplication de ces quantités sophistiques :

1. Piu via piu di meno fa piu di meno
2. Meno via piu di meno fa meno di meno
3. Piu via meno di meno fa meno di meno
4. Meno via meno di meno fa piu di meno
5. Piu di meno via piu di meno fa meno
6. Piu di meno via meno di meno fa piu
7. Meno di meno via piu di meno fa piu
8. Meno di meno via meno di meno fa meno.

Ainsi, ces écritures symboliques dont le calcul est impossible sont d’autant plus difficiles à rejeter qu’elles correspondent à des solutions effectives. De plus, la généralité qu’elles produisent quant aux méthodes de résolution est très vite retenue. Avant même que ne s’impose l’unification des notations algébriques de Viète et Descartes, Albert Girard fait le pari de ce qui deviendra presque deux siècles plus tard le théorème fondamental de l’algèbre de D’Alembert-Gauss :

« Toutes les équations d’algèbre reçoivent autant de solutions, que la dénomination de la plus haute quantité le démonstre. … On pourrait dire à quoy sert ces solutions qui sont impossibles, je respond pour trois choses, pour la certitude de la règle générale, et qu’il n’y a point d’autre solution, et pour son utilité : l’utilité est facile, car elle sert à l’invention des solutions de semblables équations ... ».

La porte est ainsi ouverte à la manipulation, sinon à l’existence, des « quantités impossibles », ainsi qualifiées jusqu’au début du 19^ème siècle. En tant que mode d’écriture symbolique qui devient standard au cours du 17^ème siècle, l’algèbre devient un outil d’analyse mathématique. En ce sens, elle ne prétend pas encore au statut de discipline, et la Géométrie reste le canon de la pensée mathématique, dans la mesure où les Eléments d’Euclide restent garants des critères de certitude et de l’articulation au réel [4]. L’algèbre se doit cependant d’offrir une cohérence interne, et cette exigence induit jusqu’au 19^ème siècle un débat constant sur la validité des analogies opératoires dont cette écriture est porteuse, confrontée aux significations arithmétiques de son vocabulaire.

François Viète

Opera Mathematica, publié à Leyde en 1646

En remplaçant les nombres par des lettres, l’algébriste introduit la possibilité d’échapper à la signification strictement arithmétique des nombres et des grandeurs, c’est-à-dire de la référence des symboles. Reste que cette référence demeure, ancrée dans la réalité des problèmes posés. Du 16^ème au 19^ème siècle, les mathématiciens seront individuellement fort circonspects et collectivement très partagés, selon leur point de vue philosophique, quant au statut à donner à ces nouvelles entités « moindres que rien » ou « impossibles », et à ce nouveau calcul sur des lettres, d’autant que des contradictions ne cessent de se manifester avec les règles de calcul ordinaire. L’extension du champ opératoire semble en effet exiger de renoncer à certaines d’entre elles.

L’algèbre de Viète, qu’il qualifie de « logistique spécieuse » ou d’« art analytique », fonde véritablement la théorie des équations. En isolant la dénomination des constantes de celle des inconnues [5], Viète peut écrire les relations entre coefficients – un mot qu’il invente – et les racines, et présenter les solutions sous forme de formules. Mais il s’en tient aux notations cossiques et refuse les nombres négatifs, qu’il peut éviter grâce à un changement de variable [6].

Exemple d’écriture de Viète

Opera Mathematica

Descartes, qui fixe les notations qui sont les nôtres aujourd’hui [7] – inconnues représentées par les dernières lettres de l’alphabet, notation exponentielle des puissances de l’inconnue – accepte pour cette même raison ces racines qu’il qualifie de « fausses », et peut ainsi écrire pour chaque degré une équation canonique unique. Mais les quantités sophistiques de Bombelli restent pour Descartes « imaginaires » :

« Au reste, tant les vraies racines que les fausses ne sont pas toujours réelles ; mais quelquefois seulement imaginaires ; c’est-à-dire qu’on peut bien toujours en imaginer autant que j’ai dit en chaque équation ; mais qu’il n’y a quelquefois aucune quantité, qui corresponde à celles qu’on imagine. Comme encore qu’on en puisse imaginer trois en celle-ci $x^3-6xx+13x-10$ æ $0$ ; il n’y en a toutefois qu’une réelle, qui est 2, et pour les deux autres, quoi qu’on les augmente, ou diminue, ou multiplie, ..., on ne saurait les rendre autres qu’imaginaires ».

Ce point de vue s’articule sur le mode de légitimation de l’algèbre de Descartes. Son ouvrage s’intitule La Géométrie (1637) et toutes les opérations introduites sont étayées par des constructions géométriques, où les grandeurs représentées restent arithmétiques : les racines imaginaires ne sont pas susceptibles d’une représentation géométrique [8].

Ce recours à l’imaginaire n’est pas le seul fait de Descartes. Le philosophe et mathématicien janséniste Antoine Arnauld (1612-94), dans ses Nouveaux élémens de géométrie (1683), traite la multiplication des quantités hétérogènes en se référant à des « fictions de l’esprit » :

« Ce qui ne se peut multiplier par la nature, se peut multiplier par une fiction d’esprit, par laquelle la vérité se découvre aussi certainement que par les Multiplications réelles ; ainsi voulant savoir quel sera quel chemin fera en dis heure celuy qui a fait 24 lieues en 8 heures, je multiplie par une fiction d’esprit 10 heures par 24 lieues, ce qui me donne un produit imaginaire d’heures et de lieues de 240 qui estant divisé par 8 heures me donne 30 lieues. On multiplie aussi par la même fiction d’esprit des surfaces par des surfaces, quoi que cela donne pour produit une étendue de 4 dimensions qui ne peut estre dans la nature ; et néanmoins on ne laisse pas de découvrir beaucoup de vérités par des sortes de multiplications ».

Il s’inquiète cependant du fait que les opérations sur des lettres puissent apparaître comme une « espèce de jargon », et souligne la difficulté qu’introduit la manipulation des « moins », à savoir son incompatibilité avec l’ordre de grandeur arithmétique des proportions, à laquelle il ne renonce cependant pas :

« Il ne peut estre vray que l’unité soit à $–5$ comme $–3$ est à $+15$ ; parce qu’il faudrait pour cela que le second terme estant plus petit que le $1$, le $4$. fust aussi plus petit que le $3$. au lieu qu’il est beaucoup plus grand. Je ne voy point d’autre réponse à cela que de dire la multiplication de moins par moins se faisant par voye de soustraction, au lieu que toutes les autres se font pas voye d’addition, il n’est pas étrange que la notion des multiplications ordinaires ne convienne pas à cette sorte de multiplication qui est d’une autre genre que les autres ».

Gottfried W. Leibniz (1646-1716) valorisera cette référence aux « fictions de l’esprit » pour les racines imaginaires, « prodige[s] du monde des idées, objet[s] presque amphibie[s] entre l’Etre et le Non-être », leur conférant une origine quasi divine. Mais c’est surtout en raison de leurs immenses potentialités, aussi bien en analyse algébrique qu’en trigonométrie, qu’elles s’imposeront au 18^ème siècle, tout en demeurant suspectes, les problèmes d’incohérence logique avec la tradition arithmétique restant non résolus.

Les exigences d’une algèbre symbolique au 19^ème siècle : logique et normalisation

Les algébristes anglais de la première moitié du 19^ème siècle interviennent à un moment précis de cette histoire. Ils abordent de front cette question de la cohérence logique de l’algèbre, avec l’ambition déclarée de conférer à cet « art analytique » le statut de science. D’abord investie par des auteurs relativement peu connus comme Charles Babbage (1791-1871) et George Peacock (1791-1858), elle débouchera avec George Boole (1815-64) sur la première tentative d’algébrisation de la logique, conçue comme un « système de signes » représentant les « opérations du langage », et constituant par le fait même un « instrument de raisonnement ».

Le 18^ème siècle n’a cessé d’accumuler les acquis opératoires relatifs aux entités imaginaires, en s’appuyant sur la permanence supposée des règles de calcul, c’est-à-dire sur des analogies opératoires. C’est ainsi qu’on s’autorise à écrire :
\[ (a+b\sqrt{-1})(c+d\sqrt{-1})=ac + bc\sqrt{-1}+ad\sqrt{-1}-bd \]
par analogie avec l’écriture arithmétique :
\[ (a + b)(c + d) = ac + bc + ad + bd. \]
De même, Jacques Bernoulli (1654-1705), Jean Bernoulli (1657-1758) et Leibniz obtiennent l’intégrale $\int \frac{a \ dz}{b^2+z^2}$ par analogie avec $\int \frac{a \ dz}{b^2-z^2}$ en y remplaçant $z$ par $z\sqrt{-1}$. Ce faisant, l’introduction subreptice du logarithme d’entités imaginaires, faute de concevoir d’emblée la possibilité de valeurs multiples, voire une limitation à un domaine de validité, débouche sur des difficultés opératoires, et sur la célèbre « controverse sur les logarithmes des nombres négatifs et imaginaires » [9], où sont déployés de nombreux argumentaires pour tenter d’expliquer des résultats aussi paradoxaux que :

qui contredit la formule obtenue par Jean Bernoulli :
\[ \log \sqrt{-1} = \frac{\pi}{2} \sqrt{-1}. \]
Ces entités nouvelles restent donc problématiques, tout comme le sont les « quantités infiniment petites », auxquelles se réfère le calcul infinitésimal, né au 17^ème siècle des travaux d’Isaac Newton (1642-1727) et de Leibniz, et qui permet à la nouvelle physique de se développer comme théorie du mouvement depuis les Principes mathématiques de la philosophie naturelle (1687) de Newton. Au début du 19^ème siècle, en utilisant cette fois des analogies entre développement en série, il s’agit aussi de légitimer des calculs sur ce qui deviendra des opérateurs différentiels, depuis que, sur les traces de Louis-François Arbogast (1759-1803), on s’autorise à séparer les signes de variable et de fonction, et à traiter ceux-ci comme des nombres :

par analogie avec l’écriture arithmétique :
\[ a^n.a^p = a^{n+p}. \]
Mais c’est précisément le changement de signification des symboles sur lesquels portent les calculs entre l’écriture arithmétique et l’écriture algébrique qui justifie toutes les attaques dont ces calculs sont alors l’objet, et qui interdit que l’algèbre soit considérée comme une science.

L’initiative de cette réflexion générale sur le statut de l’algèbre a lieu à Cambridge au début du 19^ème siècle, où un groupe d’étudiants anime un mouvement de réforme des mathématiques à l’université. Ce mouvement débouchera sur la constitution d’un réseau très actif dans le renouvellement des structures du monde savant en Angleterre. Il s’agit, localement, d’adapter les universités anglicanes aux effets de la Révolution Industrielle, et globalement, au moment de la publication du Traité de Mécanique Céleste de Pierre-Simon de Laplace (1749-1827) – le nouveau Newton ! –, de s’approprier les outils de l’analyse algébrique, développés massivement sur le Continent via la notation différentielle leibnizienne alors que Cambridge était restée figée dans une double fidélité à Euclide et à la notation fluxionnaire newtonienne du calcul infinitésimal.

Great Court, Trinity College, Cambridge

Réformateur, Peacock veut imposer l’algèbre en lieu et place de la géométrie dans le curriculum à Cambridge, ce qui suppose de lui conférer le statut de science qui lui fait alors défaut. En 1830, A Treatise of Algebra, et en 1833, son « Report on the recent progress and present state of certain branches of analysis » au 3^ème congrès de la British Association for the Advancement of Science, marquent le point de départ d’une conception nouvelle de l’algèbre. Son projet est d’expliciter la structure logique de l’algèbre, tout en évitant les changements de signification des symboles que sous-tend la démarche analogique, et à laquelle il attribue la responsabilité des résultats paradoxaux qui en perturbent le développement. Pour ce faire, il reconstitue une histoire épistémologico-génétique de la formalisation de l’algèbre, dont chacune des deux étapes en préserve la cohérence logique. Il distingue ainsi l’algèbre arithmétique et l’algèbre symbolique.

L’algèbre arithmétique est conçue comme stricte littéralisation de l’arithmétique. Les nombres y sont remplacés par des lettres, « symboles absolument généraux dans leur forme, mais pas dans leur valeur », en ce sens qu’ils conservent toutes les limitations de sens attachées aux quantités arithmétiques. Écrire $(a – b)$ ou $\sqrt{a-b}$ suppose que $a \geq b$. Les opérations conservent ainsi la signification qui leur a été donnée en arithmétique.

Partant de cette algèbre arithmétique, le travail de l’algébriste – « the business of algebra » – est alors d’identifier les règles générales de calcul qui ne dépendent pas de la valeur des symboles. L’algèbre symbolique fait ainsi sauter tous les verrous de la signification pour devenir strictement opératoire. Envisagée comme « le langage du raisonnement symbolique », elle est définie comme « science de combinaisons de symboles arbitraires, généraux dans leur forme comme dans leur valeur ». Ces combinaisons de symboles ne sont autres que les opérations. Si elles peuvent être appelées – par convention ou commodité – « addition », « soustraction », multiplication », « division », elles ne sont plus définies relativement à leurs résultats, ou à leurs techniques de calcul – comme en arithmétique – mais seulement par leurs propriétés en tant que lois de combinaison. La première d’entre elles est leur réciprocité deux à deux : la seule condition d’existence de $(a – b)$ est d’ordre symbolique : $(a – b) + b = a$, de même que $a^{1/2}$ n’est défini que par l’écriture symbolique : $\left(a^{1/2}\right)^2=a$. Peacock énonce alors comme autres propriétés : les règles d’opération, et un principe mixte d’associativité-commutativité – sans utiliser pour autant ce vocabulaire. Ces propriétés sont elles-mêmes qualifiées d’« hypothèses arbitraires », au sens où il ne les envisage pas comme intrinsèquement déterminées par les objets sur lesquels elles s’appliquent.

« Les opérations appelées addition et soustraction sont désignées par les signes $+$ et $-$
Elles sont inverses l’une de l’autre.
Dans la concurrence des signes $+$ et $-$, quelle que soit la manière dont ils sont utilisés, si deux signes se suivent, qu’ils soient $+$ et $+$, ou $-$ et $-$, ils sont remplacés par le signe $+$ ; et quand deux signes différents se suivent, qu’ils soient $+$ et $-$, ou $-$ et $+$, ils sont remplacés par le seul signe $-$.
Quand différentes opérations sont effectuées ou indiquées, l’ordre dans lequel elles se succèdent est indifférent.

Les opérations appelées multiplication et division sont désignées par les signes $\times$ et $÷$, ou plus fréquemment par une position conventionnelle des quantités ou des symboles les uns par rapport aux autres.
Les opérations de multiplication et de division sont inverses l’une de l’autre.
Dans la concurrence des signes $+$ et $-$ dans la multiplication ou la division, si deux signes se suivent, qu’ils soient $+$ et $+$, ou $-$ et $-$, ils sont remplacés par le seul signe $+$ ; et quand deux signes différents se suivent, qu’ils soient $+$ et $-$, ou $-$ et $+$, ils sont remplacés par le seul signe $-$.
Quand différentes opérations se succèdent, l’ordre dans lequel elles sont effectuées n’est pas indifférent ».

Wren Library, Trinity College, Cambridge

Malgré son insistance sur la liberté de choix des hypothèses de cette « science spéculative » qu’est l’algèbre symbolique, Peacock n’en donne pas une présentation axiomatique, il ne cherche pas à déduire toutes les conséquences possibles de quelques hypothèses préalables arbitrairement choisies. S’appuyant sur la philosophie de John Locke (1632-1704) – dont il investit pleinement la conception de l’ « arbitraire du signe » lorsqu’il renonce à la signification des symboles –, il met en place une conception empiriste du processus de symbolisation, fondée à la fois sur « les opérations de l’esprit » et sur les pratiques de l’algèbre arithmétique. Les relations épistémologiques entre algèbre arithmétique et algèbre symbolique sont donc pour le moins ambiguës, puisque l’algèbre arithmétique est « science de suggestion » pour l’algèbre symbolique, en même temps qu’elle exprime des « vérités contingentes », et se trouve donc subordonnée à cette « science des vérités nécessaires » qu’est l’algèbre symbolique.

Cet effort philosophique pour penser le processus d’élaboration de l’algèbre au delà des aléas de l’histoire, en termes de théorie de la connaissance, s’exprime dans le double principe de permanence des formes équivalentes :

« Proposition directe
(A) : Toute forme qui est algébriquement équivalente à une autre quand elle est exprimée en symboles généraux doit continuer à lui être équivalente, quel que soit ce que ces symboles représentent.
Proposition réciproque
(B) : Toute forme qui est découverte en algèbre arithmétique considérée comme science de suggestion, lorsque les symboles sont généraux dans leur forme, bien que spécifiques dans leur valeur, doit continuer à être une forme équivalente quand les symboles sont généraux dans leur nature aussi bien que dans leur forme ».

Pour Peacock, la signification des résultats devient contingente, elle ne constitue qu’une « interprétation » éventuelle, mais non indispensable, des résultats symboliques qui eux, obtenus en tant qu’écritures formelles, sont nécessaires et universels. Cette rupture radicale entre modalités du calcul algébrique et signification des symboles s’impose comme prix à payer pour que l’algèbre, en tant que « langage du raisonnement symbolique », dispose de l’universalité et de l’indépendance absolue qui lui permettent de soumettre à ses principes opératoires toutes les branches de la philosophie naturelle. Peacock ne renonce cependant pas à toute signification du calcul, mais ce qui fait sens pour lui en mathématiques revient totalement aux opérations.

Dans un premier temps, l’héritage de Peacock sera moins flagrant en mathématiques qu’en logique. En mathématiques, la référence à l’algèbre symbolique perdurera, sans qu’elle conserve pour autant les mêmes présupposés philosophiques. Le formalisme de l’algèbre symbolique prendra assez vite une signification plus technique, qui conduira ses successeurs à identifier certaines structures, dans le cadre de recherches plus générales sur le formalisme algébrique. Dans un même mouvement, l’idée de séparer les lois du calcul de la signification des symboles les conduit à produire de nouveaux objets mathématiques. Augustus de Morgan (1806-71) par exemple, dans une série de quatre articles « On the Foundations of Algebra » (1842-49), identifie les propriétés caractéristiques de ce qu’on nomme aujourd’hui un corps – sans le nommer pour autant – et produit les « triplets », en sélectionnant certaines propriétés opératoires à satisfaire [10], Arthur Cayley (1821-95) explicite de même les propriétés opératoires qui caractérisent un « groupe » (1854-59), avant d’étudier les propriétés de certains groupes finis. Il définit les octaves ou octonions, extensions non-associatives des quaternions de William R. Hamilton (1805-65), en même temps qu’il explore avec James J. Sylvester (1814-97) les propriétés opératoires des déterminants, des matrices et des invariants.

Charles Babbage (1791-1871) : Plan de la machine analytique 1842

Envisager le calcul analytique comme coupé de toute signification rend possible sa mécanisation. Babbage conçoit ainsi les plans d’une machine dont la structure est la même que celle d’un ordinateur d’architecture von Neumann.

S’il n’hérite pas directement des conceptions de Peacock [11], George Boole est pourtant celui qui en poursuit le plus fidèlement la démarche, en élaborant la première tentative d’algébrisation de la logique. Il conçoit un projet philosophique de plus grande ambition : « étudier les lois fondamentales des opérations de l’esprit », envisageant d’emblée le langage comme un système de signes, ayant pour but l’exercice de la raison humaine :

« Proposition I :
Toutes les opérations du langage, en tant qu’instrument du raisonnement, peuvent se conduire dans un système de signes composé des éléments suivants :

1. Des symboles littéraux, tels que $x$, $y$, etc., représentant les choses en tant qu’objets de nos conceptions.
2. Des signes d’opérations, tels que $+$, $-$ , . , qui traduisent les opérations de l’esprit par lesquelles les conceptions des choses sont combinées ou séparées de manière à former de nouvelles conceptions comprenant les mêmes éléments.
3. Le signe d’identité.
   Et ces symboles logiques voient leur usage soumis à des lois déterminées, qui en partie s’accordent et en partie ne s’accordent pas avec les lois des symboles correspondants dans la science de l’algèbre ».

À la recherche de ces lois opératoires, Boole identifie le « et » logique à l’opération ($+$) et le « ou » exclusif à l’opération ($\times$). Et c’est précisément dans la mesure où ces opérations logiques possèdent les mêmes propriétés formelles que l’addition et la multiplication, à savoir la commutativité et la distributivité – qu’il nomme ainsi sur les traces de Gregory –, que Boole s’autorise à transférer toutes les propriétés opératoires de l’algèbre à la logique. Quant au caractère contingent et subordonné de l’interprétation des symboles, Boole la réitère tout au long de son Investigation on the Laws of Thought, en se référant souvent d’ailleurs au symbole $\sqrt{-1}$, conçu comme pur symbole sans lui associer d’interprétation.

Conclusion

La symbolisation de l’algèbre est donc une part déterminante de son histoire. Initiée à partir de méthodes élaborées au sein du langage ordinaire, elle joue un rôle crucial dans le renouvellement de la signification des objets mathématiques. En même temps que s’estompe l’importance des résultats numériques face à la généralisation des processus de résolution, l’algèbre se focalise sur les lois de composition qui les organisent. Si la signification des symboles de quantités s’efface, celle des opérations devient prépondérante : et c’est là tout le sens du calcul sur des lettres. Le travail des algébristes anglais prépare la mutation de l’algèbre vers l’étude des structures abstraites, qui ne s’imposera que dans les années 1930, lorsque de telles structures auront été repérées et analysées dans tous les domaines des mathématiques.

Bibliographie

(éds.) Barbin, Evelyne et Boyé, Anne, 2005, François Viète, un mathématicien sous la Renaissance, Paris, Vuibert.

Djebbar, Ahmed, 2001, Une histoire de la science arabe, Paris, Seuil.

Djebbar, Ahmed, 2005, L’algèbre arabe, genèse d’un art, Paris, Vuibert, 2005.

Djebbar, Ahmed, et Rashed, Roshdi, 1981, L’œuvre algébrique d’Al-Khayyam, Alep, Presses Universitaires d’Alep.

Durand-Richard, Marie-José, 1996, « L’Ecole Algébrique Anglaise : les conditions conceptuelles et institutionnelles d’un calcul symbolique comme fondement de la connaissance », in (éd.) C. Goldstein, J. Gray, J. Ritter, L’Europe mathématique - Mythes, histoires, identités, Paris, Editions de la Maison des sciences de l’homme, pp. 445-498.

Durand-Richard, Marie-José, 1998, « Nombre, quantité, grandeur : de la transformation conjointe de leurs significations », in Collectif, Images, imaginaires, imaginations, une perspective historique pour l’introduction des nombres complexes, Paris, Ellipses.

Durand-Richard, Marie-José, 2004, « Babbage et Boole : les lois du calcul symbolique, Des lois de la pensée aux constructivismes », (ed.) Marie-José Durand-Richard, Intellectica, Revue de l’Association pour la Recherche Cognitive, 2004/2, n° 39, pp. 23-53.

Rashed, Roshdi, 1972, AL-Bahir en Algèbre d’As-Samaw’al, Damas, Presses de l’Université de Damas.

Rashed, Roshdi, 1984, Entre arithmétique et algèbre, Paris, Les Belles Lettres.

Rashed, Roshdi, Al-Kwarizmi, le commencement de l’algèbre, Paris, Blanchard.

Russo, François, 1959, « La constitution de l’algèbre au XVI^ème siècle, étude de la structure d’une évolution », Revue d’histoire des sciences et de leurs applications, Paris, n° 12, pp. 193-208.