Chasser les infinitésimaux

1. Un théorème qu’un dessin ne devrait pas démontrer

En 1817 paraît à Prague une mince brochure au titre interminable. En substance : démonstration purement analytique du théorème selon lequel, entre deux valeurs qui donnent à une expression des signes opposés, l’équation possède au moins une racine réelle. Le plus important, dans ce titre, tient en deux mots : purement analytique.

Personne ne doute du théorème. Tracez une courbe continue, située sous l’axe horizontal à son extrémité gauche et au-dessus à son extrémité droite : quelque part entre les deux, elle le traverse forcément. Cela va presque sans dire. L’auteur de la brochure s’appelle Bolzano. Et ce qui le gêne, c’est précisément ce « presque sans dire ».

Une courbe qui traverse une droite : voilà une image. D’où vient ce qu’elle nous apprend ? De nos yeux. Or ce théorème doit servir dans d’autres démonstrations, là où nous n’aurons aucune image à regarder.

Bolzano veut donc établir le résultat sans rien dessiner, en partant seulement de ce que l’on énonce à propos des nombres, des fonctions et de la continuité.

Le troisième épisode rencontrait déjà un problème de cette forme. Le premier problème de ce traité de géométrie exigeait de prendre le point d’intersection de deux cercles, sans qu’aucune des règles admises garantisse leur intersection. On les dessinait, et cela se voyait. La figure pouvait encore faire une partie du travail des mots. Plus tard, cette part-là aussi devrait être énoncée, phrase après phrase.

Cet épisode raconte l’histoire d’un homme qui ne veut plus laisser le dessin témoigner pour ce théorème. Et la querelle tourne mal pour lui.

Précisons d’emblée ce qu’il veut démolir. Pas le théorème : le théorème est juste. Ce qu’il attaque, c’est la manière de le démontrer.

Si nous accueillons avec confiance l’affirmation qu’une courbe allant du dessous au-dessus de l’axe doit le traverser, c’est qu’une image nous vient à l’esprit. Mais une image ne peut témoigner que pour les cas qu’on peut mettre en image.

Or, au XIXe siècle, l’analyse s’occupe de plus en plus de choses impossibles à dessiner : des expressions où s’additionnent une infinité de termes, des fonctions qui sautent partout, des passages à la limite à répéter une infinité de fois. Là, le dessin reste muet. Et les démonstrations doivent continuer.

Bolzano n’est pas professeur de mathématiques. Prêtre catholique, il enseigne la doctrine religieuse à la faculté de philosophie de l’université de Prague. Il consacre aux mathématiques un travail soutenu, mais ce n’est pas l’intitulé de sa chaire. En 1819, il est destitué : les tendances libérales de ses sermons et de sa pensée passent pour dangereuses. Suivent de longues années d’enquêtes et de surveillance, de courrier contrôlé et de publications entravées.

Que sa brochure ait si longtemps exercé si peu d’influence tient donc à un enchaînement de causes, pas à une seule.

Il serait pourtant excessif d’affirmer que personne ne l’a lue. Des revues de comptes rendus du monde germanophone en ont parlé ; des mathématiciens pragois la connaissaient ; Abel connaissait aussi une partie de ses travaux. Ce qui manque, ce ne sont pas les lecteurs. C’est une tradition capable de relier ces lectures : aucune école, aucun passage dans les manuels, aucun point de départ pour les démonstrations des autres.

Sa véritable réintégration au canon vient bien plus tard. Dans la seconde moitié du XIXe siècle, plusieurs auteurs reconnaissent publiquement son avance sur les questions de séries et de convergence. En 1881, un article est même consacré à sa place dans cette histoire. Laisser une trace dans les bibliographies et servir de point de départ sont deux choses différentes. La phrase figurait déjà dans l’épisode précédent. Il faut la reprendre ici.

Cette fois, la perte est plus concrète encore. La brochure contenait déjà des raisonnements que l’on reconnaîtrait ensuite comme des techniques fondamentales de l’analyse. S’ils étaient entrés à temps dans les manuels, bien des mathématiciens n’auraient pas eu, au cours des décennies suivantes, à refaire chacun le chemin.

2. Cauchy n’a pas chassé les infinitésimaux

Le titre de cet épisode demande des guillemets. Autant le dire tout de suite.

Voici le récit habituel. Le calcul différentiel et intégral du XVIIIe siècle reposait sur quelque chose qui n’était pas nul, mais qui était petit au-delà de toute petitesse : impossible d’en rendre compte clairement. Au début du XIXe siècle, Cauchy aurait remplacé cette chose par les limites. Puis Weierstrass aurait entièrement formalisé le langage, et la rigueur aurait enfin été établie.

Dès le premier pas, cela ne va pas.

En 1821, Cauchy publie un manuel destiné à une école d’ingénieurs parisienne. Dans son introduction, il explique que, pour traiter de la continuité des fonctions, il ne peut se dispenser des principales propriétés des quantités infiniment petites, puisqu’elles fondent le calcul infinitésimal. Le livre donne aussi une définition : lorsque les valeurs numériques d’une variable décroissent indéfiniment et ont zéro pour limite, cette variable devient infiniment petite. Deux ans plus tard paraît un autre ouvrage, résumé du cours de calcul infinitésimal qu’il dispense dans la même école. Le calcul infinitésimal figure jusque dans le titre.

Cauchy ne s’est donc pas contenté de conserver le mot. Il en a fait un matériau de base et le nom de son cours. L’homme qui aurait éliminé les infinitésimaux les affiche au fronton de son enseignement. Alors, qu’a-t-il fait ?

Sa définition de la limite décrit un processus. Si les valeurs successives d’une variable se rapprochent indéfiniment d’une valeur fixe, jusqu’à en différer finalement d’aussi peu que l’on voudra, cette valeur fixe s’appelle la limite de la variable. On comprend la phrase dès la première lecture, avec le sentiment de bien savoir de quoi il s’agit. Elle raconte ce qui se passe : une quantité bouge et se rapproche toujours davantage d’une autre.

Il formule la continuité de deux manières qui se suivent dans son texte. Selon la première, quand l’accroissement devient de plus en plus petit, la différence entre les deux valeurs de la fonction diminue elle aussi. La seconde est plus célèbre : dans un intervalle donné, un accroissement infiniment petit de la variable produit toujours un accroissement infiniment petit de la fonction.

Pour la convergence des séries, il parle de sommes partielles : si la somme des premiers termes tend vers une valeur finie quand leur nombre augmente, la série converge, et cette valeur est sa somme. Ces trois définitions contiennent déjà tous les matériaux du langage à venir : l’arbitrairement petit, le contrôle, l’approche d’une valeur. Il reste à les agencer dans une grammaire fixe.

Tant que les matériaux sont là sans que la grammaire soit fixée, chacun doit, à chaque usage, les placer lui-même dans le bon ordre. Bien ordonnés, ils donnent un raisonnement rigoureux. Mal ordonnés, ils ne signalent pas nécessairement la faute.

Dans ses démonstrations effectives, Cauchy recourt aussi très souvent à des estimations d’une grande finesse, obtenues par des inégalités. En faire un homme qui ne se fie qu’à l’intuition est donc aussi faux que lui attribuer l’achèvement de tout l’édifice ultérieur. Ce que sont exactement ses infinitésimaux fait l’objet d’un véritable débat, encore ouvert aujourd’hui.

Selon une première lecture, ce sont des variables tendant vers zéro, et non de petits nombres fixes dotés d’une existence indépendante. La plus grande partie de ses textes se laisserait alors traduire dans le langage ultérieur ; l’infiniment petit ne serait qu’une habitude de langage dont on pourrait toujours se passer.

Une seconde lecture refuse cette dernière conclusion. Cauchy substitue parfois directement un infinitésimal dans une fonction. Il compare des infinitésimaux de différents ordres. En 1853, revenant sur un vieux problème, il donne à une quantité une valeur qui diminue à mesure que le nombre de termes augmente, puis fait croître ce nombre indéfiniment. Réduire tous ces gestes à des habitudes verbales effaçables, c’est, selon cette lecture, projeter rétrospectivement la réponse venue après lui.

Il faut prendre l’objection inverse tout aussi au sérieux. Construire, avec les outils du XXe siècle, un modèle fidèle d’un raisonnement du XIXe ne prouve pas que son auteur possédait effectivement cette ontologie. Cauchy n’avait ni ce modèle, ni le système de nombres ultérieur, ni les règles de transfert correspondantes.

La position la plus sûre ne consiste donc pas à choisir un camp. Elle consiste à poser ceci : aucun des deux camps ne peut prétendre que Cauchy n’utilisait pas les infinitésimaux. Le désaccord porte sur leur rôle : simples mots pour décrire un processus, ou éléments dont la traduction ferait perdre quelque chose ?

Ce débat mérite qu’on s’y arrête, car sa forme revient plusieurs fois dans cette série. Les générations suivantes peuvent reformuler un texte dans leur propre langue, lui donner une expression parfaitement cohérente et aboutir à une conclusion juste. Qu’une reformulation fonctionne ne signifie pas que l’auteur pensait déjà ce qu’elle lui fait dire.

Le cinquième épisode traitait du même problème. Il le disait ainsi : ce que les modernes reconstruisent ne peut pas prendre la place de ce que les anciens ont eux-mêmes écrit.

3. Il y a des exceptions

Le livre de 1821 contient un théorème qui dit, en substance : si chaque terme d’une série est une fonction continue d’une même variable, et si la série converge au voisinage d’un certain point, sa somme est elle aussi continue dans ce voisinage. Selon la lecture devenue standard par la suite, c’est faux. Abel le signale en 1826. Le mot qu’il emploie mérite d’être retenu. Il a alors vingt-trois ou vingt-quatre ans et parcourt l’Europe pour se former ; Cauchy est déjà l’un des analystes les plus éminents de France.

Abel ne dit pas que le théorème est faux. Il dit qu’il admet des exceptions. Celle qu’il propose est une série trigonométrique, de la famille de celles dont Fourier se sert pour décomposer les fonctions dans ses travaux sur la chaleur : chacun des termes est continu, mais la fonction périodique obtenue en les additionnant présente des discontinuités en certains points.

Une substitution est devenue courante. Dans les cours, on donne souvent pour exemple une série de puissances en expliquant qu’il s’agit du contre-exemple d’Abel de 1826. Ce n’est pas le cas. Abel utilisait une série trigonométrique.

Et le mot « exceptions » n’est pas une simple politesse. Les mathématiques des années 1820 ne disposent pas encore d’un concept de convergence uniforme, au sens ultérieur, qui permettrait de trancher la validité de ce théorème. À cette époque, un théorème auquel quelques cas désobéissent et un théorème réfuté ne sont pas la même chose.

En 1853, Cauchy revient lui-même sur le problème. Il ajoute une condition : le reste de la série doit devenir « toujours » infiniment petit lorsque le nombre de termes croît indéfiniment. Tout se joue dans ce « toujours ». Il examine ensuite une série trigonométrique semblable à celle d’Abel et, dans son raisonnement, attribue à une quantité une valeur qui diminue à mesure que le nombre de termes augmente.

Là encore, deux lectures s’affrontent.

Pour la première, les conditions de 1821 étaient trop faibles ; Abel en a révélé la faille ; plusieurs mathématiciens ont ensuite dégagé peu à peu la condition appelée convergence uniforme. En introduisant « toujours » en 1853, Cauchy a donc renforcé son hypothèse.

Pour l’autre, il faut entendre « toutes les valeurs » dans le langage infinitésimal propre à Cauchy, en y incluant les valeurs infiniment petites. La condition de 1853 est alors correcte. Même la démonstration de 1821 ne serait pas nécessairement une simple erreur : ce seraient les générations suivantes qui auraient forcé ses variables et ses voisinages à entrer dans un autre cadre. Cette lecture établit la possibilité d’une reconstruction fidèle. Elle ne prouve pas que Cauchy possédait déjà, en 1821, la sémantique qui la rend possible.

Quelle que soit la lecture retenue, un point est clair. Le problème est posé en 1821 ; des exceptions sont signalées en 1826 ; il faut attendre les environs de 1847 pour voir publiée la condition réellement opérante ; Cauchy y revient en 1853 ; la fixation de cette condition en concept standard est plus tardive encore. Trente ans. Autour de ce théorème, le sens précis de « variable », de « voisinage » et des conditions de convergence s’est progressivement différencié. Réduire l’affaire à une proposition moderne déjà fixée, que personne n’aurait su trancher pendant tout ce temps, serait la fausser. Cette situation n’existe presque plus dans les mathématiques actuelles : on exige d’abord que le sens de l’énoncé et ses hypothèses soient précisés. Cela n’empêche pas un problème de demeurer ouvert, ni d’être indépendant d’un système d’axiomes donné. Disposer d’une preuve ou disposer d’un contre-exemple n’épuise pas tous les états possibles de notre savoir.

Pendant ces trente années, un troisième état était pourtant la norme : cela marche dans l’ensemble, quelques cas se rebiffent, et personne ne sait au juste ce que recouvre ce « quelques ».

Le mal ne touchait pas seulement ce théorème. Beaucoup de résultats hérités du XVIIIe siècle en étaient là : redoutablement efficaces à l’usage, mais incapables de dire exactement jusqu’où ils s’appliquaient dès qu’on insistait. Une grande part de ce qui allait suivre viserait à faire disparaître ce troisième état.

Pour le faire disparaître, il ne fallait pas traquer un à un tous les cas récalcitrants. Il fallait reformuler les théorèmes avec assez de précision pour que la désobéissance elle-même devienne impossible : dire dans les hypothèses ce que l’on exige. Une fois cela dit, tous les cas qui les satisfont obéissent ; les autres n’ont jamais relevé du théorème.

Le prix à payer, ce sont des hypothèses très longues. Et très laides.

4. Un professeur du secondaire

La trajectoire de Weierstrass est l’exact opposé de celle du jeune prodige qui gravit tous les échelons.

Son père veut qu’il étudie à Bonn ; il s’y rend, mais ses années d’université ne sont pas une réussite. Il s’oriente ensuite vers une formation d’enseignant. Pendant toute la décennie 1840, il enseigne dans le secondaire en Prusse, dans deux établissements successifs. Certaines de ses premières recherches, pourtant de très haut niveau, paraissent dans des publications aussi discrètes que les annuaires de son école. Elles restent presque entièrement hors du champ de vision des grands milieux mathématiques européens.

Le tournant arrive en 1854. Un article consacré à une certaine classe de fonctions attire l’attention, et l’université de Königsberg lui décerne un doctorat honoris causa. En 1856, il est appelé à Berlin, d’abord dans un institut industriel ; la même année, il devient professeur extraordinaire à l’université de Berlin et entre à l’Académie des sciences. Il n’obtiendra une chaire de professeur ordinaire qu’en 1864. Autrement dit, c’est vers quarante ans qu’un enseignant du secondaire devient une étoile de l’université de la capitale.

Ce parcours compte pour le langage que nous allons examiner. Plus de dix années passées devant des élèves du secondaire donnent une sensibilité à ce qu’une phrase leur fait ou non comprendre, sensibilité que l’on n’acquiert pas forcément en grandissant à l’université. La forme de ses futures définitions permettra justement d’avancer pas à pas en classe. Ses cours de fondements, arrivés à maturité, ne sont pas un système sorti tout armé de sa jeunesse. Ils sont le fruit d’un chantier pédagogique repris sans cesse après son arrivée à Berlin.

Un autre fait constitue le fil matériel de cet épisode : Weierstrass publie très peu.

Il ne s’abstient pas de toute publication : l’article de 1854 a précisément rendu possible son départ du secondaire. Mais, au regard de son influence réelle, pendant de longues années, il ne donne pas à ses fondements de l’analyse la forme d’un manuel accessible au public. À Berlin, il ne cesse de reprendre son cours sur les fondements de la théorie des fonctions, sans jamais publier officiellement le système complet.

Pour connaître sa pensée des années 1860 aux années 1880, notre source principale est donc constituée de notes prises par ses étudiants. Il faut lire cette phrase lentement. Ces notes ne nous fournissent pas quelques compléments : elles sont la source principale. En 1861, le jeune Schwarz prend en note son cours de calcul différentiel. Il qualifiera lui-même ce document de résumé condensé, imparfait et entaché de faiblesses. Le détail importe. Quand nous lisons aujourd’hui que Weierstrass a défini telle chose en 1861, la référence n’est pas un livre qu’il aurait publié cette année-là. C’est le manuscrit d’un étudiant.

À partir des années 1860, sa santé se dégrade, et ce dispositif se consolide encore. Les archives nous ont laissé une scène très précise : il parle assis ; un étudiant choisi pour cette tâche écrit sous sa dictée au tableau ; les autres recopient. Les cahiers circulent ensuite hors de Berlin, et jusque hors d’Allemagne.

Ce ne sont pas des souvenirs privés. Certains cahiers sont copiés, échangés, voire achetés et vendus. Les papiers de Schwarz gardent la trace d’un paiement effectué pour obtenir les notes de cours prises par quelqu’un d’autre en 1868. Weierstrass lui-même n’y est pas hostile. Il dit disposer de notes mises au net par des auditeurs, bien meilleures que certaines versions en circulation ; il emprunte aussi des cahiers d’étudiants pour préparer ses propres cours.

Publier peu ne signifie donc pas cacher sa pensée. Celle-ci emprunte un autre circuit : la chaire, la parole en classe, le tableau, les cahiers d’étudiants, leurs copies et leur commerce, les mathématiciens d’autres villes, et enfin seulement l’édition imprimée.

Le parchemin gratté puis recouvert de prières du quatrième épisode, les papiers de travail privés que personne ne destinait à la publication dans le neuvième, et ces notes de cours sont trois points d’une même ligne. L’essentiel se trouve souvent ailleurs que dans les publications officielles. Mais les deux premiers témoignages nous sont parvenus par accident ; ici, c’est toute une institution qui fonctionne.

Et cette institution a un coût. Pour qu’un cahier existe et circule, il faut des gens qui écoutent, écrivent, recopient, et parfois paient. La distance qu’il parcourra dépend du nombre de personnes disposées à y consacrer tout cela.

Qu’une pensée non publiée devienne un bien commun ne dépend donc pas seulement de sa justesse.

5. Donnez-moi une marge d’erreur

Venons-en au langage lui-même. Écartons d’abord l’affirmation la plus trompeuse : telle année, dans tel article, Weierstrass aurait donné la définition moderne de la limite. Cet article n’existe pas. Quant à ce que fait ce nouveau langage, on peut l’expliquer sans employer le moindre symbole.

Cauchy dit que les valeurs d’une variable s’approchent indéfiniment d’une valeur fixe, jusqu’à ce que leur différence finisse par être aussi petite qu’on le veut. Il y a dans cette phrase un mouvement : s’approcher. Ce mouvement est un processus, il se déroule dans le temps, et le lecteur doit le refaire mentalement. La nouvelle formulation le supprime.

Elle dit plutôt : donnez-moi d’abord une marge d’erreur quelconque, aussi petite que vous voudrez. Je trouverai un voisinage du point considéré tel que, pour toute valeur de la variable située dans ce voisinage mais distincte du point lui-même, l’écart entre la valeur de la fonction et la limite annoncée soit inférieur à votre marge. Pour chaque marge que vous pourriez me proposer, je peux trouver un tel voisinage.

Voyez ce qui a changé. L’ancienne phrase décrivait le comportement d’une quantité : elle bougeait, elle s’approchait. La nouvelle décrit un échange : vous proposez un nombre, je réponds par un nombre, et je garantis une réponse à chacune de vos propositions possibles. C’est cela que signifie avoir cette valeur pour limite.

Plus de « s’approcher », plus de « finalement », plus de « de plus en plus ». Il ne reste que deux choses : ce que vous demandez, et ce que je peux vous répondre. La description d’un processus est devenue un dialogue dont les règles disent qui gagne.

L’avantage, c’est qu’on peut vérifier. Pour juger un processus, il faut le parcourir dans sa tête. Pour savoir si une réponse gagne la partie, on peut la contrôler point par point.

Et ce contrôle peut être fait par quelqu’un qui ne vous connaît pas, cent ans plus tard, ou par quelqu’un qui n’est d’accord avec vous sur rien. Il n’a pas besoin de refaire le chemin que vous avez suivi. Il lui suffit de vérifier, chaque fois, que votre réponse convient.

Le troisième épisode avait déjà montré un geste semblable, sous une autre forme. Alors, on expulsait la figure de la démonstration pour ne plus dépendre des yeux de personne. Ici, on expulse le processus de la définition pour ne plus dépendre de l’imagination de personne. En contrepartie, le texte ne donne plus l’impression de raconter quelque chose qui arrive.

Ce langage ne s’est pas non plus constitué d’un seul coup. Le premier témoignage conservé qui l’atteste clairement est le cahier de calcul différentiel de 1861. À partir de 1863, Weierstrass donne et redonne un cours central, au sein de ce qui deviendra le célèbre cycle de cours berlinois. Les notes des années suivantes montrent des définitions qui se standardisent peu à peu, plutôt qu’un ensemble fixé une fois pour toutes.

La convergence uniforme fait particulièrement bien voir ces différentes strates. Dès 1838, dans un autre contexte, on trouve des expressions comme « converger d’une manière uniforme ». Un article de Weierstrass daté de 1841, mais publié seulement en 1894, contient une formulation apparentée ; des recherches récentes soulignent toutefois que le texte imprimé a été remanié. On ne peut donc pas reporter sans réserve l’intégralité de sa formulation sur 1841. Vers 1847, deux autres auteurs, chacun à partir du problème de la continuité de la somme des séries de fonctions, publient la condition que l’on reconnaîtra ensuite comme décisive. Puis, en 1853, Cauchy revient à la question dans sa propre langue.

Savoir qui est le premier dépend donc de la question que l’on pose.

Qui a le premier aperçu le phénomène ? Qui a le premier formulé une condition de ce genre ? Qui l’a publiée le premier ? Qui a le premier compris qu’il s’agissait d’un concept fondamental de portée générale en analyse ? Ces quatre questions n’ont pas pour réponse le même nom.

6. 1872

Le 18 juillet 1872, Weierstrass présente à l’Académie des sciences de Berlin une fonction continue partout, mais qui n’admet de dérivée déterminée en aucun point. À l’époque, réunir ces deux propriétés semble presque se contredire.

Jusque-là, une courbe continue évoque une ligne que l’on peut tracer sans lever le crayon. Et sur une telle ligne, à quelques angles près, on se croit assuré de pouvoir poser une tangente partout. Cette assurance ne vient pas d’un théorème. Elle vient d’une image.

La continuité dit que la courbe ne se rompt pas. L’existence d’une dérivée dit qu’en ce point on peut tracer une tangente de pente finie. Voici donc une courbe qui ne se rompt nulle part et à laquelle on ne peut tracer de tangente de pente finie en aucun point.

Cela ne veut pas dire que personne n’avait imaginé auparavant des courbes non lisses. Une ligne brisée n’a pas de tangente à ses sommets. Mais elle ne pose problème qu’en un nombre fini de points ; ailleurs, elle est parfaitement lisse. Ici, la fonction reste continue tout en étant dépourvue de dérivée finie en chaque point. Ce n’est pas la même chose qu’avoir, au sens ordinaire, un angle partout.

Le choc ne tient pas à l’arrivée d’un exemple bizarre de plus. Il tient à ceci : désormais, l’apparence continue d’une courbe ne vous autorise plus à faire confiance à la moindre intuition sur ses tangentes, son caractère localement lisse ou sa dérivabilité.

Deux moments de cette histoire sont souvent rabattus sur 1872. Ni l’un ni l’autre ne date pourtant de cette année-là.

D’abord, l’exemple ne se diffuse pas sur-le-champ, lors de sa présentation en 1872. Le texte de Weierstrass ne circule pas immédiatement sous la forme d’un article ordinaire. C’est un texte publié en 1875 par du Bois-Reymond qui le fait connaître publiquement.

Ensuite, les « monstres mathématiques » ne sont pas la réaction du jour. La célèbre idée que la logique peut engendrer des monstres vient de Poincaré, vers 1899. Dans une lettre à Stieltjes de 1893, Hermite parle de ces fonctions continues sans dérivée avec des mots où se mêlent la peur et l’aversion. Ce sont deux témoignages solides. Mais ils sont postérieurs d’une vingtaine d’années à 1872 : on ne peut pas les faire passer pour des réactions entendues ce jour-là dans la salle de l’Académie. Revenons à cette même année 1872. Il s’y produit autre chose. Plusieurs choses, en réalité.

Dedekind publie une brochure intitulée Continuité et nombres irrationnels. Son point de départ est une difficulté rencontrée en enseignant, en 1858 : pour démontrer les théorèmes touchant à la continuité, on ne peut pas indéfiniment demander à la droite géométrique de se porter garante du système des nombres. Il partage les rationnels en deux classes soumises à certaines conditions d’ordre, puis construit, par de telles coupures, les irrationnels correspondants. La continuité de la droite devient ainsi une propriété du système numérique lui-même.

Cette même année, dans un article de revue, Cantor part d’une certaine classe de suites de rationnels et rassemble celles qui se rapprochent indéfiniment les unes des autres pour en faire de nouveaux nombres. Heine emploie lui aussi, dans une autre revue de la même année, une méthode analogue fondée sur les suites pour traiter des irrationnels et de la théorie des fonctions.

Ce ne sont pas trois inventions simultanées et indépendantes des nombres réels. Les idées circulent étroitement entre Heine et le milieu de Cantor. D’autres travaillent aussi dans cette direction : les constructions ne se limitent pas à trois.

1872 ressemble plutôt à un point de confluence. Pendant des décennies, la pression s’est accumulée autour des limites, des nombres irrationnels, des fonctions et de la continuité. Cette année-là, elle débouche sur plusieurs solutions que l’on peut imprimer et comparer entre elles. Qu’est-ce que cela change ?

Les mathématiciens n’ignoraient évidemment pas les irrationnels. Mais, au bout d’une démonstration d’analyse, ils devaient souvent faire un dernier emprunt à la droite géométrique, ou à l’intuition qu’une certaine limite devait bien exister. Rien de tout cela n’avait été construit séparément, à partir d’un niveau plus fondamental.

Désormais, c’est possible. Toute partie non vide et majorée des réels possède une borne supérieure ; toute suite de Cauchy de nombres réels a une limite réelle. Plus besoin de demander à un dessin de droite de garantir ces énoncés : on peut les inscrire directement dans la construction du système numérique.

Gardons-nous, ici aussi, de fabriquer un mythe. Les coupures et les suites n’ont pas découvert une même chose qui attendait, cachée dans la nature. Ce sont deux moyens différents de donner à une structure les propriétés que nous exigeons des nombres réels.

7. Le mot « arithmétisation »

« Arithmétisation de l’analyse » : l’expression nous vient aujourd’hui sans effort. Elle a pourtant une origine précise, qui ne coïncide pas avec l’usage actuel. Un de ses premiers emplois repérables se trouve dans un article de Kronecker de 1887. Seulement, ce que Kronecker appelle arithmétisation n’est pas ce que racontent les histoires ultérieures lorsqu’elles attribuent à Weierstrass, Dedekind et Cantor l’arithmétisation de l’analyse.

Kronecker veut fonder les mathématiques sur les entiers et sur des procédures de construction finies. La théorie des ensembles développée du côté de Cantor, ainsi que certains objets infinis, comptent précisément parmi les choses à l’égard desquelles il nourrit de fortes réserves.

Faire de l’arithmétisation le mot d’ordre commun de tout un camp dans les années 1870, c’est donc se tromper à la fois de date et de position. Après que Klein en a fait le titre d’un article, en 1895, le terme se prête de mieux en mieux à un emploi historique général. Le détour vaut la peine : le mot dont la postérité se sert pour résumer une période vient souvent de l’un de ses opposants. Kronecker approuvait le mot « arithmétisation ». Il n’approuvait pas la plus grande partie de ce que nous rangeons aujourd’hui dessous.

Le sixième épisode présentait un cas voisin : un mot né de la première phrase de la traduction d’un livre aujourd’hui perdu, et dont le sens actuel n’a plus de rapport avec ce livre. Ici, le déplacement est différent : un opposant forge un terme qui servira plus tard à désigner ce qu’il combattait. Dans les mêmes années, un autre fil se déroule, noué à ceux que nous venons de suivre.

Dans son mémoire d’habilitation de 1854 sur les séries trigonométriques, Riemann consacre une étude particulière à la notion d’intégrale définie et à son domaine d’application. Le texte ne paraît qu’après sa mort, en 1867. Sa question n’est plus de constater qu’une fonction continue s’intègre naturellement, mais de demander à quelles conditions on peut encore définir l’intégrale d’une fonction qui aurait un grand nombre de discontinuités. En 1875, Darboux rend cette démarche plus maniable : il partage l’intervalle et forme deux sommes à partir des bornes inférieures et supérieures prises sur chacun des petits intervalles.

Durant ces décennies, plusieurs frontières se déplacent donc ensemble : l’étendue de ce que l’on accepte comme fonction, les objets que l’on intègre, les limites des séries, la complétude du système numérique.

Si les fonctions dites pathologiques prennent tant d’importance, c’est précisément que les définitions permettent enfin de demander sérieusement ce qui reste d’un théorème dans les cas les plus extrêmes.

8. Quand on déplace la clôture

Venons-en au prix à payer. Il faut ici laisser une place vide. Le récit courant comporte cette affirmation : le nouveau langage aurait rendu l’analyse illisible, impossible à enseigner, et les plaintes auraient commencé aussitôt. Si l’on s’en tient à la période antérieure aux années 1880, aucun témoignage assez sûr ne permet de l’écrire. Mieux vaut laisser un blanc que faire remonter d’une quinzaine d’années des propos plus tardifs. Deux témoignages fiables viennent de la génération immédiatement suivante.

En 1893, Hermite écrit à Stieltjes que les fonctions continues sans dérivée lui inspirent une aversion voisine de l’effroi. Vers 1899, Poincaré dit que la logique engendre parfois des monstres, et prend pour exemple ces mêmes fonctions continues sans dérivée.

Regardons toutefois ce que visent ces deux remarques : les objets pathologiques, non le symbolisme lui-même. Poincaré ajoute une autre idée, plus importante encore : l’ordre logique le plus sûr pour la recherche n’est pas nécessairement l’ordre dans lequel on comprend le mieux lorsqu’on apprend.

Le prix à payer comporte donc au moins trois dimensions.

L’intuition géométrique perd le dernier mot. Les définitions autorisent bien plus d’objets que l’intuition n’en admet. Et l’ordre le plus rigoureux se sépare de l’ordre le plus facile à apprendre. Arrêtons-nous surtout sur le deuxième point : il va à l’encontre de ce que l’on attendrait. Toute l’entreprise semble vouloir refermer un peu plus la porte, chasser ce que l’on ne sait pas expliquer et ne garder que ce qui tient debout. En réalité, la porte s’est ouverte davantage. S’il ne fallait retenir qu’une phrase de cet épisode, ce serait celle-là.

L’ancienne intuition dit : une courbe continue a forcément une tangente en la très grande majorité de ses points ; des choses sans tangente en aucun point ne devraient donc pas exister. La nouvelle définition ne demande pas ce qui devrait exister. Elle demande quelle clause de votre définition garantit l’existence de la tangente. Si cette clause n’y figure pas, l’objet a le droit d’entrer.

Ainsi, un critère établi pour rendre les choses plus sûres en admet davantage qu’il n’en exclut.

Le septième épisode avait montré la même chose sous une autre forme. On y supprimait l’exigence qu’un symbole ait d’abord une interprétation en termes de grandeur. Les nombres négatifs entraient alors, suivis plus tard de bien d’autres choses.

Le mécanisme est le même dans les deux cas : quand le droit d’entrée dépend de la forme plutôt que du contenu, davantage de choses peuvent entrer. Pas moins.

Ce n’est pas un échec de la méthode. C’est une propriété générale des critères. Dès qu’un énoncé reprend aux figures le pouvoir de trancher, sa juridiction cesse de se limiter aux situations qu’une figure peut montrer. Quand la clôture quitte le visible pour se placer à l’endroit de ce qui peut s’écrire, le terrain qu’elle délimite change. Le plus souvent, il s’agrandit.

Un dernier fait mérite d’être conservé. Dans les années 1960, des outils modernes permettent de construire un système numérique étendu contenant des infinitésimaux non nuls, et d’y pratiquer rigoureusement le calcul différentiel et intégral. Cela ne prouve pas que la voie du XIXe siècle était une erreur. Cela prouve autre chose : employer des infinitésimaux et manquer de rigueur mathématique ne sont pas synonymes. Que la voie de la fin du XIXe siècle ait ensuite dominé est un fait d’histoire, non une nécessité imposée par la logique.

Le titre de cet épisode doit donc garder ses guillemets jusqu’au bout.

On n’a pas chassé les infinitésimaux. Ce qui a changé, c’est leur place dans les démonstrations, et l’autorité qui décide si un raisonnement tient debout.

On continue à compter. Mais ce qui compte comme mathématiques n’a jamais été tout à fait réglé.

Sources et lectures complémentaires

Les références suivantes éclairent les détails historiques et les désaccords d’interprétation abordés dans le texte. Les notices de collections, les textes anciens et les reconstructions modernes ne sont pas des preuves de même nature.

• Bibliothèque nationale de France : le Cours d’analyse de Cauchy (1821)
• Les infinitésimaux de Cauchy, son théorème sur la somme des séries et les paradigmes des fondements
• Viertel : la convergence uniforme dans les cours et les publications de Weierstrass
• Dedekind, Essais sur la théorie des nombres, dont Continuité et nombres irrationnels
• Édition originale conservée à Göttingen : le mémoire de Riemann sur les séries trigonométriques (1867)
• Bibliothèque de l’ETH Zurich : la publication originale de Riemann de 1867