La crise de la théorie des ensembles

1. Le livre est déjà sous presse

Le 16 juin 1902, une lettre part de Grande-Bretagne pour Iéna.

Celui qui l’écrit est un Britannique qui vient d’avoir trente ans. Celui qui va la recevoir, un logicien allemand quinquagénaire. La lettre ne s’ouvre pas sur une provocation, mais sur un compliment : son auteur a lu le livre de son correspondant et lui en dit tout le bien qu’il en pense. Puis vient une question. Quelques lignes suffisent à la poser.

Le destinataire s’appelle Frege. Il enseigne à Iéna. Depuis vingt ans, il ne poursuit qu’une chose.

On peut la raconter avec des mots de tous les jours. Un et un font deux : tout le monde le sait depuis l’enfance. Mais en vertu de quoi ? La réponse la plus commode consiste à dire qu’il suffit de compter. Frege ne s’en satisfait pas. Pour compter, il faut des yeux et des mains ; lui veut une raison qui n’ait pas besoin des yeux. Il est convaincu que cette raison peut naître du seul raisonnement, sans rien emprunter à l’expérience du monde ni à une figure. Il part donc de choses plus élémentaires que les nombres, construit ceux-ci pas à pas, puis entreprend d’en déduire toutes les règles de l’arithmétique.

Il y travaille depuis vingt ans. Le premier volume des Lois fondamentales de l’arithmétique a paru en 1893. Le second est chez l’imprimeur ; l’impression touche à sa fin. À l’époque, Frege a peu de lecteurs. Russell est l’un d’eux.

Frege comprend à la première lecture.

Six jours plus tard, le 22 juin, il répond. Cette contradiction, écrit-il en substance, l’a profondément surpris, presque consterné. Il se met aussitôt à chercher où se trouve la faille. Puis il fait une chose peu commune : il ajoute l’affaire à la fin du livre sur le point de paraître. Un savant, y explique-t-il en substance, peut difficilement connaître situation plus pénible : son ouvrage est achevé, et il découvre qu’une partie des fondations de ce qu’il a bâti se dérobe. Voilà ce qui lui arrive. La lettre de M. Russell lui est parvenue alors que l’impression du deuxième volume était presque terminée.

Ce détail vaut mieux que la version qui a circulé ensuite. Dans cette version, une lettre aurait détruit la vie d’un homme. Dans les faits, le livre était déjà sous presse, et c’est l’auteur lui-même qui a ajouté la mauvaise nouvelle à la fin du volume.

Il sera question ici de ce qu’on a fait dire à cette lettre, et de ce qu’elle a réellement fait. On entend souvent raconter qu’en 1902 elle a déclenché une crise de la théorie des ensembles, après laquelle le monde mathématique tout entier aurait perdu confiance dans ses fondations. C’est à moitié vrai. Reste à savoir quelle moitié.

Le deuxième épisode examinait une autre affaire portant ce même nom de crise. Mais de la secousse racontée par la légende, pas une phrase des contemporains ne nous est parvenue. Plus l’histoire devenait complète, plus il était difficile de dire si elle avait eu lieu.

Cette fois, on ne peut pas reprendre le même verdict. Cette fois, il y a des papiers de l’époque.

2. Russell n’était pas le premier

Un point doit être établi d’emblée : toute la forme du récit en dépend. Russell n’est pas le premier à avoir vu que la théorie des ensembles pouvait produire des contradictions. Au moins trois hommes l’ont précédé, et leurs trois cas sont différents.

Le premier est Burali-Forti. En 1897, il publie dans la revue du Cercle mathématique de Palerme un bref article dont le titre annonce une question sur les nombres transfinis. Il y aboutit bien à une contradiction. Celle-ci fournira la matière du paradoxe qui porte aujourd’hui son nom.

Mais ce n’est pas ainsi qu’il comprend lui-même son résultat. Dans son article, il distingue ce qu’il appelle un ordre parfait du bon ordre de Cantor. À ses yeux, la proposition en défaut est une autre affirmation, qui concerne la possibilité de comparer les ordinaux entre eux. Son raisonnement ressemble donc plutôt à une réduction à l’absurde : la contradiction prouve que cette proposition est fausse. En octobre de la même année, il publie d’ailleurs un rectificatif pour corriger une erreur de l’article.

Il n’y a donc pas eu, en 1897, une première bombe dont l’explosion aurait affolé les mathématiciens de toute l’Europe. Le paradoxe que présentent aujourd’hui les manuels s’est constitué peu à peu. C’est dans le livre de Russell de 1903 qu’il a été imprimé pour la première fois en tant que paradoxe. Au début de 1905, il ne préoccupe toujours pas l’ensemble des spécialistes de la théorie des ensembles. Il faut attendre la fin de cette année-là pour qu’il devienne simultanément, en Grande-Bretagne, en Allemagne et en France, l’objet d’une controverse publique.

Le deuxième est Cantor lui-même. C’est le cas le plus décisif, puisqu’il suffit à réfuter l’idée que Russell aurait été le premier à découvrir que la notion d’ensemble pouvait engendrer une contradiction.

Sa correspondance permet de remonter au moins aux environs de 1896. En 1897, il a déjà tenté d’en discuter avec Dedekind et signalé à Hilbert les difficultés que soulèvent des totalités telles que celle de tous les alephs. Plusieurs longues lettres adressées à Dedekind en 1899 en donnent une version beaucoup plus complète.

Il y propose une distinction. Certaines multiplicités peuvent être rassemblées en un tout achevé : il les appelle consistantes. D’autres conduisent à une contradiction dès lors qu’on prétend les saisir comme un tout achevé : il les appelle inconsistantes.

Il ne déclare pas sa théorie en faillite. Il soutient que pouvoir être rassemblé en un tout constitue précisément une condition supplémentaire pour être un ensemble. La contradiction montre que certaines totalités, si clairement définies soient-elles, ne sont pas des ensembles.

On est déjà très près de la façon dont le problème sera traité plus tard. Gardons-nous pourtant de lui attribuer rétrospectivement la théorie à venir. Il ne dispose pas encore de règles permettant de décider formellement quelles totalités sont consistantes et lesquelles ne le sont pas. Il dispose d’un jugement.

Il ne publie pas non plus ces réflexions. Elles restent pour l’essentiel dans sa correspondance et n’entrent dans les sources accessibles au public qu’avec l’édition de ses œuvres réunies en 1932. L’éditeur de ces œuvres est Zermelo.

Le troisième est justement Zermelo. Il dira avoir trouvé une contradiction du même genre indépendamment de Russell, et avant lui. Les ouvrages anciens donnent généralement la date de 1899. Il faut la prendre avec quelque réserve : elle repose surtout sur ce qu’il en a raconté après coup.

La pièce solide est ailleurs. En 1981, on retrouve un carnet de Husserl datant de 1902. Un passage y décrit en détail la version de la contradiction élaborée par Zermelo. Il établit au moins deux choses. Avant que le résultat de Russell soit publié, l’argument de Zermelo circulait déjà dans les réseaux savants de langue allemande. Et Zermelo ne l’a certainement pas imaginé après avoir lu le livre de 1903. Une note prise au vol par un philosophe a ainsi, près de quatre-vingts ans plus tard, rendu une date à un mathématicien.

Pourquoi l’a-t-on ignoré pendant des décennies ? La raison est simple : Zermelo n’avait pas publié son résultat à temps. Celui-ci vivait surtout dans les conversations de Göttingen, les lettres privées et les carnets. Le quatorzième épisode a décrit cette couche de papiers à demi publics. Nous en avons ici à la fois un exemple et un contre-exemple : la découverte se diffusait à l’intérieur du cercle, mais n’entrait dans aucun livre que l’on puisse citer. Le nom est donc resté à celui qui disposait d’un texte public.

Russell trouve ses quelques lignes en mai 1901. Cette date est assez sûre : un manuscrit porte l’indication de ce mois. Il écrit à Frege en 1902. Plus d’un an sépare ces deux événements, que l’on situe pourtant souvent dans la même année.

Russell n’a donc pas été le premier à voir. Il a fait deux autres choses, dont la combinaison a produit les effets que l’on connaît : il a réduit la contradiction à quelques lignes, puis envoyé ces lignes à un homme qui s’était engagé sans se laisser d’échappatoire.

3. Quelques lignes

Pour comprendre ces quelques lignes, il faut d’abord une règle. À l’époque, elle ne semble soulever aucune difficulté. À vrai dire, elle a moins l’air d’une règle que d’une évidence tellement banale qu’on se demande pourquoi l’énoncer.

Dès lors qu’on sait formuler clairement une condition, tout ce qui la satisfait forme automatiquement une collection.

Toutes les choses rouges, réunies en une collection. Tous les entiers supérieurs à trois, réunis en une collection. Tous les gens que je connais, réunis en une collection. Qui trouverait à y redire ?

Appliquons la règle. Certaines collections se contiennent elles-mêmes. La collection de tout ce qu’on peut décrire clairement en chinois peut elle-même être décrite clairement en chinois : elle figure donc parmi ses propres éléments. D’autres ne se contiennent pas. La collection de toutes les choses rouges n’est pas elle-même rouge : elle ne figure donc pas parmi ses éléments.

On peut alors formuler une condition : ne pas se contenir soi-même.

D’après la règle, toutes les collections qui ne se contiennent pas elles-mêmes doivent pouvoir, elles aussi, former une collection. Appelons-la simplement « cette collection ».

Une seule question : cette collection se contient-elle elle-même ?

Si elle se contient, elle est une collection qui se contient elle-même. Or elle ne rassemble que les collections qui ne se contiennent pas elles-mêmes. Elle ne devrait donc pas en faire partie.

Si elle ne se contient pas, elle remplit exactement la condition. Elle devrait donc en faire partie.

Dans les deux cas, on aboutit au contraire de ce dont on est parti.

Le problème n’est pas l’étrangeté de cette collection. Le problème, c’est la règle. Tant qu’elle reste en vigueur, on peut réécrire ces quelques lignes à tout moment.

Cette contradiction est plus difficile à écarter que les précédentes, parce qu’elle a besoin de si peu de choses. Pour obtenir celle de Burali-Forti, il faut déjà toute une théorie des ordinaux. Pour celle de Cantor, il faut savoir que la collection de toutes les parties d’une collection est plus grande que la collection de départ. Russell n’a besoin de rien de tout cela. Il suffit d’admettre la banalité du début pour que sa contradiction s’ensuive.

Cantor, devant de telles difficultés, pouvait encore s’en tirer. Il pouvait dire que les totalités démesurées n’étaient tout simplement pas des ensembles. Sa théorie n’était pas un système formel définitivement fixé ; il lui restait une marge de manœuvre. Frege n’en avait pas. Sa loi fondamentale V est une règle formelle d’égalité des parcours de valeurs, et non l’énoncé moderne du principe de compréhension des ensembles. Mais, combinée aux règles de formation des concepts et aux règles logiques de son système, elle suffit à produire la contradiction correspondante. Russell peut se placer à l’intérieur même du système de Frege et l’y déduire.

Il faut signaler un autre décalage historique. Nous parlons spontanément d’ensembles. Russell et Frege parlaient alors de classes, de concepts, d’extensions de concepts, ce qui ne recouvre pas exactement la notion actuelle d’ensemble. Le vocabulaire des ensembles rend l’explication claire ; il n’en constitue pas moins une reformulation moderne.

Une grande partie des efforts des trente années suivantes va se concentrer sur une même tâche : remplacer cette règle sans jeter avec elle tout ce qui est utile.

4. Frege ne s’est pas effondré

Commençons par défaire le récit le plus répandu : une lettre aurait ruiné la vie de Frege ; il se serait alors effondré psychiquement et n’aurait plus rien produit.

Dans la première moitié de ce récit, le constat technique est juste. Frege mesure aussitôt la gravité du problème et se met aussitôt à le réparer. L’appendice du deuxième volume propose un correctif. On verra clairement par la suite qu’il ne permet pas de sauver le système initial. Ce projet précis, qui devait tirer l’arithmétique de la seule logique, est bel et bien perdu.

La seconde moitié ne se déduit pas des documents.

Après 1903, Frege ne se retire pas. Il continue d’enseigner à Iéna. Entre 1903 et 1917, il publie encore plusieurs articles, notamment celui de 1904 sur les fonctions, et poursuit avec Hilbert sa controverse sur la manière de fonder la géométrie. Après sa retraite, il publie La pensée en 1918, puis La négation et La composition des pensées. Ce sont aujourd’hui encore des textes que l’on lit en logique et en philosophie du langage.

Il change effectivement de position à la fin de sa vie. Les lois fondamentales de son ancien système ne lui permettent manifestement plus de mener à bien son projet initial. Des fragments restés inédits, datant des années 1920, montrent qu’il reconsidère l’origine du savoir mathématique et cherche du côté de la géométrie et de l’intuition les racines de l’arithmétique. Mais une ou deux pages posthumes ne suffisent pas à établir une conversion soudaine. On peut avancer deux phrases, en resserrant chaque fois la portée de ce qu’on affirme.

La contradiction de Russell a détruit le projet de fondation de l’arithmétique que Frege avait publié.

Elle n’a pas détruit Frege.

Il serait pourtant trop facile d’en tirer un soupir de soulagement. Les mots ajoutés à la fin du volume sont de lui, imprimés à la fin de son propre livre. Ce ne sont pas des sentiments que la postérité lui a prêtés. Un homme peut continuer à enseigner, à écrire, à vivre vingt ans encore, tout en reconnaissant qu’une partie des fondations de ce qu’il a construit pendant vingt ans est en train de bouger. Ces deux faits ne s’annulent pas. Nous retrouverons plus loin la même difficulté : prouver qu’un homme ne s’est pas effondré, ce n’est pas prouver qu’il ne s’est rien passé.

Un autre détail concernant ces papiers mérite d’être retenu. La correspondance entre Russell et Frege se poursuit de 1902 à 1904 ; elle ne se réduit pas à la célèbre première lettre. Russell a conservé des reproductions photographiques des lettres de Frege. Ainsi, même lorsque le parcours de certains originaux est compliqué, on peut reconstituer le contenu de leurs échanges.

Les manuscrits laissés par Frege ont eu moins de chance. Ils nous sont parvenus principalement grâce aux transcriptions et aux reproductions conservées par un historien de la logique, après des pertes dues à la guerre et aux déménagements. Le fonds que nous pouvons consulter aujourd’hui n’est plus celui qui existait à l’origine.

L’affaire de 1902 ne repose donc pas sur des souvenirs recueillis des décennies plus tard. Les lettres décisives sont des documents contemporains. C’est ce qui permet d’affirmer aussi fermement les dates et l’ordre des événements.

5. Quatre Français se disputent

En 1904, Zermelo démontre une proposition que Cantor défend depuis des années sans avoir réussi à la prouver. La controverse éclate aussitôt. Elle fait même davantage de bruit que les paradoxes.

De quoi s’agit-il ? Les entiers naturels ont une propriété très simple : prenez n’importe lequel de leurs sous-ensembles non vides, il contient toujours un plus petit élément. Quand on compte un, deux, trois, et ainsi de suite, toute partie non vide a un début.

Les réels ne possèdent pas cette propriété. Parmi les nombres réels strictement positifs, il n’y en a pas de plus petit. Quel que soit celui que vous proposez, il en existe un plus petit encore, toujours strictement positif.

Cantor soutient que, même pour des objets tels que les réels, il existe une façon de les ordonner qui leur donne cette propriété. Une fois cet ordre établi, tout sous-ensemble non vide possède un premier élément. Il le soutient pendant des années, sans réussir à le démontrer.

En 1904, Zermelo y parvient. Son procédé tient en une phrase : choisir un élément dans chacune des collections non vides.

Cette phrase énonce ce qu’on appellera l’axiome du choix. Elle suscite plusieurs objections, et chacune a ses raisons propres.

Pour les uns, Zermelo dit de choisir un élément dans chaque collection, mais ne dit pas comment choisir. La preuve semble donc faire intervenir une chose qui n’a ni règle ni définition. D’autres redoutent que cette opération massive de choix simultanés appartienne précisément à la famille des gestes dangereux qui ont produit les anomalies de la théorie des ensembles. Poincaré s’inquiète d’autre chose encore : pour définir un objet, ne fait-on pas subrepticement appel à une totalité qui contient déjà cet objet ? L’objection de Peano tient à sa conception du système formel : si ce principe ne découle pas des principes formels qu’il admet, de quel droit en ferait-on un raisonnement légitime ?

Les Français méritent d’être considérés séparément, tant on les présente souvent comme un seul camp. En 1905, les échanges de quatre d’entre eux paraissent dans le Bulletin de la Société mathématique de France sous le titre Cinq lettres sur la théorie des ensembles. Il s’agit de Baire, Borel, Hadamard et Lebesgue.

Borel objecte que la preuve ne donne aucune méthode concrète pour choisir, et que l’ordre obtenu n’est pas davantage explicité. Sa position revient à peu près à ceci : affirmer qu’un objet existe n’est pas la même chose que donner expressément un moyen de le déterminer.

Baire se range dans l’ensemble du côté de Borel, sans pour autant répéter sa position. Il se méfie particulièrement d’une infinité de choix. Il veut distinguer les choix dont on peut réellement saisir, en mathématiques, la réalisation pas à pas, et le fait de supposer d’emblée achevée toute une infinité de choix. Le décrire comme un adversaire de tout principe de choix irait trop loin. Ces analystes français avaient eux-mêmes parfois utilisé tacitement, dans leurs travaux antérieurs, certaines formes plus faibles de choix.

Lebesgue est le plus proche de l’idée qu’une existence doit s’accompagner d’une propriété que l’on puisse spécifier. Il refuse de séparer complètement « il existe une fonction » de « on peut au moins dire ce qu’elle est ». À cette époque, il travaille au cœur même des questions de mesure et d’ensembles définissables. Il ne s’agit pas d’une philosophie plaquée après coup sur son œuvre : c’est sa pratique quotidienne.

Hadamard est de l’autre côté. À ses yeux, la vraie différence ne passe pas entre un nombre fini, dénombrable ou non dénombrable de choix. Elle tient à la confusion éventuelle entre deux exigences : exister, et pouvoir être décrit explicitement de manière unique. Les mathématiques peuvent parfaitement prouver l’existence d’un objet sans fournir aussitôt une règle permettant de l’écrire. Dans ces lettres de 1905, il est le défenseur le plus résolu de ce principe.

Dire que « les mathématiciens français s’opposaient à l’axiome du choix » est donc faux. L’un des quatre en est un défenseur. Les trois autres s’y opposent pour des raisons qui leur sont propres et qui ne coïncident pas entre elles.

Ce qui dérange véritablement les contemporains, ce n’est pas l’étrangeté du résultat : c’est la brèche ouverte entre démontrer et montrer. Les réels en offrent l’exemple le plus net. Zermelo prouve qu’il existe une certaine manière de les ordonner, sans montrer le moins du monde à quoi ressemble cet ordre. Pour ceux qui viennent de faire entrer la définissabilité, la mesurabilité et les fonctions concrètes dans l’analyse moderne, cette conception de l’existence a quelque chose de profondément heurtant : « Je prouve qu’il y en a un, mais je ne vous dis pas lequel. »

Le treizième épisode s’achevait sur ce mot. Le résultat de 1874 permettait de tirer d’une comparaison de tailles une conclusion d’existence ; mais le procédé par intervalles de l’article original permettait aussi de construire un réel absent de la liste. La preuve du bon ordre, en 1904, sépare plus directement l’existence d’un ordre de l’exigence d’en présenter un concrètement. Dans la langue de tous les jours, « il y en a » n’a qu’un sens, parce que, dans la vie de tous les jours, on peut vraiment sortir la chose et la montrer.

En 1905, cette différence n’est plus une remarque que l’on peut contourner. Quatre hommes en débattent de front dans leurs lettres. Et c’est bien la même question qui les oppose : qu’est-ce qui autorise, en mathématiques, à déclarer qu’une chose existe ?

6. Remplacer la règle

En 1908, Zermelo publie un système d’axiomes. Il expose franchement son intention : restreindre la formation des ensembles assez pour barrer la route aux contradictions connues, tout en préservant autant que possible ce qui a de la valeur dans la théorie de Cantor.

L’étape décisive ne consiste pas à trouver une définition sans danger de l’ensemble. Elle consiste à supprimer la règle trop permissive.

Voici ce qui la remplace : on ne peut plus affirmer que toutes les choses satisfaisant une condition forment automatiquement une collection. On peut seulement partir d’une collection déjà donnée, y sélectionner les éléments qui satisfont la condition, puis en faire une autre collection.

Les quelques lignes de Russell ne peuvent alors plus s’écrire. Elles avaient besoin d’une grande collection capable de réunir toutes les choses d’un seul coup, pour y prélever « toutes celles qui ne se contiennent pas elles-mêmes ». Cette collection n’est plus disponible. Zermelo prend lui-même soin de le préciser : partant de n’importe quelle collection donnée, on peut sélectionner ceux de ses éléments qui ne s’appartiennent pas à eux-mêmes sans produire de contradiction. Mieux, cette procédure permet justement de prouver qu’il n’existe aucun ensemble universel capable de tout contenir.

Il sait très bien ce qu’il n’a pas accompli pour autant.

En 1908, sa formulation reste mesurée : sous ces restrictions, on ne peut pas construire les paradoxes connus. Il ne dit pas qu’aucune autre contradiction ne pourra surgir dans son système. Les récits ultérieurs transforment souvent cela en « Zermelo a démontré que la théorie des ensembles était sans contradiction ». C’est faux. Et l’écart est considérable.

L’acceptation du système n’a rien d’immédiat non plus. Les critiques se poursuivent. Elles portent surtout sur ce que permet exactement l’expression « propriété déterminée », dont le sens n’est pas assez fixé. Dans les années 1920, Fraenkel et Skolem montrent chacun de leur côté que les axiomes initiaux ne suffisent pas à construire des ensembles de niveaux plus élevés ; leurs travaux poussent à y adjoindre ce qu’on appellera le principe de remplacement. Skolem précise en outre les « propriétés déterminées » au moyen de formules du premier ordre. Fraenkel propose l’idée du remplacement vers 1922. Skolem présente ses travaux la même année, au congrès des mathématiciens scandinaves à Helsinki ; ils paraissent l’année suivante. Zermelo n’approuve pas d’emblée toutes ces modifications. Il accepte ensuite le remplacement et en emploie une forme correspondante dans sa nouvelle axiomatisation de 1930.

Le système d’axiomes qui porte aujourd’hui deux noms n’est donc pas sorti tout fait d’un article de 1908. Il est le produit de plus de vingt ans de réparations et de clarifications. Et le troisième homme n’a pas eu sa place dans le nom.

Russell emprunte une autre voie. Son livre de 1903 contient déjà une première idée de hiérarchie, encore assez simple. Ce n’est qu’avec son article de 1908 que prend forme ce qu’on appellera la théorie ramifiée des types. Elle entrera ensuite dans les trois volumes des Principia Mathematica, écrits avec Whitehead et publiés entre 1910 et 1913.

Le principe est le suivant : un énoncé ne peut plus s’appliquer sans restriction à des objets de son propre niveau. Les objets occupent un niveau ; leurs propriétés, un autre ; les propriétés de ces propriétés, un autre encore. Russell ajoute ensuite à ces niveaux un système de restrictions par « ordres ». La combinaison autoréférentielle qui permettait ses quelques lignes ne constitue dès lors même plus une expression autorisée dans le système.

Le prix est élevé. Pour empêcher les cercles, la hiérarchie devient extrêmement compliquée. Et ses restrictions excluent du même coup beaucoup de définitions d’usage courant en mathématiques. Afin de retrouver des mathématiques classiques suffisamment riches, Russell et Whitehead doivent ajouter une hypothèse : l’axiome de réductibilité.

Avec cette hypothèse, une fissure s’ouvre dans le projet initial. Le but était de déduire les mathématiques de la seule logique. Pour récupérer les mathématiques ordinaires, il faut pourtant ajouter une hypothèse forte qui ne ressemble guère à une vérité purement logique.

Deux voies, deux prix à payer.

Chez Zermelo, le prix est le suivant : la théorie des ensembles cesse d’être aussi naturelle que la règle « tout ce qu’on peut clairement décrire forme une collection ». Elle devient un ensemble de règles qu’il faut d’abord coucher sur le papier. Chez Russell, pour récupérer les mathématiques, il faut admettre une hypothèse qui n’a plus cette pureté logique.

Le destin ultérieur de l’axiome du choix mérite aussi un regard. Dans les années 1930, on y recourt de plus en plus, mais il n’a pas encore le statut d’hypothèse admise par défaut, que l’on n’a même plus besoin de mentionner. Une sorte de courtoisie veut alors qu’on indique expressément lorsqu’un théorème fait appel à lui. Les objections philosophiques n’ont pas disparu. On leur a donné une place où elles peuvent être signalées. La solution est très pratique : elle ne tranche pas le désaccord, elle demande seulement qu’on le rende visible.

Et, des deux côtés, la même chose reste inaccomplie : prouver que son propre système ne peut produire de contradiction.

7. Le mot « crise »

Nous pouvons maintenant revenir à ce mot. En 1921, Weyl publie dans le dixième volume de la Mathematische Zeitschrift un article intitulé tout bonnement Sur la nouvelle crise des fondements des mathématiques. Les mots sont dans le titre. Difficile de trouver preuve plus solide.

Deux choses doivent être nettement distinguées. D’abord, nous sommes en 1921, ni en 1901 ni en 1902 : près de vingt ans se sont écoulés. Ensuite, Weyl parle d’une « nouvelle » crise des fondements. Le contexte immédiat de son article n’est pas la contradiction de quelques lignes de Russell, mais la contestation des mathématiques classiques et des principes logiques traditionnels par Brouwer. Cette controverse fera l’objet du prochain épisode.

On ne peut donc pas coller rétrospectivement ce titre de 1921 sur l’année 1901 et raconter que, dès la découverte du paradoxe de Russell, les mathématiciens auraient parlé d’une « crise de la théorie des ensembles ». Dans les années 1900, leur vocabulaire est autre : contradictions, antinomies, paradoxes, fondements.

Combien de personnes ont-elles réellement pris part à ces débats ? Nous ne disposons d’aucune statistique fiable. Il faut refuser toute phrase du genre : « Sur tant de mathématiciens à l’époque, tel pourcentage a participé à la crise de la théorie des ensembles. » Aucun registre ne permet d’appuyer ces comptes.

Ceux que l’on peut compter, ce sont les gens qui ont écrit. Les cinq lettres françaises de 1905 ont quatre auteurs. Si l’on ajoute les textes publics consacrés au bon ordre et aux paradoxes entre 1904 et 1906, on rencontre Zermelo, Russell, Jourdain, Bernstein, Hobson, Hardy, Poincaré, Peano, Schoenflies. On arrive vite à plus d’une dizaine de protagonistes qui ont effectivement publié, répartis entre la Grande-Bretagne, la France, l’Allemagne et l’Italie. Dans les années 1920, en incluant la controverse entre Hilbert et Brouwer, puis Weyl, Bernays, Ackermann, von Neumann et Skolem, le cercle s’élargit à un réseau spécialisé de quelques dizaines de personnes.

Un réseau spécialisé de quelques dizaines de personnes forme une communauté mathématique. Il ne constitue pas le monde mathématique tout entier.

La controverse a aussi une géographie bien dessinée. En Italie, elle part de l’école de Peano et du Cercle mathématique de Palerme. En Allemagne, le centre principal est Göttingen : Hilbert correspond avec Cantor, Zermelo y travaille. En France, les débats passent par les publications de la Société mathématique de France. En Grande-Bretagne, Russell les introduit dans les milieux mathématiques et philosophiques par son livre de 1903 et ses échanges avec Jourdain, Hardy et d’autres.

Iéna, en revanche, c’est Frege seul. La lettre de Russell de 1902 n’arrive pas dans un institut de recherche solidement établi. Elle arrive au milieu d’un projet personnel assez isolé. Frege n’a près de lui aucune de ces machines que décrivait le quatorzième épisode.

Une autre date saute aux yeux. L’Association for Symbolic Logic est fondée en 1936 ; le Journal of Symbolic Logic paraît pour la première fois la même année. C’est alors seulement que la discipline dispose de sa propre société internationale et de sa revue spécialisée. Auparavant, les articles sont dispersés entre revues généralistes de mathématiques, revues de philosophie, bulletins de sociétés mathématiques, monographies et correspondances privées. On comprend ainsi pourquoi les informations circulent si inégalement. Au début, l’essentiel passe par les lettres, les rencontres privées et quelques revues généralistes, non par une communauté internationale de logiciens qui serait déjà constituée.

Et les mathématiciens qui n’appartiennent pas à ces quelques dizaines, que font-ils ? Énumérer quelques grands théorèmes ne suffit pas à prouver que les mathématiques ont continué sans interruption. Mais si un arrêt général avait véritablement eu lieu, on devrait au moins en trouver certaines traces : programmes de recherche suspendus, forte réorientation des sujets traités dans les revues, grands congrès consacrés aux fondements, révision massive des critères de preuve dans les articles ordinaires. Ces traces, on ne les trouve pas.

C’est en analyse, au plus près du foyer de l’explosion, que les indices contraires sont les plus forts. Au premier Congrès international des mathématiciens, en 1897, Hadamard et Hurwitz défendent déjà publiquement l’intérêt des méthodes ensemblistes pour l’analyse. Autour de 1900, Borel, Baire et Lebesgue font avancer l’étude des ensembles de points, la classification des fonctions, la théorie de la mesure et celle de l’intégration. Leurs travaux ne s’arrêtent ni en 1897, ni en 1901, ni en 1902.

Le contraste à retenir est là. Les mêmes analystes français qui contestent dans leurs lettres le principe de Zermelo continuent à faire abondamment usage des idées ensemblistes de Cantor dans leurs recherches. Le débat modifie les types de preuves d’existence portant sur l’infini qu’ils sont prêts à admettre. Il ne conduit pas Lebesgue à abandonner la théorie de l’intégration, ni Borel à cesser de travailler sur les ensembles.

Dans les années 1930, l’affaire se joue désormais sur deux plans. Le plan technique s’est stabilisé : clarifiée et renforcée, la théorie des ensembles est devenue un outil courant de la topologie ou de la théorie des fonctions de variable réelle. On s’en sert tous les jours. Sur le plan philosophique, aucune des questions n’a été entièrement résolue. La controverse ne s’est pas terminée dans les années 1930. On lui a fait une place.

Même celui qui a découvert le paradoxe n’est pas aussi alarmé qu’on l’imagine. Dans une lettre ultérieure à Jourdain, Russell explique en substance qu’il ne s’est véritablement mis à étudier sérieusement la contradiction de Burali-Forti qu’en 1905. Auparavant, elle lui paraissait beaucoup plus compliquée que ses propres quelques lignes. Il pensait qu’une solution technique était probablement possible, ou qu’il fallait d’abord résoudre sa propre contradiction avant de s’occuper de celle-là.

Un mot, au passage, sur les belles formules qui circulent partout. On cite souvent une prétendue remarque de Poincaré : les générations futures verraient dans la théorie des ensembles une maladie dont on aurait guéri. La phrase est aussi féroce que bien tournée, ce qui lui vaut d’être reprise sans cesse. Mais on ne trouve pas de source fiable établissant que Poincaré l’ait prononcée. Les livres la citent les uns après les autres, sans jamais dire d’où elle vient.

Ce genre de phrase relève du théâtre, pas de la preuve.

8. Les limites de la crise

Le deuxième épisode examinait une affaire qui portait le même nom. Celle-là avait-elle seulement eu lieu ?

La difficulté se trouvait dans les papiers. Que deux segments n’aient pas de mesure commune, c’est un fait. Que cette découverte ait ébranlé les hommes au point de faire s’effondrer leurs fondations, aucun papier de l’époque ne nous en est parvenu. Les récits de noyade apparaissent bien plus tard ; celui d’une crise générale, plus tard encore. On voit assez bien pourquoi les récits ultérieurs aiment cet arrangement : un fait de structure n’a ni protagoniste ni retournement. Ajoutez un homme, vous avez un protagoniste. Ajoutez un effondrement, vous avez un retournement.

Cette fois, on ne peut pas recopier ce verdict.

Cette fois, il existe des papiers de l’époque, et plus d’un. Les réponses de Frege de 1902 à 1903 et l’appendice sont de sa main. La controverse publique des quatre Français en 1905 a paru dans le bulletin de leur société mathématique. Poincaré a consacré des articles à ces anomalies. En 1908, Zermelo écrit lui-même que l’un des buts de l’axiomatisation est d’exclure les contradictions. Dans les lettres de 1905, Hadamard évoque la contradiction du plus grand ordinal. Si cette contradiction était fondamentale et irrémédiable, dit-il en substance, quel désastre pour le rationalisme ! À côté, les antinomies de Kant ne seraient presque rien. En 1921, Weyl met directement les mots « nouvelle crise des fondements » dans le titre de son article.

Rien de tout cela n’existe dans le cas grec. On ne peut donc pas dire que les deux crises ont été inventées de toutes pièces par la postérité.

Un même piège menace pourtant les deux récits, et c’est lui qu’il faut démonter. Dans l’un comme dans l’autre, les versions modernes peuvent comprimer des transformations circonscrites, longues et différentes les unes des autres dans une seule trame dramatique : une découverte, une crise, tout le monde ébranlé, puis de nouvelles fondations.

Cette fois, il faut distinguer trois couches : ni les dates, ni les groupes concernés, ni les objets de la dispute ne sont les mêmes.

De la fin des années 1890 à 1908, on débat des anomalies apparues dans la théorie des ensembles et la logique, de l’axiome du choix et de la manière d’axiomatiser. Des années 1910 aux années 1920, le champ s’élargit : logicisme, intuitionnisme et formalisme s’affrontent sur ce qui constitue des mathématiques légitimes. C’est dans les années 1920 seulement que « crise » devient un mot employé par les protagonistes eux-mêmes, et c’est au cours de cette troisième controverse qu’ils le prononcent.

Écrasez ces trois couches en une seule, et vous obtenez la version si répandue : une lettre en 1902, puis l’affolement du monde mathématique.

Le verdict de cet épisode diffère donc de celui du deuxième. Il faut quatre phrases pour l’énoncer.

La crise n’est pas une invention.

Elle n’a pas non plus éclaté du jour au lendemain en 1902.

Elle a profondément atteint les quelques hommes qui voulaient donner des fondements à toutes les mathématiques ; son effet a été bien moindre sur ceux qui faisaient des mathématiques au quotidien.

Ce que les récits ultérieurs ont surtout grossi, c’est son étendue et son intensité dramatique, non les paradoxes ni le conflit sur les fondements eux-mêmes.

La crise de la légende n’a peut-être jamais eu lieu. Celle-ci a bien eu lieu, mais dans un périmètre beaucoup plus restreint que ne le veut le récit transmis. Ces deux phrases semblent relever du même geste de démolition. Ce n’est pas le cas. Dans le premier cas, il faut d’abord demander si l’histoire a eu lieu ; dans le second, redessiner les limites d’une histoire vraie. Ce second travail est plus difficile à raconter, parce qu’il ne donne pas au lecteur la satisfaction d’en finir d’un coup.

Une fois ce travail fait, il reste quelque chose de positif à emporter. Quelque chose de plus durable encore que ces quatre phrases.

Ce que ces trente années ont véritablement accompli, ce n’est pas de guérir une panique. Des hommes ont dégagé une proposition que tout le monde admettait tacitement, constaté qu’elle ne tenait pas, puis l’ont remplacée.

Cette proposition disait à peu près ceci : pourvu qu’une condition puisse être formulée clairement, tout ce qui la satisfait forme automatiquement une collection.

Si personne ne l’avait mise en doute pendant si longtemps, c’est précisément parce qu’elle ressemblait trop à une banalité. Personne ne songe à vérifier une banalité. Beaucoup d’exposés non formalisés la tenaient pour acquise. Frege, lui, avait solennellement inscrit le principe apparenté des parcours de valeurs parmi ses axiomes ; il en assumait donc les conséquences plus explicitement encore.

Les ennuis ne viennent généralement pas de ce qui paraît suspect au premier regard. Ils viennent de cette phrase que personne n’avait pensé à vérifier.

Ce n’est pas la première fois que nous le constatons dans cette série. Dans le troisième épisode, il y avait ce postulat qui n’avait pas l’air d’un axiome ; dans le neuvième, cette chose qui était à la fois zéro et autre chose que zéro. C’est le poids de ce qu’on avait fait reposer dessus qui avait fini par obliger à y regarder de plus près. Ici, le geste décisif a consisté à examiner ensemble la permission intuitive de former des ensembles et le principe des parcours de valeurs déjà expressément posé, à déterminer ce qu’ils autorisaient au juste, puis à réécrire les règles.

Les deux voies de réparation ont été parcourues. Toutes deux ont laissé la même lacune : personne n’a prouvé que son système ne pouvait produire de contradiction.

Cette lacune sera ensuite érigée en tâche explicite. Mais auparavant, quelqu’un se sera levé pour dire autre chose : ce que vous voulez préserver ne devrait pas l’être.

Les calculs continuent. Quant à savoir ce qui compte comme mathématiques, la question n’a jamais été réglée.

Sources et lectures complémentaires

Les documents ci-dessous éclairent les détails historiques et les divergences d’interprétation évoqués dans cet épisode. Notices d’archives, textes anciens et reconstitutions modernes ne constituent pas le même type de preuves.

• Archives Russell de l’université McMaster : lettre à Frege du 16 juin 1902
• Baire, Borel, Hadamard et Lebesgue, « Cinq lettres sur la théorie des ensembles », publication originale
• Zermelo, recherches sur les fondements de la théorie des ensembles, publication originale de 1908
• Weyl, « Sur la nouvelle crise des fondements des mathématiques », publication originale de 1921
• Stanford Encyclopedia of Philosophy : le paradoxe de Russell
• Les recherches françaises sur la théorie des ensembles avant la crise de 1905