La querelle du tiers exclu

1. La tasse de café

Une petite histoire circule partout. Prenez une tasse de café et remuez avec une cuillère, comme bon vous semble : vite, lentement, dans un sens, dans l’autre. Quand le café s’immobilise, il y a nécessairement au moins un point du liquide qui est revenu exactement à sa place de départ.

Une autre image est plus commode encore. Prenez un plan de cette pièce, froissez-le en boule et jetez-le sur le sol de la pièce. Sur ce plan, un point au moins se trouve exactement à la verticale du lieu qu’il représente. Peu importe comment vous avez froissé le papier, peu importe comment vous l’avez lancé.

Ces deux images racontent le même théorème. En voici l’idée : dans un espace euclidien de dimension finie, toute application continue d’une boule fermée dans elle-même possède au moins un point fixe. Plus généralement, on peut remplacer la boule par un ensemble non vide, compact et convexe. Être fermé ne suffit pas.

Ce théorème porte un nom : Brouwer. Un Néerlandais, venu de la topologie. Il avait vingt et quelques années lorsqu’il obtint ce résultat ; sa thèse ne remontait qu’à quelques années.

L’histoire de la tasse de café a elle-même une histoire. C’est une excellente image pédagogique, apparue après coup. Mais l’affirmation selon laquelle Brouwer aurait eu cette idée en remuant son café ne mène à aucune source fiable. On la retrouve dans quantité d’ouvrages de vulgarisation ; aucun ne dit d’où il la tient. Même chose pour le plan froissé : c’est un exemple de cours, pas un document historique.

Voyons maintenant ce que dit réellement le théorème.

Il dit qu’un point fixe existe nécessairement.

Il ne dit pas lequel.

Vous tenez un plan froissé. Le théorème vous assure qu’il comporte un tel point, sans vous donner le moindre moyen de le désigner. Vous pouvez déplier la feuille et chercher centimètre par centimètre. Le théorème ne garantit pas que vous le trouverez. Il garantit seulement qu’il est là. Vous pouvez aussi refroisser le plan et le jeter de nouveau. Chaque fois, il y a un tel point. Chaque fois, il garde son adresse pour lui.

D’ordinaire, personne ne songe à distinguer ces deux choses. Dans la vie courante, ce qui existe, on peut le produire.

Or l’homme qui avait démontré ce théorème allait passer plus de quarante ans à combattre ce genre de preuve.

C’est de cela qu’il sera question ici, et de la querelle qui s’est nouée autour. Son enjeu tient dans une question de tous les jours : au juste, que dit-on lorsqu’on dit qu’une chose existe ?

Le quinzième épisode s’achevait sur cette idée : avant que certains ne se donnent pour tâche de prouver que leur système ne produirait aucune contradiction, quelqu’un s’était levé pour leur dire que ce qu’ils voulaient sauver ne méritait pas de l’être. Cet homme, c’était Brouwer.

2. Les mathématiques sont une activité humaine

En 1907, Brouwer remet sa thèse, dont le titre signifie à peu près Sur les fondements des mathématiques. L’ossature philosophique de ce qui deviendra l’intuitionnisme y est déjà en place.

Il récuse trois façons de voir. Les mathématiques ne sont pas d’abord un jeu de symboles sur du papier. Elles ne sont pas davantage un langage déduit de quelques axiomes logiques. Elles ne sont surtout pas un monde tout fait, indépendant des êtres humains, qui attendrait qu’on vienne le découvrir.

Que sont-elles, alors ? D’abord, répond-il, une activité qui se déroule dans l’esprit humain.

Il en cherche l’origine dans une expérience très simple : celle du temps intérieur. Un instant passe, tout en demeurant dans la mémoire. De là naît la distinction la plus primitive entre « l’un » et « l’autre ». Les objets mathématiques se construisent pas à pas au sein de cette activité.

Le désaccord paraît très philosophique. Il a pourtant une conséquence des plus concrètes, et c’est sur elle que repose tout cet épisode.

Un objet mathématique est-il déjà là avant que quelqu’un le construise ? Selon une première réponse, oui : le mathématicien va simplement à sa rencontre et le découvre. Brouwer répond non. Cet objet est construit, et c’est une activité humaine qui le construit.

Le mot « exister » doit donc changer de sens. Dire qu’une chose existe ne veut pas dire qu’elle attend quelque part. Cela veut dire qu’elle a été construite, ou que l’on dispose d’un moyen de la construire.

Et le langage, et la logique ? Pour Brouwer, ils viennent après cette activité : ils expriment et récapitulent ce qui a déjà été construit. La place de la logique s’en trouve entièrement renversée. Ce n’est plus elle qui prescrit ce que les mathématiques peuvent faire ; c’est l’activité mathématique qui détermine quels raisonnements logiques tiennent dans une situation donnée.

Le renversement apparaît mieux si l’on repense à l’épisode précédent. Frege avait consacré vingt ans à vouloir déduire l’arithmétique de la logique : la logique en dessous, l’arithmétique au-dessus. Brouwer prend le chemin exactement inverse. La logique est un produit de l’activité mathématique, pas son soubassement.

En 1907, il n’avait pas encore tiré de cette position une conclusion précise. Il franchit le pas l’année suivante. Dans un bref article de 1908, dont le titre signifie à peu près Le manque de fiabilité des principes logiques, il conteste pour la première fois publiquement la validité universelle du tiers exclu.

Avant lui, Molk avait déjà exprimé des doutes sur des questions voisines. L’article de 1908 est la première présentation publique de sa propre critique systématique, pas la première fois qu’un être humain doute du tiers exclu.

3. Ce qu’il conteste exactement

Le principe du tiers exclu énonce quelque chose qui semble n’avoir besoin d’aucune démonstration : une proposition est vraie ou elle ne l’est pas, il n’y a pas de troisième possibilité. Il y a un livre sur la table, ou il n’y en a pas. Il pleut aujourd’hui, ou il ne pleut pas. C’est si banal que personne ne songe à vérifier.

On entend souvent ceci : Brouwer pensait qu’une proposition pouvait n’être ni vraie ni fausse, et que le tiers exclu était donc faux. Ce n’est pas du tout ainsi qu’il pose la question. Ce qu’il demande, ce n’est pas « vrai ou faux ? », mais : qu’est-ce qui vous donne le droit de l’affirmer ?

Pour lui, dire « cette proposition est vraie » suppose d’avoir en main une construction achevée. Dire « cette proposition est fausse » ne revient pas non plus à dire « je n’ai toujours pas trouvé de preuve ». Il faut disposer d’une construction montrant que, si on la suppose vraie, on aboutit à une impossibilité.

Dès lors, selon l’interprétation constructive de la disjonction, affirmer « cette proposition ou sa négation est vraie » exige de fournir la preuve de l’un des deux termes, en sachant lequel on a prouvé. Attention toutefois : le tiers exclu de la logique classique n’est pas en lui-même un algorithme universel capable de trancher toutes les questions mathématiques. La logique classique l’admet sans promettre que tout problème soit décidable.

Pour les objets infinis, dit Brouwer, rien ne justifie de supposer qu’on dispose d’un tel moyen de trancher.

On voit aisément pourquoi une recherche finie, dont chaque vérification est décidable, ne pose pas ce problème. Il n’y a qu’un nombre fini d’objets ; on les examine un par un et la procédure finit par s’arrêter. À l’arrivée, on a bien une réponse ou l’autre, et cette fois on la tient réellement.

Avec l’infini, les choses changent. Un exemple suffit à le voir.

Les décimales de pi se prolongent indéfiniment, sans répétition périodique. Posons une question : y trouve-t-on quelque part cent fois de suite le chiffre sept ?

Considérons cette question comme un problème que la recherche n’a pas encore résolu. Vous pouvez poursuivre le calcul jusqu’à mille milliards de décimales sans rencontrer cette suite ; cette seule recherche ne prouvera pas qu’elle n’apparaîtra jamais. « On ne l’a pas encore trouvée » ne se transforme jamais de lui-même en « elle n’apparaîtra jamais ». À moins de posséder un moyen d’obtenir, en un nombre fini d’étapes, une réponse positive ou négative, vous n’avez en main ni l’une ni l’autre.

Le tiers exclu permet pourtant de dire : elle apparaît, ou elle n’apparaît pas. Et d’utiliser aussitôt cette alternative dans une démonstration : on suppose d’abord qu’elle apparaît, on raisonne ; on suppose ensuite qu’elle n’apparaît pas, on raisonne encore. Si les deux branches conduisent à la même conclusion, la conclusion est établie.

C’est ce geste que Brouwer veut arrêter. Il ne s’en prend pas aux alternatives de la vie courante. Il refuse le saut qui mène de « je n’ai établi ni l’un ni l’autre » à « l’un des deux doit être vrai, donc je peux librement me servir de cette alternative dans ma preuve ».

Il formule lui-même la chose plus durement. Demander si le tiers exclu est universellement fiable, dit-il, c’est au fond demander s’il n’existe aucun problème mathématique qui restera à jamais insoluble. Or cette dernière affirmation, personne ne l’a démontrée.

Il ne prétend pas davantage que le tiers exclu soit faux partout. Les recherches finies dont chaque étape est décidable, comme tous les autres problèmes qu’on sait effectivement trancher, peuvent continuer à l’employer. Il veut seulement lui barrer l’accès aux endroits où l’on ne tient pas la réponse.

4. Prouver l’existence sans pouvoir montrer l’objet

Jusqu’ici, la querelle porte encore sur une affirmation abstraite. Pour y voir clair, il faut regarder une preuve à l’œuvre. Une seule. Une fois qu’on l’aura vue, on pourra suivre tout le reste sans ajouter une ligne de mathématiques.

Préparons deux mots. D’abord, « irrationnel » : nous l’avons vu au deuxième épisode, la racine carrée de deux ne peut pas s’écrire comme le quotient de deux entiers. C’est ce qu’on appelle un nombre irrationnel. Ensuite, « puissance » : deux à la puissance trois, c’est deux multiplié par deux multiplié par deux. L’exposant n’est pas nécessairement entier ; s’il ne l’est pas, il faut définir autrement l’opération, mais, une fois la définition fixée, le résultat reste un nombre bien déterminé. Une dernière règle nous servira : lorsqu’on élève une puissance à une nouvelle puissance, les deux exposants se multiplient.

Voici la question. Peut-on trouver deux nombres irrationnels tels que le premier, élevé à la puissance du second, donne exactement un nombre rationnel ?

La preuve classique tient en deux lignes.

Prenons la racine carrée de deux, et élevons-la à la puissance racine carrée de deux. Pour l’instant, appelons le résultat « ce nombre ».

Ce nombre est rationnel, ou il ne l’est pas.

S’il est rationnel, c’est terminé. La base est la racine carrée de deux : irrationnelle. L’exposant est la racine carrée de deux : irrationnel. Le résultat est rationnel. Voilà un couple qui convient.

Si ce nombre n’est pas rationnel, il est irrationnel. Changeons alors son rôle : prenons-le comme base, et élevons-le à la puissance racine carrée de deux. Les deux exposants se multiplient ; racine de deux multipliée par racine de deux donne deux. Le résultat est donc la racine carrée de deux au carré, soit deux. Deux est rationnel. La base est notre nombre : elle est irrationnelle. L’exposant est la racine carrée de deux : irrationnel. Voilà encore un couple qui convient.

Les deux cas épuisent toutes les possibilités. Un tel couple de nombres irrationnels existe donc nécessairement.

Regardons maintenant ce que cette preuve nous a remis entre les mains.

Elle a prouvé qu’il y avait nécessairement un couple. Elle n’a pas dit lequel. Du début à la fin, elle n’a jamais déterminé si « ce nombre » était rationnel ou non. Elle dit seulement que, dans un cas comme dans l’autre, il y a un couple.

Tout ce que Brouwer veut dire tient là.

Une phrase dit : un témoin doit exister, sans quoi on tomberait dans une contradiction. L’autre dit : voici ce témoin, je le construis sous vos yeux. Les mathématiques classiques reconnaissent dans les deux phrases une preuve d’existence. Pour Brouwer, ce ne sont pas deux façons de faire la même chose.

Précisons d’où vient cet exemple. Courant dans l’enseignement ultérieur, il ne figure pas dans le bref article de 1908. Brouwer y discutait le principe général. Cet exemple concret a l’avantage de ramener tout le principe à quelque chose qu’on peut saisir en une minute.

Une preuve non constructive ne condamne pas non plus l’objet à rester introuvable. Dans notre raisonnement par cas, le point laissé en suspens a pu être tranché grâce à un théorème ultérieur. Le septième problème de la liste présentée par Hilbert en 1900 portait précisément sur cette famille de nombres. En 1934, le Soviétique Gelfond et l’Allemand Schneider apportèrent, chacun de leur côté, la réponse. On sait ainsi que « ce nombre » n’est pas rationnel. Le couple recherché relève du second cas : notre nombre comme base, la racine carrée de deux comme exposant. Mais cela ne rend pas rétroactivement constructive la preuve initiale. Le débat n’a jamais porté sur le destin de l’objet. Il porte sur ce que livre cette preuve-ci.

À ce stade, n’importe qui peut voir la querelle dans son entier. Le reste est une histoire humaine.

5. Hilbert déplace l’exigence

L’intérêt de Hilbert pour les fondements est ancien. Dans sa liste parisienne de 1900 figurait déjà la cohérence des axiomes de l’arithmétique. En 1904 et 1905, il avait tenté de s’attaquer directement au socle commun de l’arithmétique et de la logique. Il s’y engage de nouveau, de façon systématique, en 1917. Ce qu’on appelle habituellement le programme de Hilbert prend forme vers 1920 : exposé en 1921, publié en 1922.

Le programme repose sur deux piliers. D’abord, formaliser une portion suffisamment vaste des mathématiques classiques. Ensuite, prouver, par des moyens finis et strictement limités, que ces systèmes formels ne peuvent produire de contradiction.

Sa trouvaille la plus subtile, c’est qu’il concède en réalité une partie de ce qu’on exige de lui.

Hilbert distingue deux étages. En bas, des mathématiques finies pourvues de contenu : des signes numériques concrets, des suites de signes de longueur finie, des procédés en un nombre fini d’étapes. On peut les regarder, les compter, les vérifier directement. En haut, les objets infinis de l’analyse classique et de la théorie des ensembles. Il appelle cet étage la partie « idéale ».

Brouwer demande de retrancher tout ce qui n’a pas de sens constructif. Hilbert répond : inutile de le retrancher, pourvu que l’on puisse prouver de manière sûre, depuis l’étage inférieur, que cela ne conduit pas à une contradiction.

Il ne rejette donc pas l’exigence de construction. Il la déplace.

Pour Brouwer, toutes les mathématiques doivent partir de constructions. Pour Hilbert, c’est l’étage où l’on étudie les mathématiques qui doit partir de constructions, afin de se porter ensuite garant des mathématiques classiques. Plus simplement : Hilbert veut sauver les mathématiques non constructives par des moyens constructifs.

Voilà pourquoi opposer les deux hommes sous les étiquettes « formalisme contre constructivisme » cache un terrain commun. Des deux côtés, on veut que la fiabilité ultime repose sur une activité de construction accessible à l’esprit humain. Ce qui change, c’est l’étage auquel on place cette exigence.

Hilbert n’a jamais non plus prétendu que tout se réduisait à des symboles vides de sens. Il l’a dit expressément : pour que le raisonnement logique soit fiable, il faut d’abord certains objets discrets que l’on puisse saisir directement et embrasser entièrement du regard. Dans sa théorie de la démonstration, ces objets sont les configurations finies de signes que constituent les numéraux, les formules et les preuves. Le mot « formalisme » convient pour désigner un camp. Il ne convient plus s’il prétend définir sa philosophie.

En 1921, une voix s’élève de l’autre côté. Et si elle porte si loin, c’est qu’elle vient de l’un des siens.

Weyl est l’un des plus brillants anciens élèves de Hilbert. Cette année-là, il publie Sur la nouvelle crise des fondements des mathématiques et prend ouvertement le parti de Brouwer. La phrase la plus célèbre de l’article revient à dire : Brouwer, voilà la révolution.

Le mot « révolution » n’est pas là pour faire joli. Selon Weyl, Brouwer demande aux mathématiques de renoncer à quantité de raisonnements sur l’infini devenus habituels. Il ne s’agit pas de boucher des trous, mais de redéfinir ce qui constitue une preuve qui a un sens.

Ce qui blesse, ce n’est pas qu’on le contredise. C’est que ces mots ne viennent pas d’un conservateur de la vieille école, à la Kronecker. Ils viennent d’un élève qu’il a formé lui-même, et qui compte parmi les mathématiciens les plus créatifs de son temps.

Hilbert réagit bientôt dans une conférence à Hambourg, publiée l’année suivante sous le titre Les nouveaux fondements des mathématiques. Il y dit, en substance : Weyl et Brouwer marchent dans les pas de Kronecker. Pour sauver les mathématiques, ils jettent par-dessus bord tout ce qui les embarrasse ; ils mutilent ainsi la science. Brouwer n’incarne pas la révolution que célèbre Weyl. Il rejoue, avec les vieux moyens, une tentative de coup d’État déjà avortée. La première avait été plus violente et avait entièrement échoué ; depuis, Frege, Dedekind et Cantor ont armé le pays, qui est solidement défendu. Cette nouvelle tentative n’a, dès le départ, aucune chance d’aboutir. C’est au cours de cet affrontement que le programme parvenu à maturité fixe résolument sa tâche.

Ainsi, en 1921, c’est en grande partie Weyl, plutôt que Brouwer lui-même, qui transforme une question assez spécialisée en affaire de camps. Un héritier scientifique de Hilbert se lève pour proclamer que la révolution est dans le camp d’en face.

6. 1928

Jusqu’ici, il s’agissait des désaccords de deux hommes sur le papier. Ce qui suit ne vient pas du papier. Pour le comprendre, il faut partir de l’ordre scientifique international instauré après la Première Guerre mondiale, pas du tiers exclu.

Pendant une assez longue période après la guerre, les savants allemands et ceux des pays alliés à l’Allemagne pendant le conflit restent exclus de plusieurs nouvelles structures officielles de coopération internationale. Le Congrès international des mathématiciens tenu à Bologne en 1928 marque pour l’essentiel la fin de cette période. Plus de soixante-dix mathématiciens allemands y participent finalement : c’est la deuxième délégation, derrière l’Italie, pays hôte. Hilbert en est, de fait, le chef de file.

Brouwer défend la position inverse. Les Allemands ne doivent pas, estime-t-il, accepter de réintégrer ces échanges à des conditions qu’il juge encore inégales. Il milite donc activement pour qu’ils boycottent le congrès.

La distribution des rôles mérite attention. Néerlandais, Brouwer se pose en défenseur de l’honneur des mathématiciens allemands. Il entretient depuis longtemps des liens étroits avec le milieu mathématique germanophone : ses principaux articles paraissent dans des revues allemandes, et il appartient lui-même au réseau éditorial de la plus importante d’entre elles. Lorsqu’il intervient dans le débat sur un boycott allemand, ce n’est donc pas un étranger sans aucun lien avec l’affaire qui prend soudain la parole. Mais précisément parce qu’il n’est pas allemand, ses collègues allemands peuvent aisément voir dans cette intervention une ingérence. Hilbert, l’une des figures les plus prestigieuses des mathématiques allemandes, préconise au contraire de se rendre au congrès et de renouer les échanges. La majorité des mathématiciens allemands finit par le suivre.

Difficile, désormais, d’appeler cela une querelle du tiers exclu.

Les archives de Göttingen conservent un discours politique de trois pages, très probablement mis au propre par la femme de Hilbert. La conclusion dit, en substance, que les mathématiques ne connaissent pas les races et que, pour elles, le monde de la culture tout entier ne forme qu’un seul pays. Mais lorsqu’on passe en revue les actes du congrès, les comptes rendus de l’époque et la correspondance pertinente, aucun document ne prouve qu’il ait effectivement lu ce texte à Bologne.

Ce contraste mérite qu’on s’y arrête : le texte internationaliste nous est parvenu, pas la preuve qu’il ait été prononcé en public.

Brouwer travaille à la rédaction des Mathematische Annalen depuis 1914. À l’automne 1928, cela fait quatorze ans.

Le 27 octobre de cette même année, un télégramme inattendu arrive chez lui, à Laren. Il lui apprend qu’une opération de réorganisation de la rédaction des Mathematische Annalen est déjà engagée.

Le conflit n’éclate pas à la faveur d’un article philosophique publié au grand jour. Il entre chez un homme sous la forme d’un avis administratif de la rédaction.

Dans le fonctionnement de la revue, Hilbert n’a pas le pouvoir de congédier un autre rédacteur de sa seule autorité, comme le ferait un patron. La solution finalement retenue est plus radicale et plus controversée : la maison d’édition dissout l’ensemble de l’ancien comité de rédaction, puis en reconstitue aussitôt un nouveau. Le nom de Brouwer ne figure plus sur la liste.

Les autres rédacteurs sont loin d’approuver tous la manœuvre. Carathéodory s’oppose vivement à Hilbert ; Einstein refuse lui aussi cette éviction forcée. Quelques jours après le télégramme, le 2 novembre, Brouwer écrit séparément à Blumenthal et à Carathéodory pour défendre sa cause et contre-attaquer. Les archives sont incomplètes, mais une copie d’au moins l’une de ces lettres subsiste. Il n’a pas accepté en silence.

Sur les motifs, on ne peut pas trancher.

Selon une explication, Hilbert, vieillissant et inquiet pour sa santé, craignait qu’après sa mort Brouwer n’acquière un pouvoir de décision excessif au sein de la revue. Ce récit n’a pas été inventé de toutes pièces. Des proches de Hilbert, Carathéodory, Blumenthal et Born, l’avancent dans leurs lettres de l’époque. On le retrouve dans celle que Blumenthal adresse le 16 novembre à la maison d’édition et aux rédacteurs, puis dans celle de Born à Einstein, le 20 novembre. Mais ces lettres consignent la manière dont son entourage expliquait alors son comportement. Elles ne sont pas des aveux de Hilbert.

Brouwer propose une autre explication. Il fait remonter une partie de l’hostilité de Hilbert à son propre refus, en 1919, d’un poste que Göttingen lui destinait. Ce n’est pas la même histoire que celle, avancée par le cercle de Hilbert, d’une lutte pour le contrôle de la revue. Les documents permettent de placer ces deux versions côte à côte. Ils ne permettent pas d’ériger l’une de ces explications psychologiques en vérité unique.

L’ossature des faits, elle, est solide. Hilbert lance l’opération ; Carathéodory et Einstein s’y opposent ; la maison d’édition procède par dissolution et reconstitution ; Brouwer est écarté ; Brouwer proteste. Ce qui reste incertain, c’est le poids respectif des pensées qui ont pu se mêler dans l’esprit de Hilbert.

Il faut retenir cela à part : les dates des documents sont généralement plus fiables que les intentions des personnages ; leurs propres paroles, plus fiables que les enchaînements dramatiques fabriqués après coup.

Le récit traditionnel suit une ligne simple. Brouwer s’oppose au tiers exclu, Hilbert défend les mathématiques classiques, la dispute s’envenime et Hilbert finit par le chasser de la rédaction.

La ligne est trop droite pour ne pas éveiller le soupçon. Remettez en ordre la correspondance et les archives des années qui entourent 1928 : elle se défait. La chronologie met au premier plan, comme cause immédiate de la crise éditoriale, le conflit sur le boycott de Bologne. Or ce conflit relève de la politique internationale de l’après-guerre, pas de la logique. Les recherches récentes dans les archives ont déplacé l’attention vers les tensions internes au milieu mathématique allemand sous la République de Weimar et vers la lutte pour le contrôle de la revue. Elles réduisent la part du désaccord purement intellectuel dans l’affrontement final. Cela ne signifie pas que ce désaccord comptait peu. Cela signifie qu’un désaccord d’idées ne se transforme pas tout seul en remaniement d’un comité de rédaction.

On peut proposer une répartition plus prudente en trois phrases. Le désaccord philosophique a fourni le langage d’une hostilité durable. La politique internationale a fourni l’étincelle de 1928. Le pouvoir éditorial et les inquiétudes liées à la succession aident à comprendre pourquoi le conflit a éclaté sous la forme d’une éviction de la rédaction. Les sources ne permettent toujours pas de trancher sur le poids réel de chacun de ces motifs.

7. Retour au théorème

L’affaire frappe durement Brouwer. Il se montre ensuite beaucoup moins sur la scène publique des mathématiques internationales. Ses biographes parlent volontiers d’« isolement », de « retrait ». Les documents ne permettent pas d’aller plus loin dans le portrait psychologique. Ce qui est sûr, c’est que son ancienne collaboration avec le cercle de Hilbert est définitivement rompue.

Il ne s’arrête pourtant pas après 1928. Son élève Heyting poursuit le développement de ses idées et, vers 1930, donne à la logique intuitionniste une expression formelle. Brouwer continue, de son côté, à travailler notamment sur les suites de choix. En 1934, il participe à la création d’une nouvelle revue ; à partir de 1935, il s’engage aussi dans la vie politique locale de Blaricum. Ce qu’il a perdu en 1928, c’est une place dans un réseau international de pouvoir. Pas ses idées.

Nous pouvons maintenant revenir à la tasse de café.

Commençons par rétablir la préhistoire du théorème. Il n’est pas sorti tout armé de l’esprit d’un homme un jour précis. En 1904, Bohl disposait déjà de résultats apparentés en dimension trois. Brouwer commence à obtenir les siens vers 1909 ; Hadamard propose en 1910 une démonstration en dimension quelconque ; puis Brouwer établit, avec ses propres méthodes topologiques, la version qui restera attachée à son nom. Les ouvrages donnent plusieurs dates : 1909, 1910, 1911. Ce sont des articles différents, des formulations différentes. Il n’y a pas un jour d’invention. Il y a un cheminement.

L’essentiel est ailleurs. Ces premières démonstrations sont classiques. Elles ne répondent pas aux critères qu’il élaborera pleinement par la suite.

Ce n’est pas qu’il n’était pas encore intuitionniste dans sa jeunesse. Sa position fondamentale est déjà formée en 1907 et 1908. L’ordre réel est le suivant : d’abord sa philosophie des fondements ; puis quelques années consacrées surtout à la topologie classique, où il obtient des résultats majeurs par les méthodes classiques alors usuelles ; enfin, un retour systématique à la reconstruction intuitionniste des mathématiques.

Le théorème qui l’a rendu célèbre offre donc une illustration très précise du problème. Une démonstration classique peut vous obliger à admettre qu’« un point fixe existe nécessairement », sans pour autant fournir une méthode qui permette, à partir d’une transformation donnée, de calculer où se trouve ce point. C’est exactement là que viendra buter son exigence concernant le mot « existe ».

En 1952, Brouwer publie lui-même une note de deux pages dans une revue de la Royal Society britannique. Son titre signifie : Une correction intuitionniste du théorème du point fixe sur la sphère.

Il se tourne vers une formulation approchée. Plutôt que d’affirmer, en toute généralité, qu’on peut construire un point exactement fixe, il démontre autre chose : donnez à l’avance une distance, aussi petite que vous le voulez, et l’on peut construire un point que la transformation déplace de moins que cette distance.

Le lien entre ces deux affirmations mérite qu’on s’y arrête. Il réunit tout ce que nous avons vu dans les sections précédentes.

Passer de « aussi près que l’on veut » à « il existe un point exactement fixe » est permis en mathématiques classiques. Le passage repose sur un principe de compacité : à partir d’une suite de points dans une région compacte, on peut, classiquement, extraire une sous-suite convergente ; la continuité donne alors un point fixe. Cette compacité séquentielle sans condition ne se transpose pas telle quelle, en général, aux mathématiques intuitionnistes. Rien ne garantit qu’on puisse construire la sous-suite et le point limite nécessaires.

La conclusion classique affirmant l’existence d’un point fixe exact n’a donc pas été réfutée. Ce qui change, ce sont les raisonnements et les conclusions admis en mathématiques intuitionnistes : des approximations aussi précises qu’on le souhaite ne deviennent pas, sans autre condition, un point fixe exact effectivement construit.

Une formule largement répandue veut que Brouwer ait ensuite renié son propre théorème du point fixe. Ce qu’il a fait est plus limité : il a publié une correction intuitionniste, disant que le raisonnement classique devait être remanié. Contester la vérité d’un théorème classique n’est pas la même chose que modifier son énoncé et sa preuve pour satisfaire aux critères intuitionnistes.

Il n’a pas dit que le théorème était faux. Il a dit que la preuve ne lui donnait pas le genre d’existence qu’il exigeait.

Placez le titre de 1952 à côté de la thèse de 1907. Un homme revient, plus de quarante ans durant, sur le résultat qui l’a rendu célèbre dans la vingtaine. Et la raison de cette correction est précisément celle qu’il avait déjà énoncée dans la vingtaine.

8. Ce qui reste

Commençons par ce qui ne s’est pas produit.

Le tiers exclu n’a pas été chassé des mathématiques. L’analyse, l’algèbre et la théorie des ensembles emploient toujours abondamment des preuves d’existence non constructives. En ce sens, Brouwer n’a pas convaincu les mathématiciens d’abandonner leurs méthodes classiques. La pratique quotidienne n’a pas non plus été bouleversée à grande échelle : les analystes, les algébristes et les géomètres ordinaires n’ont pas cessé de recourir au tiers exclu dans leurs démonstrations à cause d’un bref article de 1908. L’intuitionnisme est devenu une tradition importante. Il n’a pas remplacé le courant dominant.

Nous retrouvons ici le même travers que dans l’épisode précédent.

Les protagonistes eux-mêmes parlaient déjà comme en temps de guerre. Weyl écrivait « crise », « révolution » ; Hilbert, « coup d’État ». Plus tard, même l’affaire de la rédaction a reçu le titre de « guerre des grenouilles et des souris ». Il devient alors très facile de raconter les années 1920 comme la charge frontale de deux armées. L’expression des grenouilles et des souris a bien une source épistolaire : dans son étude des archives, van Dalen cite une lettre d’Einstein à Born datée du 27 novembre 1928. Einstein y emploie cette image pour décrire la querelle, tout en déclarant ne vouloir s’engager dans aucun des deux camps.

Qu’est-ce qui a donc véritablement changé ?

Ce qui s’est profondément transformé, c’est la capacité d’étudier mathématiquement les preuves elles-mêmes. Quelle force logique mobilise un principe ? Quels théorèmes possèdent un contenu constructif ? Un système peut-il prouver sa propre sûreté ? Ces questions, jusque-là plutôt philosophiques, sont devenues la matière de disciplines techniques. Autrement dit, des questions auxquelles les mathématiciens n’avaient d’ordinaire pas besoin de penser ont donné naissance à de nouvelles mathématiques.

Brouwer a obtenu autre chose. Désormais, on ne peut plus faire semblant de confondre « prouver qu’une chose existe » et « construire cette chose ». La logique intuitionniste est devenue une logique à part entière, susceptible d’une étude précise. « Peut-on extraire un témoin d’une preuve d’existence ? » et « cette preuve contient-elle une méthode ? » sont devenues des questions ordinaires de la logique et de l’informatique.

Hilbert n’est pas non plus un vaincu de l’histoire. L’ambition immense de son programme initial a rencontré des limites infranchissables. Mais la théorie de la démonstration, la formalisation et la cohérence relative sont autant de domaines qui ont grandi à partir de ce programme.

Weyl, qui avait lancé le mot de révolution, n’est pas resté indéfiniment de ce côté. Selon les exigences de Brouwer, il ne trouvait pas de mathématiques assez solides pour soutenir la physique théorique, à laquelle il tenait par-dessus tout. Vers le milieu des années 1920, il avait déjà commencé à revenir sur ses pas. En 1946, regardant la querelle rétrospectivement, il dit en substance : la crise dure depuis près de cinquante ans ; en apparence, elle ne gêne pas le travail quotidien. Mais il doit reconnaître qu’elle a bel et bien infléchi sa carrière de mathématicien, orienté ses intérêts vers des domaines qu’il jugeait plus sûrs, et continuellement entamé son enthousiasme et sa détermination de chercheur. Il ajoute que d’autres mathématiciens ont sans doute connu la même expérience, pour peu qu’ils ne soient pas indifférents au sens de leur travail dans l’ensemble de l’existence humaine, faite de préoccupations et de connaissance, de souffrance et de création.

L’intuitionnisme n’est pas non plus une mathématique qui saurait seulement compter un, deux, trois. Dès 1918 et 1919, Brouwer entreprend de reconstruire les ensembles, le continu et l’analyse ; il développera ensuite des outils comme les suites de choix. Ce n’est pas une mathématique indigente. Ce qu’elle perd ou transforme, c’est la forme de certains théorèmes classiques. Un énoncé classique peut s’y scinder en plusieurs énoncés distincts : « un objet exact existe » peut devenir seulement « il est impossible qu’il n’existe pas ». « Il existe nécessairement un zéro exact » peut devenir « on peut approcher un zéro aussi près qu’on le veut ».

Les mathématiques constructives d’aujourd’hui ne sont pas davantage une copie de son système. Vers 1930, Heyting formalise les règles de raisonnement admises par l’intuitionnisme. Il y a quelque chose d’un peu contraire à Brouwer dans ce geste même : pour lui, les mathématiques précèdent le langage et la logique ; mais pour étudier ses idées et s’en servir, ses successeurs ont dû les organiser en une logique formelle. D’autres voies sont apparues par la suite. Elles conservent l’exigence selon laquelle une preuve doit avoir un contenu calculable, sans accepter toute sa philosophie de l’esprit.

La voie de Brouwer n’est d’ailleurs pas la plus restrictive. Il admet, à propos du continu et des suites de choix, des principes très particuliers. Certains paraîtront même trop forts à des constructivistes ultérieurs qui ne reconnaissent que ce qui est calculable. « Intuitionnisme », « finitisme » et « calculabilité » ne sont donc pas des synonymes.

Ce qui demeure n’est donc pas la question : « faut-il croire au tiers exclu ? » C’est une question plus fine : lorsque vous dites qu’une chose existe, qu’avez-vous exactement en main ?

Dire qu’une chose existe et la produire sont deux choses différentes.

Dans la vie courante, les deux coïncident toujours, si bien que personne ne songe à les distinguer. Vous dites qu’il y a du lait dans le réfrigérateur parce que vous pouvez l’en sortir. Il n’y a qu’un endroit où elles se séparent : on peut prouver qu’une chose doit nécessairement exister, sans pouvoir faire un seul pas qui mène jusqu’à elle.

En 1908, lorsque cette distinction a été formulée, très peu de gens y voyaient un problème. Aujourd’hui, on y répond chaque jour : on confie des preuves à des machines pour les vérifier, on extrait des programmes à partir de preuves. À ce stade, demander si une preuve contient une méthode n’est plus une simple question philosophique. Cela devient un critère mesurable. Les outils existent déjà : on leur donne une preuve formelle, ils en extraient la méthode sous la forme d’un code directement exécutable. La nature du programme que l’on peut en tirer dépend du système formel, des axiomes employés, de la forme de la proposition et de l’interprétation calculatoire. L’usage du tiers exclu est l’un des facteurs ; il ne détermine pas tout à lui seul. Certaines preuves classiques peuvent elles aussi, moyennant une traduction, livrer un contenu calculatoire. Et vérifier une preuve reste une tâche distincte de celle qui consiste à en extraire un programme.

Cet épisode a établi ce qui compte comme existence. Il reste à déterminer où se situent les limites d’une preuve elle-même.

La démarche de Hilbert exigeait d’abord d’accomplir une tâche : prouver que ces systèmes ne peuvent produire de contradiction, et le prouver avec les moyens les plus sûrs. En 1928, à Bologne, il se montrait encore très optimiste. Il pensait que la cohérence de l’arithmétique était près d’être établie.

Deux ans plus tard, lors d’un congrès à Königsberg, un jeune homme de vingt-quatre ans, encore presque inconnu, annonça quelque chose.

On continue à calculer. Mais ce qui compte comme mathématiques n’a jamais été tiré au clair une fois pour toutes.

Sources historiques et lectures complémentaires

Les références ci-dessous éclairent les détails historiques et les divergences d’interprétation évoqués dans cet épisode. Documents d’archives, textes anciens et reconstitutions modernes ne constituent pas des preuves de même nature.

• Stanford Encyclopedia of Philosophy : l’intuitionnisme
• Le programme de Hilbert
• Van Dalen, « La guerre des grenouilles et des souris » (1990)
• Brouwer contre Hilbert, 1907–1928
• La biographie de Brouwer par van Dalen
• Étude de contre-exemples calculables au théorème du point fixe de Brouwer
• Étude constructive des points fixes approchés
• Notice bibliographique de la correction de Brouwer de 1952