Faire parler l’arithmétique d’elle-même

1. À un jour d’intervalle

Königsberg, le 7 septembre 1930. Le dernier jour d’un congrès, au cours de la discussion générale, un homme de vingt-quatre ans prend la parole. Quelques phrases, pas davantage.

Cette prise de parole n’a lieu ni dans un congrès organisé pour lui ni dans une conférence consacrée à ce résultat. C’est la deuxième Conférence sur l’épistémologie des sciences exactes, réunie du 5 au 7 septembre à l’initiative, notamment, du mathématicien local Reidemeister. Deux ensembles de questions y sont abordés : les fondements des mathématiques et les problèmes épistémologiques soulevés par la théorie quantique. Pour les fondements, les organisateurs ont délibérément mis côte à côte les grandes positions du moment. Carnap expose le logicisme ; Heyting représente l’intuitionnisme ; von Neumann présente le programme de Hilbert ; Waismann défend une position marquée par Wittgenstein. Hahn participe lui aussi à cette discussion.

La communication de Gödel inscrite au programme porte sur un autre résultat : la complétude de la logique du premier ordre, qu’il a établie l’année précédente. Une réussite, cette fois, entièrement positive. « Complétude » signifie ici que toute conséquence sémantique en logique du premier ordre admet une dérivation formelle. Cela ne signifie pas qu’un ensemble donné d’axiomes arithmétiques permette de trancher chaque énoncé de son langage. Ce sont deux notions de complétude ; il faut les garder distinctes.

L’incomplétude apparaît dans la discussion générale du dernier jour. Pas de titre, pas de séance propre : les actes en conservent la trace dans la discussion du dimanche et ses compléments. Gödel y dit, en substance, qu’un système formel peut être exempt de contradiction et contenir néanmoins des propositions arithmétiques qu’on ne peut, à l’intérieur de ce système, ni démontrer ni réfuter.

Le lendemain, 8 septembre, dans la même ville mais dans une autre salle, la Société allemande des naturalistes et des médecins tient son congrès. Hilbert, qui a soixante-huit ans, y prononce une conférence intitulée « La connaissance de la nature et la logique ». Les deux phrases de sa conclusion seront citées sans fin : nous devons savoir, et nous saurons. On oublie souvent la phrase qui les précède : en matière de connaissance, il ne saurait y avoir de « nous ne saurons pas » posé en principe. Nous disposons du texte publié de cette conférence, ainsi que d’un enregistrement radiophonique de l’époque.

Un jour sépare les deux événements. Gödel d’abord, Hilbert ensuite.

Le récit le plus répandu les agence ainsi : Hilbert vient de proclamer que nous saurons, alors que, dès la veille, un jeune homme a démontré qu’il avait tort.

Tout y est exact, sauf une chose dont on ne possède aucune preuve : le lien de cause à effet.

Aucune source fiable n’établit que Hilbert connaissait, avant de parler le 8 septembre, les quelques phrases prononcées la veille. Rien ne permet davantage de lire ses deux dernières phrases comme une réponse à quelqu’un. Sa conférence avait sa propre histoire ; ni son titre ni son propos n’avaient été improvisés pour cette occasion. Être dans la même ville, à deux congrès voisins, ce n’est pas avoir assisté à la même séance.

Il y a plus important encore. Les deux phrases de Hilbert expriment une conviction générale sur la connaissance mathématique et scientifique. Le théorème de Gödel concerne ce qui est démontrable à l’intérieur d’un système formel donné. Qu’un seul jour sépare les deux déclarations ne fait pas de l’une la négation logique de l’autre.

La proximité des dates est un fait. Pour le face-à-face dramatique entre les deux hommes, les preuves manquent.

Ce théorème deviendra l’un des plus sollicités de toute l’histoire des mathématiques. Et le plus souvent, ceux qui s’en réclament lui font dire ce qu’il n’a jamais dit.

2. Où porte le coup

Pour comprendre où le coup porte, revenons à ce que Hilbert voulait faire. Nous l’avons vu dans l’épisode précédent : il distinguait deux étages dans les mathématiques. En bas, les mathématiques finitaires, pourvues d’un contenu concret : des signes que l’on voit, des suites de longueur finie que l’on compte, des opérations en un nombre fini d’étapes que l’on vérifie directement. En haut, les objets infinis de l’analyse classique et de la théorie des ensembles, qu’il appelait les éléments idéaux.

L’étage supérieur ne se compose pas d’accessoires dont on pourrait se passer. On y trouve ces ensembles de l’épisode 13 dont on n’aurait jamais fini de compter les éléments, les objets que les axiomes ont de nouveau délimités dans l’épisode 15, tout le calcul différentiel et intégral, toute l’analyse moderne. Y renoncer reviendrait à abandonner une grande partie des mathématiques acquises en deux cents ans. Brouwer demandait précisément de retrancher ce qui n’avait pas de sens constructif. La plupart des mathématiciens s’y refusaient.

Hilbert propose de conserver cet étage, à condition de s’en porter garant. Partir de l’étage inférieur pour démontrer que l’étage supérieur ne produira jamais de contradiction.

Le mot « contradiction » peut faire penser à une erreur de calcul. Il désigne bien davantage. Un système est contradictoire lorsqu’il permet de démontrer un énoncé aussi bien que sa négation. Dans la logique usuelle, le dommage n’est alors plus local : le système entier devient inutilisable. De deux énoncés contradictoires, on peut déduire n’importe quel énoncé. Et pouvoir tout démontrer revient à ne plus rien démontrer.

Hilbert ne demande donc pas une vérification supplémentaire destinée à repérer les erreurs. Il veut un certificat garantissant que cette machinerie ne produira jamais de contradiction. Le certificat lui-même doit être établi par les moyens les plus sûrs, sans faire appel aux objets dont il est précisément chargé de garantir l’usage.

L’exigence est sobre, et parfaitement nette. On ne demande ni si les objets mathématiques existent vraiment ni si l’infini est légitime. On demande une seule chose : à force de poursuivre les calculs selon ces règles, risque-t-on de finir par obtenir que zéro est égal à un ?

À Bologne, en 1928, Hilbert se montre encore très optimiste : à ses yeux, le problème de la cohérence de l’arithmétique approche de sa solution. Ackermann a fait des tentatives importantes dans les années 1920. On découvrira ensuite des lacunes dans ces démonstrations.

Voilà ce que viennent atteindre les quelques phrases de septembre 1930.

3. Transformer la syntaxe en nombres

Voici le seul passage de cet épisode qui réclame vraiment toute l’attention du lecteur. Il tient à une seule opération. Commençons par distinguer deux niveaux. De quoi parle l’arithmétique formalisée ? Des entiers naturels, de l’addition, de la multiplication, et d’énoncés sur les nombres. « Un plus un égale deux » appartient à ce premier niveau.

L’autre niveau est celui où l’on se place lorsqu’on parle du système depuis l’extérieur. Cette suite de signes est une formule bien formée. Cette ligne est un axiome. Ces quelques dizaines de lignes constituent une démonstration. Telle formule est démontrable. On appelle généralement cela la métamathématique : elle parle de signes et de démonstrations, pas de nombres.

Le geste de Gödel consiste à traduire le second niveau dans le premier. Comment s’y prend-il ?

On attribue d’abord un numéro à chaque symbole élémentaire du langage formel.

Puis on code toute une suite de symboles, autrement dit une formule, par un seul nombre.

Puis on code à son tour par un nombre une suite de formules, qui pourrait constituer une démonstration.

Le choix du codage n’a rien de mystérieux. On en a inventé bien d’autres depuis, sans changer le résultat. Deux exigences comptent : le code doit permettre de retrouver sans ambiguïté ce qu’il code, et les opérations nécessaires à ce décodage doivent relever du calcul élémentaire. Il n’y a pas de raccourci plus simple qui dise exactement cela. Mais on peut retenir cette idée : si l’on peut tout ranger dans le code, puis tout en ressortir, on n’a perdu aucun signe.

Une fois le codage effectué, voici ce qui se passe. « Ceci est une formule bien formée » devient « ce nombre possède telle propriété ». « Ceci est un axiome » devient une autre propriété d’un nombre. « Ce nombre code une démonstration dont la dernière ligne est précisément l’énoncé codé par cet autre nombre » devient une relation entre deux nombres.

Ces propriétés et ces relations numériques peuvent toutes s’exprimer dans une arithmétique suffisamment forte. La raison en est très simple : vérifier une démonstration formelle est déjà, par nature, un travail mécanique, fini, qui se fait étape par étape.

L’arithmétique continue de ne parler que des entiers naturels. Elle n’a pas acquis le don de la parole. Ce qui a changé, c’est que certains entiers servent désormais aussi de noms à des formules et à des démonstrations. Un énoncé arithmétique sur les nombres peut donc exprimer indirectement qu’un certain énoncé possède une démonstration, ou qu’aucun nombre ne code une démonstration de cet énoncé.

Il manque encore une étape, la plus ingénieuse : coder elle aussi, en termes arithmétiques, l’opération qui consiste à substituer le code d’un énoncé à l’intérieur de cet énoncé même. On peut alors construire un énoncé dont le contenu arithmétique correspond exactement à ceci : aucun entier naturel ne code une démonstration de cet énoncé.

Les manuels en donnent souvent une formule à retenir : cet énoncé affirme qu’il est lui-même indémontrable. Le raccourci est utile, à condition de ne pas le prendre pour le contenu littéral de l’énoncé de l’article de 1931. Celui-ci parle, du début à la fin, d’entiers naturels, et d’une relation arithmétique entre codage et démonstration. Il n’est pas du même ordre que « cette phrase est fausse » dans le langage courant. C’est précisément pour cela qu’il ne fait pas immédiatement surgir une contradiction au sein d’un système cohérent.

Voilà le sens exact du titre de cet épisode. L’arithmétique n’a pas pris conscience d’elle-même. Les signes et les démonstrations ont été codés par des nombres, et une partie de ce qu’on disait jusque-là de l’extérieur a pu passer à l’intérieur.

4. Trois conditions

Nous pouvons maintenant énoncer le résultat. L’article paraît en 1931 dans le volume 38 d’une revue mensuelle de mathématiques et de physique. Il occupe vingt-six pages dans la pagination originale et porte la mention « reçu le 17 novembre 1930 ». Son titre se traduit, à peu près, par « Sur les propositions formellement indécidables des Principia Mathematica et des systèmes apparentés, première partie ». Les Principia Mathematica sont ici les trois volumes de Whitehead et Russell, et non les principes des mathématiques au sens général. « Systèmes apparentés » indique que la démonstration dépasse ce seul dispositif symbolique : elle s’étend à une classe assez large d’arithmétiques formalisées et de théories des ensembles. Quant à « première partie », ce n’est pas une formule décorative. Gödel avait envisagé une suite, qu’il n’a finalement pas écrite comme prévu.

La formulation courante aujourd’hui est, en substance, la suivante : pour toute théorie formelle cohérente, effectivement axiomatisable et capable d’exprimer suffisamment d’arithmétique élémentaire, il existe un énoncé de son propre langage tel que la théorie ne peut démontrer ni cet énoncé ni sa négation.

Trois conditions. Aucune ne peut disparaître. Prenons-les une à une.

Pourquoi la cohérence ? Nous l’avons déjà vu : un système qui permet de déduire une contradiction permet de tout déduire. Y demander s’il existe des énoncés indémontrables n’a donc aucun sens. Gödel ne dit pas qu’il existe des propositions indépendantes, que le système soit contradictoire ou non. Il dit que même un système qui n’a pas explosé de l’intérieur ne peut atteindre la complétude.

L’axiomatisation effective empêche que les axiomes et les démonstrations soient fixés d’avance par une liste de vérités à laquelle personne n’aurait accès. À strictement parler, la formulation moderne n’exige pas un algorithme capable de décider directement si une formule donnée est un axiome : il suffit que les axiomes, ou les théorèmes, puissent être énumérés de façon effective, un à un. Si l’ensemble des axiomes est effectivement énumérable sans être nécessairement décidable, on peut joindre à chaque démonstration une attestation finie du moment où chacun des axiomes utilisés apparaît dans l’énumération. Vérifier la démonstration entière reste alors une opération mécanique finie. Et l’on peut ainsi exprimer en arithmétique qu’un certain nombre code une démonstration.

Un contre-exemple montre mieux que tout ce que cette condition écarte. Réunissons, pour en faire une théorie, tous les énoncés arithmétiques vrais dans les entiers naturels standard. En un certain sens, cette théorie est complète : elle donne la bonne réponse pour chaque énoncé. Mais cette liste n’est justement pas une théorie effectivement axiomatisable. On ne peut pas mettre la main dessus.

La condition de force suffisante demande à la théorie assez d’arithmétique élémentaire pour prendre en charge le codage décrit plus haut : manipuler des suites finies, effectuer des substitutions et des calculs élémentaires, représenter des relations telles que « ce nombre est le code d’une démonstration de cet énoncé ».

Nul besoin de calcul différentiel et intégral, d’analyse réelle ou de théorie avancée des nombres. Le seuil est étonnamment bas.

Jusqu’où peut-on l’abaisser ? Ce sera pour un autre épisode. Retenons seulement ce qui marque ce seuil : il ne s’agit pas de contenir beaucoup de mathématiques supérieures, mais de savoir déjà coder des calculs très élémentaires et de la syntaxe finie.

Cette formulation nette n’est pas celle que l’on trouve telle quelle dans l’article de 1931. Pour conclure qu’on ne peut démontrer ni l’énoncé ni sa négation, la preuve originale de Gödel utilisait une condition plus forte que la simple cohérence. En 1936, Rosser modifie l’énoncé autoréférentiel et ramène l’hypothèse à la cohérence ordinaire. Sous le nom qui figure aujourd’hui dans les manuels, il y a donc en réalité deux hommes.

Les trois conditions sont posées. Reste un mot dont nous n’avons pas encore parlé : « vrai ». Le premier théorème établit, au niveau le plus fondamental, qu’un énoncé n’est ni démontrable ni réfutable dans une théorie donnée. Pour dire s’il est vrai dans les entiers naturels standard, il faut préciser l’interprétation et les hypothèses adoptées à l’extérieur de la théorie. Pour l’énoncé de Gödel construit de la manière habituelle, la cohérence de la théorie suffit à établir, de l’extérieur, sa vérité dans les entiers naturels standard ; nul besoin de supposer en plus que tous les théorèmes de cette théorie sont vrais. Mais cela ne nous donne pas automatiquement une connaissance inconditionnelle de cette cohérence. Écrire « indécidable dans ce système » est donc exact. Écrire « l’humanité a contemplé une vérité absolue à jamais impossible à démontrer » est une tout autre affaire.

5. Trois jours

Le second théorème dit, en substance, qu’une théorie arithmétique cohérente, effectivement axiomatisée et suffisamment forte ne peut démontrer en son propre sein : « Ce système ne produira pas de contradiction. » Cela vaut pour les codages usuels des démonstrations, les prédicats de démontrabilité satisfaisant les conditions de dérivabilité correspondantes et les énoncés standard de cohérence.

Les mots à souligner sont « en son propre sein ». Le théorème ne dit absolument pas qu’on ne peut jamais démontrer la cohérence d’une théorie. Une théorie plus forte peut parfaitement démontrer la cohérence d’une théorie plus faible ; la théorie de la démonstration en fera une pratique courante. C’est une boucle bien précise qui est interdite : lorsqu’une théorie est assez forte pour coder ses propres démonstrations, et qu’elle est effectivement cohérente, elle ne peut établir, avec les moyens ordinaires qu’elle reconnaît elle-même, ce certificat général de garantie sur son propre fonctionnement.

Le travail de Gentzen, en 1936, éclaire exactement ce point. Il donne une démonstration de la cohérence de l’arithmétique de Peano au moyen d’une induction transfinie allant jusqu’à un certain ordinal. Il lui faut des principes plus forts, dont l’arithmétique de Peano ne peut entièrement justifier l’usage de l’intérieur. Il ne réfute donc pas le second théorème. Il fait précisément ce que celui-ci autorise : se placer dans une théorie plus forte pour garantir une théorie plus faible.

Ce théorème atteint le programme de Hilbert dans son ambition la plus haute. Mais il y a un « si », et ce « si » n’était pas considéré à l’époque comme une question réglée.

Pour que le second théorème condamne directement ce programme, il faut d’abord admettre que les raisonnements finitaires, tenus pour les plus sûrs, peuvent être fidèlement formalisés dans le système arithmétique même que l’on étudie.

En janvier 1931, Bernays écrit à Gödel en des termes prudents. Von Neumann tend à penser que tous les raisonnements finitaires peuvent être ainsi formalisés ; ni Bernays ni Gödel ne considèrent alors la question comme tranchée. Ce n’est que vers le milieu des années 1930, à mesure que l’on admet plus largement que les méthodes finitaires traditionnelles se formalisent au moins dans une arithmétique assez faible, que les logiciens s’accordent généralement sur la portée de ce coup.

On ne peut donc pas présenter « en 1931, Gödel a mis d’un seul coup fin au programme de Hilbert » comme le jugement unanime des intéressés à ce moment-là. Von Neumann a très tôt tiré une conclusion fortement négative. Bernays et Gödel ont d’abord laissé ouverte la question de savoir si toutes les méthodes finitaires étaient formalisables.

Il faut aussi rappeler ce qu’on omet souvent : seul l’objectif le plus ambitieux a échoué. Tout ce que cette entreprise avait mis en mouvement n’a pas disparu avec lui. Étudier les démonstrations formelles elles-mêmes, éliminer les éléments idéaux, comparer la force exacte de différentes théories : toute cette voie de recherche reste ouverte. La théorie moderne de la démonstration est, pour une bonne part, ce qui a continué de pousser sur cette tradition après le choc. Elle n’en est pas la pierre tombale.

L’épisode von Neumann est le mieux documenté de toute l’histoire, grâce à des lettres datées. Après la discussion de Königsberg, il poursuit sa réflexion et aperçoit une conséquence plus tranchante encore : un système arithmétique suffisamment fort, s’il est cohérent, ne peut démontrer sa propre cohérence suivant le codage interne naturel. Le 20 novembre 1930, il écrit à Gödel pour lui annoncer qu’il a trouvé ce corollaire digne d’être signalé.

Or le manuscrit de Gödel était parvenu à la revue le 17 novembre. Le résultat y figurait déjà.

Trois jours d’écart.

Ces trois jours fixent une chose sans ambiguïté : le manuscrit soumis par Gödel a la priorité chronologique. Von Neumann, qui n’avait pas reçu les détails de cette partie du travail, a découvert indépendamment et avec une rapidité remarquable la même conséquence. Cette priorité de soumission n’efface pas sa découverte indépendante ; elle n’en fait pas non plus le résultat d’un travail à deux. Quant au récit selon lequel von Neumann aurait trouvé le théorème le premier et Gödel l’aurait ajouté après coup, ces trois jours lui barrent la route.

« Sur place, seul von Neumann avait compris. » La formule est belle, mais aucun relevé des participants ne permet de l’établir. Les documents attestent une chose, et une seule : von Neumann a très vite saisi les conséquences profondes du résultat, et sa correspondance en apporte une preuve particulièrement nette. Ce que les quelques dizaines d’autres personnes avaient compris, et jusqu’à quel point, les sources ne le disent pas.

6. Comment la nouvelle a circulé

L’article de 1931 n’est pas un manuscrit qu’un jeune homme aurait expédié dans le vide. La Vienne où Gödel vit alors forme un réseau très dense. À l’université, Hans Hahn est à la fois son directeur et l’un des liens entre logique mathématique, fondements des mathématiques et Cercle de Vienne. Gödel a aussi étudié la logique auprès de Carnap. Depuis ses années d’études, il assiste aux discussions du groupe réuni autour de Schlick. Mais y assister ne signifie pas y adhérer : sa philosophie prendra par la suite une direction très éloignée de celle de Carnap.

On oublie souvent un autre milieu : le séminaire de mathématiques de Menger. Il est davantage tourné vers les mathématiques et croise le cercle philosophique de Schlick, sans se confondre avec lui. Ce séminaire publie son propre recueil de travaux, qui accueillera plus tard de courts articles de Gödel. Notes de recherche, séminaires, congrès, revues : à Vienne, ces différents circuits s’emboîtent et les idées y circulent vite.

La nouvelle commence donc à circuler à Vienne, pas à Königsberg. Les premières dates sont très rapprochées : le 26 août 1930, Gödel confie le résultat essentiel à Carnap et à quelques autres ; le 7 septembre, il le mentionne publiquement dans la discussion générale de Königsberg ; en novembre, il soumet l’article ; en 1931, celui-ci paraît. Il s’agit de quatre actes distincts : une confidence privée, une intervention en congrès, une soumission et une publication. On ne peut ni les intervertir ni leur donner à tous le nom de « première annonce ».

Le jour exact où Hilbert lui-même en a eu connaissance reste impossible à fixer.

La correspondance entre von Neumann, Bernays et Gödel prouve que le milieu hilbertien a été rapidement informé. Elle ne permet pas d’en déduire à quelle date Hilbert a lu le résultat, en a entendu parler ou en a réellement compris la portée. On n’a retrouvé aucun échange à ce sujet entre Gödel et Hilbert. On ne peut même pas établir avec certitude qu’ils se soient officiellement rencontrés une seule fois.

La réaction le plus souvent citée nous vient de Bernays : Hilbert se serait mis en colère en apprenant le second théorème. C’est un témoignage rapporté bien plus tard, pas une page du journal de Hilbert, une lettre ou un procès-verbal rédigé le jour même.

Une trace publique claire, laissée par Hilbert lui-même, apparaît beaucoup plus tard, et n’a rien de théâtral. Une brève remarque figure dans la préface du premier volume des Fondements des mathématiques, paru en 1934. C’est l’un de ses très rares textes publics qui abordent directement la question, peut-être même le seul. Il n’y concède pas sa défaite : il continue de défendre son programme et cherche comment l’adapter. L’intégration vraiment systématique de ces résultats se fera dans le second volume, principalement rédigé par Bernays et publié en 1939.

Lorsqu’on fait entrer quelqu’un dans l’histoire, ce qu’on lui ajoute le plus volontiers après coup, c’est une expression sur le visage. Ici, les documents suffisent à dire ce qu’il a écrit ensuite. Ils ne suffisent pas à lui prêter une mine le jour même.

Chez les autres, la réception mêle compréhension rapide, malentendus et résistance. Zermelo en est le cas difficile le plus célèbre. Sa correspondance avec Gödel montre qu’il a contesté aussi bien le résultat que l’étendue de sa portée, obligeant Gödel à répondre pour clarifier les choses. Encore faut-il distinguer les objections : ne pas comprendre une étape de la démonstration, refuser l’interprétation que Gödel donne du résultat, mettre en cause certaines hypothèses métamathématiques. Aucune de ces trois attitudes ne revient à découvrir une erreur mathématique dans la preuve. Cela, personne ne l’a fait.

Vers le milieu des années 1930, après les cours donnés par Gödel à Princeton en 1933 et 1934 et les avancées de Church, Kleene et Rosser sur la calculabilité, le noyau mathématique du théorème fait déjà partie du savoir commun de la jeune communauté des logiciens mathématiciens.

On peut donc résumer ainsi le rythme de sa réception : les meilleurs logiciens l’ont, pour l’essentiel, assimilé en quelques mois ou quelques années. L’interprétation de sa portée dans l’ensemble de la culture mathématique a pris beaucoup plus longtemps. Et sur ce second plan, les débats ne sont toujours pas clos.

7. Trois tours de passe-passe

Ce théorème figure parmi les plus souvent invoqués de l’histoire des mathématiques. Beaucoup de ses interprétations abusives se ramènent à trois tours de passe-passe.

Premier tour : remplacer « relativement à une théorie donnée » par « absolument ».

On entend très souvent que Gödel aurait démontré l’existence de vérités mathématiques que l’humanité ne pourra jamais connaître. Le théorème établit une impossibilité de démontrer relativement à une théorie formelle déterminée. Passons à une théorie plus forte : l’énoncé qui était indépendant peut devenir un théorème. On peut même l’ajouter directement comme axiome.

Autre formule courante : Gödel aurait trouvé une proposition particulière qui ne pourra jamais être démontrée. Non. À chaque théorie remplissant les conditions correspond son propre énoncé. Il ne s’agit pas d’une seule et même proposition qui resterait indémontrable dans toutes les théories.

Deuxième tour : remplacer « démontrabilité formelle » par « connaissance humaine ».

D’où cette formule : Gödel aurait démontré que la vérité ne se démontre pas. Elle escamote deux choses à la fois : le système dans lequel on cherche une démonstration, et la différence même entre « être vrai » et « être démontrable ».

Ou encore : Gödel aurait démontré qu’une machine ne peut pas penser comme un être humain. Le théorème porte sur une théorie formelle fixe. Assimiler la capacité mathématique humaine à un système formel fixe et cohérent constitue déjà une hypothèse philosophique supplémentaire. Le théorème ne la fournit pas.

Et voici l’argument qui sert à tout : il suffirait à l’être humain de sortir du système pour voir que l’énoncé est vrai ; il serait donc toujours supérieur au système. Or, reconnaître cet énoncé depuis l’extérieur mobilise généralement déjà une certaine connaissance de la cohérence du système, ou de la vérité de ce qu’il affirme. Il n’existe pas de procédé uniforme et gratuit pour « sortir » ainsi. De plus, la théorie plus forte depuis laquelle on raisonne rencontrera à son tour le même obstacle, sous une forme qui lui sera propre.

Troisième tour : remplacer « une certaine classe de systèmes suffisamment forts » par « tous les systèmes », voire par « toute activité qui fait appel au raisonnement ».

« Tous les systèmes formels sont incomplets » : c’est tout simplement faux. La validité en logique propositionnelle est décidable, et les calculs usuels de cette logique sont sémantiquement complets. Cela ne veut pas dire pour autant qu’un ensemble quelconque de prémisses permette, pour chaque variable propositionnelle, de démontrer celle-ci ou sa négation. L’arithmétique avec addition mais sans multiplication est complète et décidable. La théorie du premier ordre des corps réels clos, dans le langage de l’addition, de la multiplication et de l’ordre, est elle aussi complète et décidable ; elle n’est pas toute l’analyse réelle, avec ses fonctions et ses ensembles arbitraires. La géométrie euclidienne élémentaire du premier ordre possède également des axiomatisations usuelles complètes et décidables.

« Tout système comportant un nombre fini d’axiomes est nécessairement incomplet » : faux également. Ce qui compte n’est pas le nombre d’axiomes, mais la capacité du système à exprimer des calculs.

« Les mathématiques sont incomplètes » : l’erreur consiste ici à faire des « mathématiques » un système axiomatique effectif. Beaucoup de théories mathématiques sont complètes. Et faire des mathématiques, c’est aussi pouvoir changer d’axiomes, étudier des modèles et construire des théories plus fortes.

Plus loin encore, on baptise « systèmes » le droit, les constitutions, les statuts d’entreprise, le langage ou les institutions sociales, puis on leur applique directement le théorème. C’est ici sur le sens du mot « système » que se fait le tour de passe-passe. Appeler une constitution un système ne la transforme pas en théorie formelle effectivement axiomatisable, capable d’interpréter l’arithmétique élémentaire.

Ces trois tours de passe-passe semblent porter sur trois objets différents. Le geste est toujours le même : faire disparaître une précision. Relativement à quelle théorie ? Dans quel langage ? Pour quelle classe de systèmes ? Il suffit de taire une seule de ces restrictions pour donner à la phrase une portée beaucoup plus vaste.

La prochaine fois qu’on vous dira que Gödel a démontré quelque chose, vous pourrez poser quatre questions : quel est le langage formel ? Les axiomes sont-ils donnés de façon effective ? La théorie est-elle cohérente ? Où interprète-t-elle une portion suffisante de l’arithmétique des entiers naturels ? Tant qu’on ne sait pas répondre, on n’est pas encore fondé à invoquer le théorème. Ce n’est pas chercher la petite bête. Ces quatre questions résument les conditions à vérifier pour appliquer les théorèmes modernes d’incomplétude ; elles ne dispensent pas de distinguer la version originale de 1931 du renforcement apporté ensuite par Rosser.

8. Ce qu’en disait Gödel

Reste enfin à interroger Gödel lui-même. Car le personnage qui circule le plus volontiers est celui d’un homme qui aurait annoncé, par son théorème, la faillite de la raison humaine.

Le Gödel des archives est très loin de ce portrait. Il attribuait bien une portée philosophique à son théorème et s’efforçait réellement d’en tirer des conséquences philosophiques. Il ne pensait pas qu’un théorème mathématique doive parler exclusivement de mathématiques. Au contraire, ses convictions le portaient fortement vers le réalisme mathématique et le rationalisme.

Le document essentiel est sa conférence de 1951. Il y avance une alternative : ou bien l’esprit humain dépasse, en un certain sens, toute machine finie ; ou bien il existe des problèmes de théorie des nombres qui sont absolument insolubles même pour la connaissance mathématique humaine.

Sa conclusion n’est pas le premier terme de l’alternative. Sa conclusion est qu’au moins l’un des deux est vrai.

Il était lui-même très insatisfait du second et manifestement favorable au premier. Il n’a pourtant pas présenté sa préférence comme un résultat déjà démontré par le théorème. La conférence, en outre, n’a pas été publiée de son vivant : elle n’est parue que lors de l’édition de ses œuvres complètes. Une exploration philosophique dans un manuscrit de conférence resté inédit ne peut être annexée aux conclusions officielles de l’article de 1931.

Plus curieux encore : ses carnets philosophiques tardifs conservent une sorte de devise fort peu pessimiste, selon laquelle il existe des moyens systématiques de résoudre les problèmes.

L’année 1931 ne l’a pas non plus enfermé dans l’étude de son propre théorème. Il obtient son habilitation à enseigner à l’université en 1932, devient Privatdozent à l’université de Vienne en 1933, puis publie des travaux sur la logique intuitionniste, la logique modale, le problème de la décision et la longueur des démonstrations. Dans la seconde moitié des années 1930, il se tourne vers la théorie des ensembles. Il élabore la méthode de l’univers constructible et démontre la cohérence relative de l’axiome du choix et de l’hypothèse généralisée du continu par rapport à la théorie des ensembles de Zermelo-Fraenkel.

Sa vie personnelle, elle, se dégrade. Son directeur, Hahn, meurt. En 1936, Schlick, figure centrale du Cercle de Vienne, est assassiné par un étudiant. Gödel traverse lui-même, durant ces années, de graves crises de santé à répétition. Après l’Anschluss de 1938, la réorganisation des universités autrichiennes rend caduc son ancien statut d’enseignant. Pour obtenir une nouvelle autorisation d’enseigner, il doit se soumettre aux vérifications politiques et raciales du régime nazi. En 1940, il quitte l’Autriche avec sa femme pour les États-Unis.

Un homme a démontré un résultat qui impose une limite, et il garde longtemps une confiance rationaliste dans les capacités de la connaissance mathématique. Il n’y a là aucune contradiction : ce que son théorème limite est beaucoup plus restreint que ce qu’on lui fera dire par la suite.

Que retenir, alors, de cet épisode ? Si le théorème a été si souvent détourné, c’est précisément parce qu’il est si solide. Et s’il est solide, c’est que ses hypothèses sont fixées avec une extrême rigueur. Trois conditions. Pas une de moins.

Chaque emprunt abusif répète la même opération : retirer l’une des trois. La phrase sonne aussitôt beaucoup mieux et se prête à bien plus d’usages. Le prix à payer, c’est qu’elle n’est plus un théorème.

La portée d’un énoncé dépend de ses hypothèses. Moins on en précise, plus l’énoncé semble avoir de portée, et moins il dit réellement.

Dans sa conférence, Gödel avait lui-même une réponse qu’il préférait nettement. Il n’a pourtant écrit qu’une alternative. Au moins sur cette alternative décisive, il n’a pas fait de sa préférence personnelle un théorème.

Des trois conditions, nous en avons posé une sans la développer : être suffisamment fort. Le seuil est étonnamment bas. Savoir effectuer quelques calculs très élémentaires sur les entiers et coder la syntaxe suffit déjà.

Et si l’on prenait le chemin inverse ? Si une théorie acceptait de s’affaiblir un peu, assez pour ne plus pouvoir prendre en charge ce codage, que se passerait-il ?

Ce sera le sujet du prochain épisode. La réponse est que la clôture s’achète, et que son prix peut se calculer.

On continue de compter. Ce qui compte comme mathématiques, en revanche, n’a jamais été tout à fait réglé.

Sources historiques et lectures complémentaires

Les références qui suivent documentent les détails historiques et les divergences d’interprétation évoqués dans cet épisode. Les notices de collections, la littérature ancienne et les reconstitutions modernes ne constituent pas le même type de preuve.

• Gödel : référence bibliographique de l’article original de 1931
• Wilfried Sieg : introduction à la correspondance de Gödel
• Mathematical Association of America : l’allocution radiophonique de Hilbert et la connaissance mathématique
• Solomon Feferman sur la correspondance entre Bernays et Gödel
• Étude historique de la découverte du second théorème d’incomplétude par von Neumann
• Encyclopédie de philosophie de Stanford : les théorèmes d’incomplétude de Gödel
• Solomon Feferman : existe-t-il des problèmes absolument insolubles ?
• Université de St Andrews : biographie de Gödel
• Institute for Advanced Study de Princeton : Gödel