Gödel, les limites de la clôture

I. Vienne

1906. Kurt Gödel naît à Brünn, dans l'Empire austro-hongrois.

Enfant, sa famille le surnomme « Monsieur Pourquoi ». Tout appelle une question. À peine la réponse donnée, une autre question arrive.

Il emportera cette habitude dans les mathématiques.

À l'université de Vienne, il se tourne vers les mathématiques et la logique. Dans la Vienne des années 1920, beaucoup reprennent la question des fondements du savoir. Le Cercle de Vienne veut clarifier les sciences par l'expérience et l'analyse logique : les affirmations sur le monde doivent se prêter à l'épreuve de l'expérience, tandis que la logique et les mathématiques sont tenues pour analytiques. Les grands discours qu'on ne peut ramener à un tel sol disent-ils seulement quelque chose ?

Gödel participe à certaines de ces discussions sans adopter toutes les positions du Cercle. Retenons d'abord ce jeune homme qui écoute : à une époque confiante dans son pouvoir de clarification, il continue d'interroger les outils mêmes qui servent à clarifier.

En 1931, il publie son article sur l'incomplétude. Il fête cette année-là ses vingt-cinq ans. Ce qu'il a découvert n'est pas l'échec de la logique, mais une limite propre à une certaine classe de théories formelles.

II. Le rêve de Hilbert

Pour comprendre ce que fait Gödel, il faut d'abord comprendre dans quoi il porte le ciseau.

David Hilbert est l'un des mathématiciens les plus influents de son temps. Ses vingt-trois problèmes de 1900 ouvrent de nombreuses voies aux recherches à venir. Il refuse que les mathématiques s'arrêtent devant un « nous ne saurons jamais » : le problème est là, il faut chercher sa solution ou démontrer l'impossibilité de ce qu'il demande.

L'un des objectifs centraux de ce qu'on appellera le programme de Hilbert est de formaliser les mathématiques, puis de démontrer, par des méthodes finitistes jugées sûres, qu'elles ne produisent pas de contradiction. S'y rattachent des ambitions de complétude et de décision mécanique : un ensemble de règles peut-il régler toutes les questions de son domaine ? Ces objectifs sont liés, mais ne constituent pas une seule et même exigence.

Posons cette ambition sur une table. Disposons les axiomes, écrivons les règles, rendons chaque étape vérifiable. Si toutes les vérités arithmétiques pouvaient être atteintes par ces règles, sans que celles-ci entrent jamais en contradiction, la table semblerait porter un monde sans omission.

Quel immense rêve de construction. Ici, la « construction » désigne d'abord l'ordre des axiomes, des règles et des preuves que nous édifions. Des prémisses aux conclusions, le chemin est visible, chaque pas trouve un appui.

Kant avait tracé en philosophie la limite de la chose en soi. Dans ce rêve mathématique, une question devient pourtant irrésistible : puisque nous fixons nous-mêmes les formes pures, comment quelque chose pourrait-il nous échapper ? C'est le rapprochement proposé par cet essai, non la possibilité d'interchanger les problèmes des deux hommes.

La confiance de Hilbert a une grande portée, mais les voies des fondements mathématiques restent disputées. Le monde entier ne partage pas un seul rêve.

Les deux théorèmes de Gödel entament le noyau le plus dur de cette ambition. La recherche des fondements ne s'achève pas. Un certain espoir d'en finir une fois pour toutes doit changer.

III. Le premier théorème d'incomplétude

En 1931, Gödel publie « Sur les propositions formellement indécidables des Principia Mathematica et des systèmes apparentés I ». L'article d'un jeune homme modifie ce qu'une preuve peut promettre.

Aujourd'hui, on énonce généralement le premier théorème avec le renforcement apporté ensuite par Rosser :

Si les axiomes d'une théorie formelle peuvent être effectivement énumérés par un programme, si elle contient assez d'arithmétique élémentaire et si elle est cohérente — ne démontrant jamais à la fois un énoncé et sa négation —, alors certains énoncés arithmétiques ne peuvent y être ni démontrés ni réfutés. C'est l'incomplétude.

Une fois la théorie fixée, cette limite ne tient pas au manque d'intelligence des mathématiciens. Dans l'interprétation usuelle des entiers naturels, vérité et démontrabilité sont distinctes : des énoncés arithmétiques vrais peuvent n'avoir aucune preuve dans cette théorie.

Il ne s'agit pas d'une preuve introuvable aujourd'hui, qui attendrait une nuit de travail supplémentaire. Tant que les axiomes et les règles ne changent pas, cette preuve n'existe pas. Une théorie plus forte pourra régler certaines questions auparavant ouvertes ; si elle remplit toujours les mêmes conditions, elle aura à son tour ses énoncés indécidés.

Comment Gödel s'y prend-il ? Il code les formules et les preuves par des entiers naturels, afin que l'arithmétique puisse parler des preuves. Il construit ensuite un énoncé arithmétique dont le sens approximatif est : « Il n'existe pas de preuve de moi dans cette théorie. » Ce n'est pas un paradoxe verbal, mais une construction mathématique dont chaque étape peut être vérifiée.

Si cet énoncé possédait une preuve dans la théorie, la relation de preuve ainsi codée entrerait en conflit avec l'absence de preuve affirmée par l'énoncé. La cohérence exclut donc une telle preuve.

De l'extérieur de la théorie, en supposant sa cohérence, il n'existe effectivement pas de telle preuve : l'énoncé de Gödel est donc vrai pour les entiers naturels usuels. Pour exclure également une preuve de sa négation, l'argument original utilisait une condition plus forte. Rosser modifiera la construction et ramènera cette exigence à la cohérence ordinaire.

Ainsi, sous les conditions d'une axiomatisation effective et d'une puissance arithmétique suffisante, cohérence et complétude ne peuvent être réunies. Les conditions comptent : des théories plus faibles peuvent être complètes. Prendre pour axiomes tous les énoncés arithmétiques vrais donne aussi une théorie cohérente et complète, mais prive de toute procédure permettant d'énumérer effectivement ces axiomes.

L'ambition hilbertienne rencontre ici une limite. Les mathématiques n'ont pas épuisé ce qu'elles ont à dire. Aucun ensemble fixe de règles de cette sorte ne peut tout dire de l'arithmétique.

IV. Le second théorème d'incomplétude

Le second théorème ramène la question au sol sur lequel se tient celui qui démontre.

Une théorie effectivement axiomatisée, assez forte en arithmétique et satisfaisant les conditions usuelles relatives aux preuves ne peut, si elle est cohérente, démontrer en son sein l'énoncé arithmétique qui exprime sa cohérence de la manière standard.

C'est comme vouloir se soulever en prenant appui sur ses propres épaules. L'image est brève ; les conditions du théorème restent indispensables.

Hilbert veut assurer les mathématiques par une preuve fiable de leur cohérence. Le résultat de Gödel borne cet espoir : si les raisonnements finitistes employés peuvent déjà s'exprimer dans la théorie examinée, ils ne permettront pas d'accomplir cette tâche. On peut encore chercher une preuve de cohérence relative dans un cadre plus fort, mais il faudra alors expliciter les raisons de faire confiance à ce nouveau cadre. Les mathématiques ne s'arrêtent pas et ne perdent pas tout fondement.

Une certaine forme de garantie de soi ne peut être fournie par certains outils internes. Lorsque nous transportons cette pensée vers une vie humaine, nous passons de la preuve à la métaphore.

On résume souvent l'attitude de Socrate par « savoir que l'on ne sait pas ». Ses questions défont la posture de celui qui se croit savant. Il s'agit de la manière dont une personne se tient devant ce qu'elle sait.

La question de Gödel est différente : beaucoup plus strictement définie, beaucoup plus étroite aussi. Les lire ensemble rend néanmoins une posture moins assurée : croire qu'un exposé de soi suffisamment bien ordonné fournit à lui seul toutes les garanties nécessaires.

Dans la fable de Zhuangzi, on perce sept ouvertures et Hundun meurt. Même une mise en forme bien intentionnée peut détruire la vie qui lui fait face. Ce prix ne se convertit pas en contradiction logique.

Chez Gödel, si l'on conserve des règles effectives, une arithmétique suffisante et la cohérence, on doit abandonner l'exigence que ces règles décident de tout. C'est une limite précise, non l'affirmation que tout ce qui est complet doit s'effondrer.

Hundun meurt dans la fable, mais une question reste à ceux qui la lisent : qu'avons-nous laissé de côté en mettant de l'ordre ? Cet essai emprunte une lumière aux abords du théorème pour éclairer cette question. « Les limites de la clôture » désigne ici un fil de lecture, non un théorème qui réglerait tout.

V. La promenade

En 1940, Gödel et son épouse Adele quittent l'Europe sous domination nazie, gagnent les États-Unis et s'installent à Princeton. Il avait déjà séjourné à l'Institute for Advanced Study.

Son amitié avec Einstein s'y approfondit.

Ils marchent souvent ensemble entre l'Institut et leur domicile. L'un a établi les limites de la formalisation de l'arithmétique. L'autre a changé la manière dont la physique comprend l'espace, le temps et la gravitation. Deux interrogations différentes empruntent le même chemin.

En 1905, la relativité restreinte d'Einstein transforme la représentation newtonienne d'un temps et d'un espace absolus. En 1915, la relativité générale décrit la gravitation par la géométrie de l'espace-temps, et non plus seulement comme une force agissant sur un fond plat. Il est l'un des hommes du XXe siècle qui ont porté le ciseau le plus profond.

Mais devant la théorie quantique, il continue de chercher une description qui ne fasse pas des probabilités le dernier mot.

La mécanique quantique donne des probabilités aux résultats des mesures et impose des limites à la détermination simultanée de la position et de la quantité de mouvement. Ce qu'il faut entendre par réalité physique avant la mesure fait cependant l'objet d'interprétations différentes. « Avant la mesure, il n'y a tout simplement pas de réponse » n'est pas une conclusion commune à tous les physiciens.

L'image d'un Dieu qui ne joue pas aux dés exprime le mécontentement d'Einstein. Avec Podolsky et Rosen, dans leur article de 1935, il demande si la fonction d'onde décrit complètement la réalité physique. Il ne s'inquiète pas seulement du hasard, mais aussi de la possibilité, pour des systèmes éloignés, d'avoir chacun leur réalité propre. Sa recherche tardive de théories du champ unifié ne consiste pas simplement à retrouver une variable manquante.

La « description complète » et la complétude d'une théorie formelle au sens de Gödel répondent ici à des questions différentes. Un théorème mathématique ne peut trancher pour les deux hommes le débat sur la théorie quantique.

Les promeneurs n'ont donc pas à devenir « celui qui a accepté les limites » et « celui qui les refuse jusqu'à la mort ». Tous deux continuent de chercher. Gödel lui-même poursuit ses travaux mathématiques et philosophiques : la découverte de l'incomplétude n'a pas mis fin à ses questions.

L'image garde sa douceur : deux penseurs marchent ensemble, sans devoir préalablement fondre leurs visions du monde en une réponse unique pour être amis. Nul besoin d'ajouter à ces promenades un débat dont nous n'avons pas de trace.

Selon un souvenir souvent rapporté, Einstein aurait dit qu'à la fin de sa vie il allait à l'Institut pour le plaisir de rentrer à pied avec Gödel. Au-delà des grandes théories, il y avait ce bout de chemin.

VI. Mourir de faim

Gödel a longtemps souffert de maladies physiques et psychiques. Dans ses dernières années, ses craintes de persécution deviennent particulièrement graves.

Il redoute que sa nourriture soit empoisonnée. Adele l'aide longtemps à manger, allant jusqu'à goûter les aliments pour lui. Elle est sa femme et un appui essentiel, non un dispositif chargé de faire fonctionner un génie.

En 1977, Adele tombe elle-même gravement malade et doit être hospitalisée. Elle ne peut plus assurer les soins qu'elle lui apportait.

L'alimentation et la santé de Gödel se dégradent davantage. Des amis et des soignants essaient de l'aider. La cruauté de cette histoire n'est pas qu'il ne reste réellement qu'une personne au monde sachant cuisiner. La maladie rend difficile l'acceptation de l'aide qui arrive jusqu'à lui.

Le 14 janvier 1978, Gödel meurt à Princeton de malnutrition et d'inanition. Selon la biographie de Dawson, il ne pèse alors que soixante-cinq livres, soit environ vingt-neuf kilos et demi.

Un homme qui voit une preuve avec une clarté exceptionnelle peut ne pas réussir à sortir de la maladie par la pensée. Comprendre un théorème ne donne pas un corps capable de tout supporter.

Si nous empruntons encore le langage de la « construction », ce qu'il faut regarder ici est la dépendance d'une vie envers les relations et les soins. La maladie altère sa capacité à recevoir de l'aide. Elle n'annule pas son statut de fin, pas plus qu'elle ne constitue un choix philosophique dont il faudrait le blâmer.

Arrêtons-nous donc au chevet du malade sans transformer sa mort en « théorème d'incomplétude fait chair ». Le théorème porte sur les limites de la preuve formelle ; le soin s'adresse à une personne particulière. Aucun raccourci causal ne relie les deux en lieu et place de la médecine et de l'enquête biographique.

La ciguë de Socrate, la croix de Jésus et la faim de Gödel peuvent s'éclairer dans cette série. On ne peut en faire un tableau indiquant à qui chacun faisait confiance et, par conséquent, comment il est mort. Procès, exécution et maladie grave ont des circonstances propres qu'il faut laisser visibles.

La confiance et la peur, la construction et le reste entrent bien dans les vies humaines. À cet endroit, la pensée devrait nous aider à voir davantage la personne, non à n'en garder qu'une illustration de preuve.

VII. La conservation du reste

Gödel peut maintenant prendre place dans cette série.

Socrate creuse jusqu'à une clairière : il retire ce qu'on croyait savoir.
Confucius creuse vers le ren, vers le sol propre à chacun.
Laozi atteint le bord du langage et s'en va dans la légende.
Zhuangzi se retourne vers Hundun et découvre le prix du ciseau.
Kant creuse, puis construit : il borne la connaissance et laisse la chose en soi.
Nietzsche creuse jusqu'au fond : Dieu est mort.
Wang Yangming change de direction : vers l'intérieur, vers le savoir moral inné.
Shakyamuni traverse sur un radeau ; sur l'autre rive, il ne le porte plus.
Jésus sur la croix laisse une voix de pardon.

Gödel apporte à cette compagnie un travail d'un autre ordre. Il ne certifie pas par les mathématiques les neuf vies qui le précèdent. Dans un domaine clairement défini, il démontre une certaine limite.

Socrate refuse de confondre le savoir présumé avec le savoir ; Gödel distingue ce qu'une théorie peut démontrer. Ces deux interrogations ébranlent la suffisance, sans réduire la vie de Socrate à un théorème.

Les ouvertures percées chez Zhuangzi et la mort de Hundun révèlent le coût d'une mise en forme bien intentionnée. Le résultat de Gödel demande de reconnaître que certains objectifs de formalisation ne peuvent être atteints ensemble. La force de cette lecture croisée est d'éclairer leurs limites respectives, non de traduire la fable en équation.

Kant interroge les conditions de la connaissance ; Gödel limite la possibilité, pour certaines théories, de démontrer leur cohérence de l'intérieur. Les mêmes outils ne fournissent pas forcément toutes les garanties du sol qui les porte. On peut entendre cette résonance tout en maintenant la distance entre la chose en soi et la preuve formelle.

Laozi demande comment le langage voile ce qu'il désigne ; Gödel sépare vérité et démontrabilité. L'énoncé indémontrable peut précisément être écrit. Ne pas pouvoir le prouver avec un ensemble de règles n'est pas ne pas pouvoir le dire. Les frontières du langage et de la preuve sont voisines ici, sans se confondre.

Shakyamuni enseigne à ne pas s'attacher au radeau de la traversée ; Gödel rend visibles les limites de règles fixes. Cela peut inviter le lecteur à abandonner l'idolâtrie des outils, sans faire de l'impermanence un résultat mathématique.

Dans l'image assemblée par cette série, ces personnes semblent toucher un mur à des endroits différents. Le mur est la métaphore par laquelle l'auteur les relie. Ce que Gödel laisse effectivement est une preuve aux prémisses définies, vérifiable pas à pas.

La « conservation du reste » est le nom donné ici à ce qui n'a pas été entièrement recueilli, non une loi de conservation démontrée par Gödel. Les mathématiques en fournissent un exemple rigoureux : l'indécidabilité au sein d'une théorie fixe est structurelle, et non due à une recherche trop brève. Cela ne signifie ni qu'aucune réponse n'existe ailleurs, ni, a fortiori, que la vérité n'existe pas.

Les limites de la clôture : entendons par là le refus de laisser la construction devant nous se faire passer pour le monde entier. C'est le rappel que cet essai veut assumer.

Ce n'est pas forcément une mauvaise nouvelle. Ce peut être une raison de recommencer.

Imaginons qu'on nous remette un système parfait, prétendant expliquer toutes les personnes, sans reste ni angle mort. Confucius, Socrate, Jésus, Zhuangzi ne pourraient plus être que des notes de bas de page. Cette série résiste précisément à cette clôture qui retire aux autres le droit de continuer à parler.

Nous voulons préserver le travail du ciseau de chacun, ainsi que chaque ouverture réelle. Non qu'un théorème garantisse la justesse de toute pensée, mais parce qu'aucune vie ne devrait être traitée comme une simple note au bas du système d'autrui.

Il faut du monde à l'entrée du pont. Non pour faire nombre, mais pour que des personnes différentes continuent de se rencontrer, de s'interroger, de se corriger mutuellement. Chacune est une fin, et non un simple moyen. C'est l'engagement éthique de cet essai, pas une conclusion déduite de l'arithmétique.

Gödel a démontré certaines limites des théories formelles. Plus tard, il est mort dans la maladie et la faim. Sa vie n'est pas simplement une annexe au théorème.

Sa preuve est toujours vivante.