L’histoire intellectuelle du XXᵉ siècle est habituellement racontée comme une victoire de la sobriété sur l’excès : après des siècles de métaphysique, de systèmes gigantesques, de discussions sur l’être, Dieu, les essences ou le sens ultime du réel, quelques hommes brillants et plus rationnels que les autres auraient enfin décidé de remettre de l’ordre dans tout ce salmigondis d'idées toutes faites ! La logique remplacerait l’intuition, l’analyse, la spéculation ; quant à la philosophie, elle deviendrait enfin sérieuse.
Au centre de ce récit se trouvent Bertrand Russell et le Cercle de Vienne. Russell voulait reconstruire les mathématiques sur des fondations logiques entièrement transparentes ; le Cercle de Vienne voulait appliquer le même geste à toute la pensée humaine. Leur programme était civilisationnel.
Avec Whitehead, dans Principia Mathematica, Russel veut montrer que les mathématiques pouvaient être entièrement dérivées de principes logiques explicites. Derrière ce projet se cache l'intuition que si les mathématiques peuvent être complètement fondées, alors peut-être que la raison humaine elle-même peut devenir entièrement transparente à elle-même. Dès lors, foin des vérités obscures, nul besoin d’intuitions mystérieuses, nul besoin d’appel à une réalité dépassant les systèmes, c'en est fini de la métaphysique. Le réel finirait par entrer dans le langage, et voilà tout.
Le Cercle de Vienne radicalise le projet. Avec Schlick, Carnap et leurs proches apparaît une idée devenue célèbre : une proposition n’a de sens que si elle est logiquement analysable ou empiriquement vérifiable. Schlick formule le programme avec une netteté administrative : « Le sens d’une proposition est sa méthode de vérification. » Bigre ! Il s'agit de décider quelles choses méritent encore d’être discutées : Dieu, l’être, la finalité, les grandes questions métaphysiques ne sont plus fausses au sens anciens du terme, mais elles deviennent privées de citoyenneté intellectuelle. On ne réfute plus, mais on retire le droit d’exister.
Russell et le positivisme logique rêvent ainsi d’un système suffisamment complet pour contenir toutes les démonstrations légitimes. Arrive Gödel, en 1931. Mathématicien silencieux, d’une rigueur absolue, fréquentant le milieu viennois, il n’a rien du prophète romantique venu défendre le mystère contre la science. Il aime la logique autant que ses contemporains. Sauf qu'il voit quelque chose qu’ils ne voient plus : ils sont en train de transformer une méthode en ontologie. Il va leur demander comment ils savent que leur système est complet. Et surtout : depuis où le savent-ils ? De ses théorèmes d’incomplétude, l’histoire populaire retient une formule approximative : il existe des vérités impossibles à démontrer. La vérité est bien plus brutale : Gödel montre qu’en réalité un système formel suffisamment puissant pour contenir l’arithmétique ne peut pas établir entièrement sa propre cohérence à partir de ses seules ressources. Autrement dit, aucun système suffisamment riche ne peut être totalement autosuffisant.
La conséquence philosophique est immense. Pour comprendre complètement un cadre, il faut déjà, préalablement, adopter un point de vue qui le dépasse. Toute tentative de fermeture rencontre une limite interne. Dès lors, le le rêve de Russell et de ses amis commence à vaciller. Car si même les mathématiques ne peuvent pas produire leur propre fondement ultime, pourquoi imaginer que la science, le langage ou la logique pourront un jour contenir toute la réalité ? Le plus ironique c'est que ce coup ne vient pas de l’extérieur, ce n’est pas un théologien qui attaque le rationalisme ni un poète qui réclame le droit au mystère : c’est la logique qui découvre sa propre frontière.
Gödel en tire une conclusion qui dépasse les mathématiques lorsqu’il dit : « Ou bien les mathématiques dépassent la capacité de l’esprit humain, ou bien l’esprit humain est plus qu’une machine » (rapporté par Hao Wang dans A Logical Journey, 1996). Cette phrase est sans doute l'une des plus subversives de tout le XXᵉ siècle intellectuel. Elle signifie que si l’esprit humain voit certaines vérités qu’aucun système mécanique ne peut générer de lui-même, alors la pensée n’est pas réductible au calcul.
Gödel va dénoncer dans Russel et le Cercle de Vienne un milieu intellectuel qui finit par prendre ses outils pour la totalité du réel, une communauté décidant quelles questions sont légitimes avant même d’écouter les réponses, une philosophie qui ne va pas au bout de sa réflexion. Gödel critique leur pensée comme étant un dogmatisme : on commence à définir à l’avance ce que la raison a le droit de chercher. C'est illégitime.
Russell voulait construire une maison parfaitement close pour la raison moderne ; Gödel a démontré, sans hausser la voix et avec quelques pages de logique, qu’il y aura toujours une fenêtre ouverte vers quelque chose qui dépasse le système, c'est-à-dire la métaphysique.
