Le barbier, la lettre, et l'ensemble interdit

Le village trop bien rasé

Imaginez un village où un règlement fixe le travail du barbier : il rase exactement les hommes qui ne se rasent pas eux-mêmes. Pas un de plus, pas un de moins. Tout fonctionne, jusqu’au soir où le barbier se plante devant son miroir et pose la seule question interdite : et moi, qui me rase ?

Suivez les deux branches, il n’y en a que deux. S’il se rase lui-même, alors il fait partie des hommes qui se rasent eux-mêmes, ceux que le règlement lui interdit de raser : il ne se rase donc pas. Contradiction. S’il ne se rase pas, alors il fait partie des hommes qui ne se rasent pas eux-mêmes, ceux que le règlement l’oblige à raser : il se rase donc. Contradiction encore. Chaque branche de la disjonction détruit l’autre.

Faut-il paniquer ? Non. Relisez la structure : nous avons supposé qu’un tel barbier existait, et cette hypothèse mène au faux dans tous les cas. Vous connaissez ce schéma depuis le chapitre : c’est un raisonnement par l’absurde, déguisé en devinette. La conclusion correcte n’est pas « la logique s’effondre », c’est : un tel barbier n’existe pas. Le règlement du village est tout simplement impossible à appliquer. Le paradoxe se dissout, proprement.

Cambridge, juin 1902

La version qui ne se dissout pas, elle, tient dans une lettre. Le 16 juin 1902, Bertrand Russell écrit à Gottlob Frege, un logicien allemand qui achève alors l’œuvre de sa vie : réduire toute l’arithmétique à la logique pure. Le second volume de ses Lois fondamentales de l’arithmétique est sous presse. Tout l’édifice repose sur un principe d’apparence innocente : à chaque propriété correspond l’ensemble des objets qui la vérifient.

Russell prend ce principe au mot. Puisque toute propriété définit un ensemble, considérons la propriété « ne pas s’appartenir à soi-même », et formons l’ensemble

Puis posons au sujet de $R$ la question du barbier : $R$ s’appartient-il ? Par définition même de $R$ :

Une proposition équivalente à sa propre négation. Et cette fois, aucune sortie de secours : on ne peut pas conclure « un tel ensemble n’existe pas », car le principe de Frege garantissait précisément son existence. Le barbier était une hypothèse que l’absurde éliminait ; $R$ est un théorème de la théorie. C’est donc la théorie elle-même qui doit changer. Russell proposera une hiérarchie de « types » où un ensemble ne peut jamais se prendre lui-même pour objet ; la communauté adoptera finalement une liste d’axiomes, la théorie de Zermelo-Fraenkel, qui encadre strictement le droit de former des ensembles.

Frege répondit en six jours, reconnut la faille, et ajouta au volume sous presse un appendice d’une honnêteté restée célèbre. Russell dira plus tard n’avoir presque jamais rencontré pareille intégrité intellectuelle.

Ce que le chapitre en retient

Le fil rouge, vous l’avez reconnu : l’auto-référence. « Je mens », le barbier qui se demande s’il se rase, l’ensemble qui teste sa propre appartenance : à chaque fois, un énoncé se prend lui-même pour objet, et la machine à vérité se met à tourner à vide. C’est exactement pour cela que les mathématiciens d’aujourd’hui ne définissent jamais un ensemble « dans le vide » : on écrit $\{x \in E : P(x)\}$, la propriété $P$ trie des objets déjà donnés dans un ensemble $E$ déjà construit. La restriction n’est pas une prudence de notaire, c’est la cicatrice laissée par la lettre de 1902, celle-là même qui ouvre le chapitre.

Sources

• B. Russell, lettre à G. Frege du 16 juin 1902, et la réponse de Frege du 22 juin 1902, reproduites dans J. van Heijenoort (dir.), From Frege to Gödel, Harvard University Press, 1967.
• G. Frege, Grundgesetze der Arithmetik, vol. II, 1903, appendice rédigé après réception de la lettre.
• B. Russell, hommage à Frege (1962), cité par van Heijenoort, sur le dévouement « presque surhumain » de Frege à la vérité.