L’infini en mathématiques

(une présentation élémentaire)

David A. Madore

22 mars 2001

CVS :

 $Id: infinity.tex,v 1.9 2001/03/22 20:31:29 david Exp $
                   http://www.eleves.ens.fr:
             8080/home/madore/math/infinity.pdf

Avant-propos : Le pari assez ambitieux tenté ici est d’évoquer de façon générale « l’infini en mathématiques » d’une façon suffisamment synthétique pour être accessible aux non-spécialistes sans pour autant être ennuyeuse pour les experts ; de surcroît, on espère le faire avec assez de rigueur pour que le mathématicien s’estime satisfait, mais éviter néanmoins que le formalisme noie les considérations d’essence philosophique.

Résumé La notion d’infini nous fascine et nous échappe à la fois ; elle est resté longtemps mal comprise : lorsque Georg Cantor, à qui nous devons la vision moderne du concept d’infini en mathématiques, a présenté ses théories, on l’a d’abord pris pour fou. Cependant, les mathématiques contemporaines ont réussi à maîtriser et à comprendre l’infini : nous tenterons donc de donner un aperçu de leur point de vue, en évoquant au passage les considérations d’ordre philosophique qu’il soulève. Après un survol du « fini » et de l’infini « inachevé » (pré-Cantorien), nous tenterons de présenter les deux sortes d’infini qu’on trouve en théorie des ensembles : les ordinaux et les cardinaux. Tout au long de l’exposé se présentera la question « jusqu’où peut-on aller », et la réponse sera toujours « encore très loin ».

1 Introduction : qu’est-ce que le fini ? Jusqu’où va-t-on (I) ?

Si l’infini se définit comme ce qui n’est pas fini, il faut pour le comprendre commencer par ce dernier terme (probablement assez mal choisi au demeurant). On partira des deux considérations suivantes, desquelles on conviendra aisément :

– 0 est fini. (Une quantité nulle est finie.)

– Si n est fini, alors n + 1 est également fini. (Rajouter une unité à une quantité finie ne peut pas la rendre infinie.)

C’est déjà un progrès : ces deux principes permettent déjà de montrer que certaines choses sont finies (par exemple, 5 est fini puisqu’il est égal à 1 + 1 + 1 + 1 + 1). Mais ils ne permettent pas de montrer que quelque chose est infini : il est compatible avec les deux affirmations ci-dessus que toutes les quantités sont finies. On veut donc rajouter le principe « est fini précisément ce qui s’obtient par les règles en question ». Formellement, écrivons :

– 0 est un entier naturel.

– Si n est un entier naturel, alors n + 1 est également un entier naturel.

– Toute propriété possédée par 0 et possédée par n + 1 dès que n la possède, est possédée par tous les entiers naturels. (Principe de récurrence.)

C’est là, en l’essence, la définition des entiers naturels selon Peano (axiomes de Peano). On appellera « finie » une quantité (positive)^{1} qui est inférieure à un certain entier naturel, et, a contrario, « infinie » une quantité qui est supérieure à tous les entiers naturels (reste à voir ce que cela veut dire).

Notons que « fini » ne signifie pas pour autant « petit », comme on va le voir dans un instant.

En procédant par récurrence, on voit que si m et n sont finis alors m + n, mn et m^{n} le sont^{2}.

On obtient alors des exemples de quantités finies :

– 100 est fini (je l’ai rencontré).

– 10^{100} (un « gogol^{3} », soit un « un » suivi de cent « zéros ») est fini. Ce nombre est déjà passablement grand, et excède l’essentiel des nombres utilisés en physique — à titre de comparaison, l’âge de l’Univers est d’environ 15 milliards d’années, soit 5 × 10^{17} s, et le nombre total de particules que compte l’Univers observable, matière noire comprise, est de l’ordre de 10^{80}, soit moins du milliardième de la milliardième partie d’un gogol. Le terme français correct pour désigner « un gogol » est « dix mille hexadécillions » ; le terme « centillion » existe en français et désigne le nombre 10^{600}.

– 10^{10^{100}}, que nous écrirons 10 ↑ 10 ↑ 100 pour simplifier. Autrement dit, le nombre qui s’écrirait comme un « un » suivi d’un gogol de zéros — si ce n’est qu’il ne peut pas exister assez de papier dans l’Univers observable pour l’écrire complètement. Ce nombre est baptisé « gogolplex ». On peut déjà raisonnablement affirmer que personne n’arrive à se faire une idée de la taille d’un gogolplex.

– 10 ↑ 10 ↑ 10 ↑ 100, autrement dit, un « un » suivi d’un gogolplex de zéros. Notons que nous avons trois « flèches » dans l’écriture de ce nombre.

– 10 ↑ ⋯ ↑ 100 avec 100 flèches dans l’écriture...

– ...ou un gogol de flèches...

– ...ou un gogolplex...

– ...ou 10 ↑ ⋯ ↑ 100 flèches, où le nombre de flèches dans ce nombre est 100 ; disons que nous sommes là au « 2e niveau de transcendance ».

– Le « 3e niveau de transcendance » : 10 ↑ ⋯ ↑ 100, où le nombre de flèches est 10 ↑ ⋯ ↑ 100, où le nombre de flèches est 10 ↑ ⋯ ↑ 100, où le nombre de flèches est 100.

1Nous restons volontairement vagues quant au sens du mot « quantité ».

2Encore une fois, nous restons volontairement vagues. Disons qu’il existe des opérations d’addition, de multiplication et d’exponentiation définies sur les entiers naturels et à valeurs dans les entiers naturels.

3Le terme « gogol » n’honore pas l’écrivain russe Nicolas Gogol (1809–1852) : il a été choisi en 1938 par le neveu du mathématicien américain Edward Kasner (1878–1955), Milton, alors âgé de neuf (neuf est un nombre fini) ans (le neveu, pas le mathématicien).

– Le « 100e niveau de transcendance »...

– ...ou le gogolième...

– ...ou le gogolplexième...

– ...ou le niveau dont le nombre est précisément celui obtenu au centième niveau de transcendance ; disons que nous sommes là au « 2e niveau de métatranscendance ».

– Le « 100e niveau de métatranscendance »...

– ou le 100e niveau de « méta^{100}transcendance »... Laissons deviner la suite : ce petit jeu peut continuer passablement^{4} longtemps, et toutes ces quantités sont finies (et encore, il existe des quantités finies bien plus grande que tout ce qu’on peut obtenir par ce genre de constructions récursives en un nombre de caractères suffisamment petit pour tenir dans l’Univers observable).

Bref, « fini » ne signifie pas « concevable », ni même « ayant un sens physique ». Ceci impose un certain respect devant l’infini, que les premiers penseurs à utiliser ce mot n’ont typiquement pas eu. Par exemple, si l’on croit à l’éternité, que penser de l’état du monde après N années, où N est une des grandes quantités finies que nous venons de décrire ; si l’on croit à l’immortalité, ne risque-t-on pas de s’ennuyer après N années ? Les théologiens hindous (les seuls à s’être réellement intéressés aux grands « nombres » dans leur cosmogonie) se sont arrêtés autour de 10^{100}, donc étaient loin de considérer les nombres tels que ci-dessus.

2 L’infini « inachevé^{5} » de l’analyse

Il s’agit ici de la conception de l’infini (« apeiron ») qui remonte à Aristote : l’infini n’est jamais « réalisé », « effectif » (« energeia » — force des choses), il n’est que « potentiel » (« dunamei »). Par exemple, pour Aristote, le caractère infini de la droite est lié à la possibilité théorique de la prolonger sans limite. On se débarrasse ainsi des difficultés conceptuelles présentées par les paradoxes de Zénon d’Élée (« la flèche n’atteindra jamais la cible car elle devrait pour cela traverser une infinité de positions différentes » — Aristote répond, essentiellement, que la division infinie du temps n’est que potentielle).

La version moderne de cette philosophie est de considérer des quantités non pas infinies mais finies et « aussi grandes que souhaitées » (selon les valeurs de certains paramètres). On avait qualifiée d’« infinie » une quantité plus grande que tout naturel : il s’agit là de quantités qui sont éventuellement^{6} plus grandes que toute quantité finie fixée à l’avance.

Par exemple, si (u_{n}) est une suite d’entiers, on dit que (u_{n}) tend vers l’infini (en symboles, u_{n} → +∞) ssi ∀A ∈ ℕ (« pour toute quantité finie fixée à l’avance ») ∃N ∈ ℕ (« il existe un rang ») ∀n ≥ N (« à partir duquel ») u_{n} ≥ A (« la suite dépasse la quantité fixée »). Autrement dit, la suite n’atteint jamais une valeur « infinie », elle atteint simplement des valeurs finies aussi grandes que souhaitées.

4infiniment, pour être précis

5Est-ce un pléonasme ?

6Ceci est en partie un anglicisme pour « eventually ».

De même, tout nombre réel fixé est majoré par un certain entier naturel : (∀x ∈ ℝ)(∃n ∈ ℕ)(x ≤ n) — les réels ne vont pas « plus loin » que les entiers naturels^{7}, tous deux méritent le qualificatif de « fini ». Ceci équivaut encore au principe d’Archimède, (∀x > 0)(∀y > 0)(∃n ∈ ℕ)(x ≤ ny) (principe qui n’est pas dû à Archimède, que les Grecs connaissaient sous le nom de « lemme d’Eudoxe »). Ou encore à la densité de ℚ dans ℝ. Ces principes, essentiels pour l’analyse réelle, traduisent le fait que ℕ est notre « règle » servant à mesurer, et suffisante en cela ; c’est notre infini « inachevé ».

De même, dans l’écriture ∑_{n=1}^{+∞} \frac{1}{2^{n}} = 1, les sommes partielles n’atteignent jamais^{8}

la valeur 1, mais elles s’en approchent « aussi près » qu’on veut, pour n’importe quel « aussi près » fixé à l’avance (comme un « 1/k » où k parcourt notre échelle ℕ).

La vision rigoureuse de ces questions apparaît avec la « méthode d’exhaustion » d’Euclide et Archimède, utilisée pour les calculs d’aires et de volumes : il s’agit de constater que l’aire d’un cercle (par exemple) peut être approchée^{9} arbitrairement près par des polygones inscrits ; la démonstration de la proposition 2 du livre XII des Éléments d’Euclide (l’aire d’un cercle est proportionnelle au carré de son diamètre) a été considérée comme très proche de la découverte du Calcul Infinitésimal. Si Newton et Euler ne pèchent pas par excès de rigueur, en revanche, Cauchy et Dedekind, qui fondent rigoureusement les nombres réels, reviennent à une conception que n’aurait pas reniée Euclide.

Mais notre infini reste toujours inachevé.

3 L’infini « ordonné »

La découverte des ordinaux est due à Georg Cantor, en 1879. Elle procède de l’« expérience » suivante : pour une partie A ⊆ ℝ, Cantor considère son « ensemble dérivé » (ensemble des points d’accumulation, mais peu importe) A′. On a A′ ⊆ A (lorsque A est fermé, ce que nous supposerons) ; et Cantor s’intéresse aux ensembles tels que A′ = A, qu’on appelle parfaits. Pour cela, il construit successivement A, A′, A′′, A′′′, A^{(4)}, A^{(5)} et ainsi de suite (c’est une suite décroissante de parties de ℝ). Si la suite

stationne, on a trouvé un ensemble parfait. Sinon, on pose A^{(ω)} = ⋂_{k=0}^{+∞} A^{(k)} l’inter-

section de tous ces dérivés successifs. Seulement, on n’a toujours pas forcément A^{(ω)} parfait. On construit donc encore A^{(ω+1)} = (A^{(ω)})′, puis A^{(ω+2)} = (A^{(ω+1)})′ et ainsi

de suite, puis A^{(ω2)} = ⋂_{k=0}^{+∞} A^{(ω+k)}, et toujours ainsi de suite. Dans ce « ainsi de suite »

se cache toute la magie des ordinaux — et leur découverte par Cantor. Précisément, il existe un ordinal α < ω_{1} (nous verrons plus bas ce que cela signifie) tel que A^{(α)} soit parfait : on a gagné^{10}.

7On dit encore : les naturels sont cofinaux dans les nombres réels.

8D’où certaines théories fumeuses qui fleurissent à l’occasion et qui affirment que la valeur de la somme n’est pas 1 mais 0.999999 . . .. Ne prêtons pas plus d’attention à ces sottises : 0.999999 … est précisément égal à 1 ; l’« inachevé » ne vient pas de ce que la valeur de la somme n’est pas 1, mais de ce que les valeurs des sommes partielles sont précisément cela : partielles.

9Et jamais atteinte : d’où notre infini inachevé.

Les ordinaux sont construits avec un ordre naturel. La construction due à von Neumann est la suivante :

Tout ordinal est l’ensemble des ordinaux qui le précèdent.

(Rajoutons de plus que, réciproquement, tout ensemble formé d’ordinaux, de façon que tous les prédécesseurs d’un ordinal de l’ensemble soient déjà dans l’ensemble, est luimême un ordinal.) Ainsi, 0 = ∅ (aucun ordinal ne précède), 1 = {0}, 2 = {0, 1}, 3 = {0, 1, 2}, 4 = {0, 1, 2, 3}, 5 = {0, …, 4}, et ainsi de suite jusqu’à ω = {0, 1, 2, 3, …} (l’ensemble de tous les entiers naturels), ω + 1 = {0, 1, 2, …, ω}, puis de même ω + 2 = {0, 1, 2, …, ω, ω + 1}, et ainsi de suite jusqu’à ω2 = {0, 1, 2, …, ω, ω + 1, ω + 2, …}, et encore ainsi de suite.

Fonctionnellement, les ordinaux servent à classifier^{11} les ensembles « bien ordonnés » : un ensemble bien ordonné est un ensemble totalement ordonné dans lequel il n’existe pas de suite (infinie) strictement décroissante ; ou, ce qui revient au même, un ensemble ordonné dans lequel toute partie non vide a un plus petit élément.

Il faut alors concevoir les ordinaux (ou, ce qui revient au même, les ensembles bien ordonnés) comme des « échelles ». L’échelle 0 n’a aucun échelon. L’échelle 1 a un seul échelon, qui est l’échelon 0. L’échelle 2 a deux échelons, 0 et, au-desus de celui-ci,

1. L’échelle 3 rajoute un échelon « 2 » au-dessus des deux échelons de l’échelle 2. L’échelle 4 a encore un échelon de plus, appelé 3. L’échelle ω prolonge les échelles 0, 1, 2, 3, 4 et ainsi de suite : elle a un échelon pour chaque entier naturel, dans cet ordre ; mais elle n’a pas de « dernier » échelon (tous les échelons portent le nom d’un entier naturel, et chacun a un suivant, donc il n’y a pas de dernier). L’échelle ω + 1 rajoute un nouvel échelon, nommé ω, à la fin de l’échelle ω (de sorte que maintenant il y a un dernier échelon), et l’échelle ω + 2 rajoute encore un autre échelon (ω + 1 à la fin de celle-ci. L’échelle ω2 est la superposition de deux copies de ω : l’une portant les échelons 0, 1, 2 et ainsi de suite, et l’autre portant les échelons ω, ω + 1, ω + 2 et ainsi de suite.

Pour gravir les échelons des échelles ordinales, on a le théorème fondamental suivant :

Théorème d’induction transfinie : Toute propriété possédée par un ordinal dès que tous ceux qui le précèdent la possèdent, est possédée par tous les ordinaux^{12}.

(Ceci vaut pour les éléments de n’importe quel ensemble bien ordonné ; d’ailleurs, cela peut servir à définir la notion de bon ordre.) Moralement, 0 possède la propriété car il n’a pas de prédécesseurs (donc l’hypothèse faite entraîne immédiatement qu’il doit avoir la propriété), puis 1 la possède car 0 la possède, puis 2 la possède car 0 et 1 la possèdent, et ainsi de suite pour tous les ordinaux (ω, par exemple, possède la propriété car tous les ordinaux finis, i.e. tous les entiers naturels, la possèdent).

Notons que le théorème d’induction transfinie ne vaut pas sur ℝ par exemple (ℝ n’est pas bien ordonné) : en effet, la propriété x ≤ 0 est vraie pour un réel dès qu’elle est vraie de tous les réels plus petits (en symboles : ∀x ∈ ℝ((∀y < x(y ≤ 0)) ⇒ (x ≤ 0))), et pourtant elle n’est pas vraie de tous les nombres réels (ℝ n’est pas une échelle : on a beau « grimper » jusqu’à 0, on ne peut pas « grimper » plus loin parce qu’il n’y a pas de plus petit échelon après 0).

10Ce qu’on a gagné, c’est le théorème suivant, dit de Cantor-Bendixson : toute partie fermée A de ℝ est la réunion d’un ensemble parfait et d’un ensemble dénombrable.

11à isomorphisme unique près, pour être précis

12On recommande poliment de relire cette phrase une bonne dizaine de fois si on veut espérer la comprendre..

4 Jusqu’où va-t-on (II) ? La taille de ω_{1}

En parlant de nombres finis, on a illustré en quelque sorte la taille de ω. Illustrons maintenant celle de ω_{1} (et par la même occasion expliquons ce que c’est qu’ω_{1}).

Les premiers ordinaux, nous l’avons dit, sont les entiers naturels, 0, 1, 2, 3, 4, 5... Après ceux-ci vient le premier ordinal infini, ω, qui est le plus petit ordinal supérieur à tous les entiers naturels, et qui est aussi la limite^{13} de la suite qu’ils forment. Puis viennent les successeurs d’ω, soit ω + 1, ω + 2, ω + 3 et ainsi de suite. Après eux vient ω2 et ses successeurs, ω2 + 1, ω2 + 2, etc. Puis vient ω3, et de même on construit ω4, ω5 et ainsi de suite (au niveau des échelles, cela revient à empiler des copies de ω).

Le plus petit ordinal supérieur aux multiples d’ω, soit à 0, ω, ω2, ω3 et ainsi de suite, s’appelle ω^{2} : c’est précisément l’ordinal qui prolonge ceux-ci, ou encore, sous forme d’échelle, la superposition de ω copies de ω. On devine qu’après ω^{2} viennent les ω^{2} + ωk_{1} + k_{0}, avec k_{1} et k_{0} des entiers naturels, comme on a déjà construit. Répétant, donc, exactement le chemin parcouru de 0 à ω^{2}, on va de ω^{2} à ω^{2}2. Puis en répétant de nouveau ce chemin on va à ω^{2}3, puis à ω^{2}4 et ainsi de suite. Comme toujours, « ainsi de suite » signale l’apparition d’un nouvel ordinal : c’est le plus petit ordinal supérieur à ω^{2}k pour tout k, ses éléments sont exactement les ω^{2}k_{2} + ωk_{1} + k_{0} (avec k_{0}, k_{1}, k_{2} entiers naturels), et il se nomme ω^{3}. On devine qu’après le même chemin conduisant successivement à ω^{3}2, ω^{3}3 et ainsi de suite, doit venir ω^{4}. Puis par le même procédé on construit ω^{5}, ω^{5} et ainsi de suite.

Encore un « ainsi de suite », donc encore un ordinal : c’est ω^{ω}. Et encore une fois, parcourir ω fois le chemin (c’est-à-dire tout le chemin) jusqu’à lui, conduit à ω^{ω+1} comme limite de ω^{ω}2, ω^{ω}3, ω^{ω}4, et consorts. Répétant ce procédé, on construit alors ω^{ω+2}, puis ω^{ω+3} et tout ce qui suit jusqu’à ω^{ω2}. Le lecteur perspicace aura compris le procédé permettant d’arriver jusqu’à ω^{ω3}, ω^{ω4} et ainsi de suite, donc, logiquement ω^{ω^{2}}.

Comme d’habitude, on n’a pas fini : on construit de même ω^{ω^{3}}, ω^{ω^{4}}, ω^{ω^{5}} et à tous ceux-ci doit succéder ω^{ω^{ω}}. Par de semblables pérégrinations, toujours plus compliquées, on arrive à entasser les ω en exposants, et de là il doit succéder un plus petit ordinal supérieur à 1, ω, ω^{ω}, ω^{ω^{ω}}, et ainsi de suite : il porte le nom de ε_{0} (c’est encore le plus petit ordinal α tel que ω^{α} = α).

Évidemment, cela ne s’arrête pas là : donner un nom, c’est reconnaître qu’on peut aller plus loin. Donc après ε_{0} doivent suivre tout une infinité assez compliquée d’ordinaux jusqu’à ε_{0}^{ω} (c’est aussi ω^{ε_{0}ω}) puis ε_{0}^{ω^{ω}} (c’est aussi ω^{ε_{0}ω^{ω}}), et ainsi de suite jusqu’à ε_{0}^{ε_{0}} (qui est aussi, au demeurant, ω^{ε_{0}^{2}}). Toutes sortes de chemins également très compliqués mènent ensuite à ε_{0}^{ε_{0}^{2}} (qui est aussi ω^{ε_{0}^{3}}), puis ε_{0}^{ε_{0}^{3}} et ainsi de suite jusqu’à ε_{0}^{ε_{0}^{ω}}. Avec des procédés semblables, on construit ε_{0}^{ε_{0}^{ε_{0}}} . Le plus petit ordinal supérieur à ε_{0}, ε_{0}^{ε_{0}}, ε_{0}^{ε_{0}^{ε_{0}}} et ainsi de suite, est aussi le deuxième plus petit ordinal α tel que ω^{α} = α, et on le nomme ε_{1}.

13dans un sens que nous ne préciserons pas

On peut encore construire ε_{2}, ε_{3}, et ainsi de suite. Leur limite est ε_{ω}, mais les ε_{α} ne s’arrêtent pas là, évidemment. Après 0, ε_{0}, ε_{ε_{0}}, etc, on trouve un nouvel ordinal auquel il faut donner un nom spécial, ζ_{0} : c’est le plus petit ordinal α tel que ε_{α} = α.

On devine comment cela doit continuer : partant de ζ_{0} + 1, on construit ε_{ζ_{0}+1}, puis ε_{ε_{ζ_{0}+1}} et ainsi de suite jusqu’à ζ_{1} (le deuxième ordinal α tel que ε_{α} = α). Puis de même, ζ_{2}, ζ_{3} et ainsi de suite jusqu’à ζ_{ω}, nettement plus loin vient ζ_{ε_{0}}, encore nettement plus loin ζ_{ζ_{0}}, et la limite de 0, ζ_{0}, ζ_{ζ_{0}} et ainsi de suite doit porter un nouveau nom : η_{0}. On pourrait continuer l’alphabet grec comme ceci, mais évidemment il faudra un jour imaginer une ω-ième lettre de l’alphabet grec, une ε_{0}-ième...

Arrêtons là le massacre. On commence à voir jusqu’où on peut aller. Tous les ordinaux que nous avons construits s’obtiennent à partir de 0 par deux opérations : passer au successeur (i.e. rajouter 1), ou prendre la limite d’une suite d’ordinaux déjà construits. Tous ces ordinaux peuvent, en théorie du moins, se dessiner — c’est-à-dire qu’ils sont semblables à une certaine partie de ℝ. On les appelle les ordinaux « dénombrables » (voir plus loin).

Quant à ω_{1}, c’est l’ensemble de tous les ordinaux « ainsi construits », i.e. le plus petit ordinal qui leur est supérieur (le plus petit ordinal non dénombrable). Il est qualitativement plus grand que tout ce que nous avons décrit pour le moment. Par exemple, il ne peut pas (par définition) s’obtenir par un procédé comme nous avons utilisé jusqu’à présent, i.e. prendre la limite d’une suite d’ordinaux plus petits — toute suite à valeur dans ω_{1} est bornée ! (c’est là une affirmation extrêmement forte, qu’il est très difficile de concevoir intuitivement^{14}). D’autre part, ω_{1} ne peut pas se représenter graphiquement, contrairement à tous les éléments qui le constituent ; il n’existe pas de ω_{1}-séquence strictement croissante à valeurs réelles (i.e. de fonction strictement croissante de ω_{1} vers les réels), parce que les réels sont « trop petits » pour contenir tout ω_{1}. D’une certaine façon, on redonne raison à Zénon, mais pour un infini différent : s’il est vrai que la flèche peut traverser ω positions consécutives avant d’atteindre sa cible, elle ne peut pas en traverser ω_{1}.

Malgré l’énormité de ω_{1}, il est évident que les ordinaux ne s’arrêtent pas là : dès lors qu’on a donné un nom à ω_{1}, admis comme une totalité considérable, c’est qu’on est prêt à aller plus loin (ne serait-ce que trivialement en rajoutant 1 à ω_{1}).

5 Interlude : calculs dans les ordinaux

Nous nous attardons un peu plus longuement sur la manière dont on fait des calculs (sommes, produits, puissances) d’ordinaux.

Il existe deux façons de procéder aux définitions. L’une est inductive (c’est-à-dire qu’elle se base sur le théorème d’induction transfinie), l’autre utilise la structure d’ordre sur les ordinaux.

14Par exemple, si on imagine d’essayer de gravir une échelle de taille ω_{1}, dès lors qu’on doit passer un temps strictement positif sur chaque échelon, on ne pourra jamais atteindre le sommet, même au bout d’un temps infini — au sens de « infini comme les réels ».

Commençons par l’addition. Pour donner la définition inductive, on observe que tout ordinal appartient à l’un des trois cas suivants : (a) il est nul, (b) il est le successeur d’un autre ordinal (c’est-à-dire qu’il a un plus grand élément), ou (c) il est la limite des ordinaux plus petits que lui. Par exemple, 0, 42 et ω appartiennent à ces trois cas respectivement. (Les ordinaux vérifiant (b) et (c) sont respectivement appelés ordinaux successeurs et ordinaux limites.) Pour définir l’addition α + β, où α et β sont des ordinaux quelconques, on va la définir dans chacun de ces trois cas pour β, en la supposant définie pour les ordinaux plus petits — on dit qu’on procède par induction sur β :

– Si β = 0 alors α + β = α + 0 = α par définition.

– Si β = γ+1 est un ordinal successeur, on définit α+β = α+(γ+1) = (α+γ)+1 (ici, +1 désigne l’opération successeur).

– Si β = lim_{δ<β} δ, alors on définit α + β = lim_{δ<β}(α + δ).

Par exemple, 2 + 0 = 2, 2 + 1 = 2 + (0 + 1) = (2 + 0) + 1 = 2 + 1 = 3, 2 + 2 = 2 + (1 + 1) = (2 + 1) + 1 = 3 + 1 = 4, et ainsi de suite ; 2 + ω est la limite de 2, 3, 4, 5, …, c’est donc encore une fois ω : on a 2 + ω = ω. On remarquera que l’addition sur les ordinaux n’est pas commutative : 2 + ω = ω mais ω + 2 > ω.

La définition de l’addition ordinale utilisant la structure d’ordre est la suivante : on construit α + β en mettant β au sommet de α — c’est-à-dire formellement qu’on ordonne leur union disjointe en rendant les éléments de α plus petits que ceux de β, et on prend l’ordinal résultant de cet ordre. Graphiquement, on représente donc α + β en superposant une copie de β à une copie de α.

Pour définir la multiplication αβ, où α et β sont des ordinaux quelconques, on procède de façon semblable à l’adition, donc par induction sur β :

– Si β = 0 alors αβ = α · 0 = 0 par définition.

– Si β = γ + 1 est un ordinal successeur, on définit αβ = α(γ + 1) = (αγ) + α.

– Si β = lim_{δ<β} δ, alors on définit αβ = lim_{δ<β}(αδ).

Par exemple, 2 × 0 = 0, 2 × 1 = 2 × (0 + 1) = 2 × 0 + 2 = 0 + 2 = 2, 2 × 2 = 2 × (1 + 1) = 2 × 1 + 2 = 2 + 2 = 4, et ainsi de suite ; 2ω est la limite de 0, 2, 4, 6, …, donc c’est ω. De même que l’addition, la multiplication n’est pas commutative : on a 2ω = ω mais ω2 = ω + ω > ω.

La définition de la multiplication utilisant la structure d’ordre est la suivante : αβ s’obtient en remplaçant chaque ordinal constituant β par une copie de α, dans l’ordre ; autrement dit, formellement, on ordonne les couples (γ, δ), où γ est dans α et δ dans β, par l’ordre lexicographique donnant le plus de poids à la deuxième composante. Graphiquement, cela signifie qu’on remplace chacun des échelons de l’ordinal β par une copie complète de l’ordinal α.

Reste enfin l’exponentiation ordinale. La définition inductive est très semblable à celles que nous avons déjà proposées :

– Si β = 0 alors α^{β} = α^{0} = 1 par définition.

– Si β = γ + 1 est un ordinal successeur, on définit α^{β} = α^{γ+1} = (α^{γ}) · α.

– Si β = lim_{δ<β} δ, alors on définit α^{β} = lim_{δ<β} α^{δ}.

De même que pour l’addition et la multiplication, on a 2^{ω} = ω car c’est la limite de 1, 2, 4, 8, . . .. Tandis que ω^{2} est supérieur à ω. Par ailleurs, on prendra bien soin de distinguer l’exponentiation ordinale que nous venons de voir de l’exponentiation cardinale qui sera expliquée plus bas.

La définition utilisant la structure d’ordre est, en revanche, plus compliquée. L’ensemble considéré est l’ensemble des familles, indicées par β, à valeurs dans α, et dont « presque tous » les termes (i.e. tous sauf un nombre fini) sont nuls ; l’ordre est l’ordre lexicographique qui donne le poids le plus important aux indices les plus élevés (dans α).

6 L’infini « désordonné » : les cardinaux

On a observé que 1 + ω = ω (rajouter un échelon à une échelle ω au début de l’échelle ne fait que décaler les échelons et ne change rien à la taille de la totalité) tandis que ω + 1 > ω (rajouter un échelon à la fin change fondamentalement la structure de l’ordinal). Ceci est dû à l’ordre qui existe sur ω et sur les ordinaux en général. Toutefois, si on « oublie » la notion d’ordre, alors ω + 1 a le même nombre d’éléments que ω (car on peut prendre l’élément final et le mettre au début). De même, ω2, ω^{2}, ω^{ω}, ε_{0} et tous les autres ordinaux (infinis) constituant ω_{1} ne diffèrent entre eux (et d’ω) que par la façon dont leurs éléments sont arrangés, pas par leur « nombre ».

Si on souhaite définir une notion de « quantité » qui prenne uniquement en compte la taille des ensembles et pas leur ordre, il faut donc définir une nouvelle notion, différente de celle d’ordinal. C’est la notion de cardinal.

On dira que deux ensembles X et Y sont équipotents lorsqu’il existe une façon de mettre en correspondance un à un leurs éléments : formellement, lorsqu’il existe une application bijective de X vers Y (ou réciproquement, cela revient au même). C’est cette condition qui traduit le fait que X et Y ont « le même nombre » d’éléments (le « nombre » en question étant la notion de cardinal).

Par exemple, ω et ω + 1 sont équipotents. Plus proche des ensembles auxquels on est normalement habitué, l’ensemble ℕ = ω des entiers naturels est équipotent à l’ensemble ℚ des rationnels.

On dit qu’un ensemble X est subpotent à un ensemble Y lorsque X est équipotent à une partie de Y (ou, de façon équivalente, lorsqu’il existe une fonction injective de X dans Y). Ceci traduit le fait que Y à au moins autant d’éléments que X. Le résultat suivant fait tout l’intérêt des notions introduites :

Théorème de Cantor-Bernstein : Si X est subpotent à Y et que Y est subpotent à X alors X et Y sont équipotents. (La définition de ce théorème est constructive — on définit explicitement une bijection de X vers Y pour témoigner de l’équipotence.)

D’autre part, le résultat suivant affirme que de deux ensembles il y en a toujours un qui est au moins aussi gros que l’autre.

Théorème de trichotomie de Zermelo : Si X et Y sont deux ensembles, alors soit X est subpotent à Y soit Y est subpotent à X (soit les deux à la fois, évidemment, auquel cas par Cantor-Bernstein X et Y sont équipotents).

Le théorème de trichotomie de Zermelo, à la différence du théorème de Cantor-Bernstein, n’est pas constructif : il faut faire un nombre infini de choix^{15} pour obtenir une fonction dans un sens ou dans l’autre. Moralement, cependant, la construction est très simple : on choisit un élément 0 dans X et dans Y (si on ne peut pas, c’est que l’un est vide, et le résultat est évident), puis on l’exclut et on recommence en choisissant un élément 1 dans X et dans Y différent de l’élément 0, et ainsi de suite sur tous les ordinaux — comme on ne tombera jamais à court d’ordinaux, il faut bien qu’on finisse par épuiser un des deux ensembles, et alors on a injecté celui-ci dans l’autre.

15Le résultat utilise le postulat de la théorie des ensembles appelé Axiome du Choix.

Les ordinaux ω, ω2, ω^{2}, ε_{0} et compagnie sont, comme nous l’avons signalé, tous équipotents. On choisit de représenter leur cardinal commun par le plus petit de ces ordinaux, soit ω. Lorsque celui-ci sert de cardinal, on le note ℵ_{0} (prononcer « aleph 0 » : aleph est la première lettre de l’alphabet hébreu). Ainsi, ℵ_{0} est le cardinal de tous les ensembles équipotents à ω, que l’on appelle dénombrables. C’est le plus petit cardinal infini (les cardinaux finis étant exactement les entiers naturels). En revanche, l’ordinal ω_{1} n’est plus dénombrable : c’est le plus petit ordinal non (fini ou) dénombrable, c’est un cardinal que l’on note ℵ_{1}. Ainsi, ℵ_{1} est le plus petit cardinal supérieur à ℵ_{0}.

De façon générale, un cardinal est un ordinal κ vérifiant la propriété qu’aucun ordinal plus petit ne lui est équipotent. C’est donc lui (le plus petit de sa « classe d’équipotence ») que l’on choisit pour la représenter.

On a défini ℵ_{0} (le cardinal de ω) et ℵ_{1} (le cardinal de ω_{1}) ; de même, ℵ_{2} est défini comme le plus petit cardinal supérieur à ℵ_{1}, et il correspond à un ordinal ω_{2} (le plus petit ordinal qui n’est pas subpotent à ω_{1}), et ainsi de suite. La limite ω_{ω} des ordinaux ω, ω_{1}, ω_{2}, ω_{3}, …, est elle-même un cardinal (ce qui, quand on y songe, est assez remarquable), que l’on note logiquement ℵ_{ω}. Naturellement, tout cela peut continuer : pour tout ordinal α il existe un cardinal ℵ_{α} qui est le α-ième cardinal infini (en comptant à partir de 0), et qui correspond à un ordinal noté ω_{α}. Tout cardinal est de la forme ℵ_{α} pour un certain α (mais il se peut très bien que α = ω_{α}, auquel cas la notation n’est pas d’une utilité énorme ; le plus petit tel α est la limite de ω, ω_{ω}, ω_{ω_{ω}} et ainsi de suite).

On peut également définir une arithmétique sur les cardinaux. Faire la somme ou le produit de deux cardinaux n’a pas vraiment d’intérêt, car dès lors que l’un des deux est infini, la somme (ou le produit) est simplement égale au plus grand des deux. De même, on pourrait définir une exponentielle sur les cardinaux qui coïncide avec l’exponentielle ordinale, mais cela n’a aucun intérêt, car c’est la même chose que le produit (ou la somme) sur les cardinaux infinis.

En revanche, il existe une exponentielle cardinale qui possède un réel intérêt : si κ et λ sont deux cardinaux, on définit κ^{λ} comme le cardinal de l’ensemble de toutes les fonctions de λ vers κ. Par exemple, 2^{ℵ_{0}} est le cardinal de l’ensemble de toutes les fonctions de ℕ = ω = ℵ_{0} dans 2 = {0, 1}, c’est-à-dire le cardinal de toutes les suites de chiffres binaires (0 ou 1), et c’est encore le même cardinal que le cardinal de l’ensemble des réels.

Un résultat fondamental sur l’exponentiation est donné par le théorème suivant : Théorème de Cantor : Pour tout cardinal κ, on a 2^{κ} > κ. Autrement dit, il n’existe

pas de façon d’associer à toute fonction f: κ → {0, 1} un élément de κ de sorte qu’à deux fonctions distinctes soient associés des éléments distincts. En particulier, 2^{ℵ_{0}} > ℵ_{0}, c’est-à-dire qu’il y a strictement plus de nombres réels que d’entiers naturels.

Démontrons ce résultat : supposons qu’il existe une fonction Φ: 2^{κ} → κ injective. Ceci se lit encore comme une fonction Φ: κ×κ → 2 = {0, 1}, dont on affirme que toute fonction f: κ → {0, 1} est de la forme Φ(α, ·) pour un certain α ∈ κ. Mais construisons la fonction h: κ → {0, 1} de la façon suivante : h(α) = 0 lorsque Φ(α, α) = 1 et vice versa. Si on avait h = Φ(α, ·), on aurait h(α) = Φ(α, α), or c’est précisément le contraire qui vaut (l’argument diagonal dans toute sa splendeur).

Notamment, on voit que 2^{ℵ_{0}} ≥ ℵ_{1}. La question se pose donc de savoir si cette inégalité est stricte ou large. Autrement dit, l’affirmation suivante est-elle vraie :

Hypothèse du Continu : On a 2^{ℵ_{0}} = ℵ_{1}. Autrement dit, toute partie de ℝ est soit dénombrable soit équipotente à ℝ. Autrement dit, il existe une fonction ω_{1} → ℝ bijective.

Cette question, formulée par Cantor, et restée inabordable pendant de nombreuses années, a longtemps fasciné les mathématiciens. Hilbert l’a placée en premier sur sa fameuse liste de 23 problèmes proposée au congrès international des mathématiciens en 1900. Nous savons maintenant qu’elle est indécidable : les logiciens Kurt Gödel et Paul Cohen ont montré respectivement qu’elle était infalsifiable (1940 : il est impossible de montrer que l’hypothèse du continu est fausse) et indémontrable (1963 : il est impossible de montrer que l’hypothèse du continu est vraie).

On sait même des choses beaucoup plus précises : si 2^{ℵ_{0}} = ℵ_{1} est possible sans être nécessaire, il en va de même de l’affirmation (qui la contredit) 2^{ℵ_{0}} = ℵ_{2}, ou encore de 2^{ℵ_{0}} = ℵ_{3}, et ainsi de suite sur tous les naturels ; même 2^{ℵ_{0}} = ℵ_{ω+1} est possible, ou 2^{ℵ_{0}} = ℵ_{ω+2}, ou encore plein d’autres choses. En revanche, 2^{ℵ_{0}} = ℵ_{ω} n’est pas possible, pour la raison simple que (2^{ℵ_{0}})^{ℵ_{0}} = 2^{ℵ_{0}×ℵ_{0}} = 2^{ℵ_{0}} tandis que (ℵ_{ω})^{ℵ_{0}} > ℵ_{ω} (inégalité laissée en exercice).

Ceci ne va pas sans poser quelques difficultés épistémologiques. Dans la mesure où la véracité de l’hypothèse du continu ne peut pas être décidée par une démonstration mathématique, sur quoi doit-on se fonder pour la juger ? Dans la vision platoniste des mathématiques, il existe une vérité extérieure, dans laquelle l’hypothèse du continue est soit vraie soit fausse, même si la démonstration ne nous permet pas d’accéder directement à cette vérité (en fait, la plupart des ensemblistes sont persuadés que « moralement » l’hypothèse du continu est fausse et que 2^{ℵ_{0}} doit être beaucoup plus grand que ℵ_{1}, ou ℵ_{ω}, ou ℵ_{ω_{ω}} ou toutes sortes de choses de cette forme). Dans la vision formaliste, en revanche, la question n’a pas de sens : il existe (au moins !) deux mondes possibles, qui se valent, l’un dans laquelle l’hypothèse du continu est vraie, et un autre dans laquelle elle est fausse. C’est à nous de décider, alors, quelles propriétés sur nos objets mathématiques sont souhaitables pour ce que nous voulons en faire (heureusement, dans la pratique, la question de la véracité de l’hypothèse du continu ne se pose jamais).

Naturellement, on peut aussi définir :

Hypothèse généralisée du Continu : On a 2^{ℵ_{α}} = ℵ_{α+1} pour tout ordinal α.

(On sait que l’hypothèse généralisée du continu est irréfutable. Elle est évidemment indémontrable, puisque déjà la simple hypothèse du continu l’est.)

7 Interlude : la cofinalité des cardinaux

Nous avons signalé que toute suite à valeurs dans ω_{1} est bornée^{16}. En revanche, le cardinal ℵ_{ω}, bien que supérieur à ℵ_{1}, ne vérifie pas la même propriété : il existe des suites à valeurs dans ω_{ω} qui ne sont pas bornées, par exemple la suite ω, ω_{1}, ω_{2}, ω_{3}, … qui converge précisément vers ω_{ω}. Ceci est à mettre en regard du fait que ℝ est archimédéen (il existe une suite de réels, précisément (n), qui converge vers +∞) bien que son cardinal soit supérieur à celui de ℕ.

Plus généralement, au lieu de considérer des suites, on peut considérer des βséquences (α_{ι})_{ι<β}, indicées par un ordinal β quelconque. Si α est un ordinal limite, on appelle cofinalité de α et on note cf α, le plus petit ordinal β tel qu’il existe une β-séquence (qu’on peut supposer croissante) (α_{ι})_{ι<β} d’éléments de α qui converge vers α. On a évidemment cf α ≤ α. Par ailleurs, il est facile de voir que cf cf α = α. Un ordinal α tel que cf α = α est appelé régulier. On montre alors facilement qu’il est forcément un cardinal : on parle donc de cardinal régulier ; et, inversement, un cardinal qui n’est pas régulier est appelé singulier.

Une façon équivalente de définir la cofinalité d’un cardinal κ est la suivante : cf κ est le plus petit cardinal λ tel que κ puisse s’écrire comme somme de (strictement) moins que λ cardinaux tous (strictement) plus petits que κ. (Et la cofinalité d’un ordinal limite quelconque est simplement la cofinalité de son cardinal.)

Ainsi, on a cf ℵ_{0} = ℵ_{0}, cf ℵ_{1} = ℵ_{1}, cf ℵ_{2} = ℵ_{2} et ainsi de suite — tous ces cardinaux sont réguliers — mais cf ℵ_{ω} = ℵ_{0} : ℵ_{ω} est le premier cardinal singulier. Ensuite, ℵ_{ω+1}, ℵ_{ω+2} et ainsi de suite sont de nouveaux réguliers, jusqu’à ℵ_{ω2}, qui est singulier de cofinalité ℵ_{0}, de même que ℵ_{ω^{2}} ou ℵ_{ε_{0}}... Le premier cardinal singulier ayant cofinalité indénombrable est ℵ_{ω_{1}}, qui vérifie cf ℵ_{ω_{1}} = ℵ_{1}. De façon générale, on a cf ℵ_{α} = cf α dès que α est un ordinal limite (et si α est successeur alors ℵ_{α} est régulier). Quant au plus petit point fixe de la fonction α ↦ ℵ_{α}, c’est-à-dire la limite de ℵ_{0}, ℵ_{ω}, ℵ_{ω_{ω}}, etc, c’est un cardinal singulier de cofinalité ℵ_{0} (puisqu’on l’a construit, précisément, comme la limite d’une suite strictement croissante).

8 Jusqu’où va-t-on (III) ? Les grands cardinaux

Nous avons parlé de ℵ_{0}, ℵ_{1}, ℵ_{2} et ainsi de suite, qui chacun s’obtiennent en prenant le plus petit cardinal supérieur au précédent (on parle de cardinal successeur du précédent — même si cette terminologie peut prêter à confusion avec la notion d’ordinal successeur). Leur limite, ℵ_{ω}, n’est pas le successeur d’un cardinal : on dit qu’il s’agit d’un cardinal limite. En revanche, il est singulier, c’est-à-dire qu’il peut s’écrire comme la somme de moins que lui cardinaux tous plus petits que lui (cf. section précédente).

Ce sont là les deux procédés de fabrication de cardinaux dont nous disposons : prendre le successeur d’un cardinal déjà construit, ou prendre la limite d’une famille strictement croissante de cardinaux déjà construits, et dont le cardinal ne dépasse pas le cardinal qu’on construit de cette façon. Inversement, un cardinal qui n’est ni successeur ni singulier (c’est-à-dire qu’il est à la fois limite et régulier) est dit (faiblement) inaccessible.

16En réalité, une analyse approfondie montre que ce résultat dépend de l’Axiome du Choix — ainsi d’ailleurs que notre présentation de ω_{1}. Mais nous supposons tout du long que l’Axiome du Choix est vérifié.

Autrement dit, un cardinal (faiblement) inaccessible est un cardinal κ tel que (i) si λ < κ est un cardinal plus petit, il existe un cardinal λ′ entre les deux : λ < λ′ < κ, et (ii) si (λ_{ι}) sont des cardinaux tels que λ_{ι} < κ pour tout ι, et que le cardinal de l’ensemble des ι est lui-aussi strictement inférieur à κ, alors ∑_{ι} λ_{ι} < κ.

Un cardinal faiblement inaccessible est donc précisément un cardinal qu’on ne peut pas obtenir par les procédés dont nous disposons. Par cela même, il s’ensuit qu’on ne peut pas démontrer qu’il en existe. On ne peut même pas démontrer qu’il peut en exister. L’existence (ou la simple possibilité) d’un cardinal (faiblement) inaccessible est une hypothèse très forte : elle permet, notamment, de conclure que la théorie des ensembles ne contient pas de contradiction. Moralement, on est persuadé que les cardinaux (faiblement) inaccessibles existent (ou au moins « sont possibles » — mais dans la mesure où ils sont possibles, autant supposer qu’ils existent car ce serait sinon limiter de façon arbitraire la théorie des ensembles) ; mais on sait qu’on ne pourra pas le démontrer.

(Au sujet du mot « faiblement » : un cardinal (fortement) inaccessible est un cardinal κ qui est régulier, et qui est supérieur à 2^{λ} pour tout λ < κ. En présence de l’hypothèse généralisée du continu, « faiblement inaccessible » et « fortement inaccessible » coïncident. Mais en son absence, il se peut fort bien que le cardinal 2^{ℵ_{0}} du continu soit faiblement inaccessible — par définition il n’est pas fortement inaccessible.)

Au-delà des cardinaux inaccessibles, il existe bien d’autres types de « grands cardinaux ». Après les cardinaux « inaccessibles » viennent les cardinaux « hyperinaccessibles », qui sont en gros ceux auxquels on ne peut arriver ni par les opérations de successeur ou de limite régulière, ni même par l’opération de prendre le α-ième cardinal inaccessible : notamment, si κ est un cardinal hyperinaccessible, alors κ est le κ-ième cardinal inaccessible. De même, on peut définir les hyperhyperinaccessibles, et ainsi de suite. Les cardinaux « Mahlo » dépassent de beaucoup les hyper(...)inaccessibles — précisément, si κ est un cardinal Mahlo, alors κ est hyper^{κ}-inaccessible. Encore une fois, on ne peut pas montrer l’existence (ni même la possibilité) de cardinaux Mahlo, même sachant l’existence de cardinaux inaccessibles (hyperinaccessibles, etc).

Il existe quantité de sortes de grands cardinaux. Il serait vain d’essayer d’en donner un aperçu au-delà des noms (inaccessibles, hyperinaccessibles, Mahlo, faiblement compacts, mesurables, compacts, supercompacts, Shelah, Woodin...).

Au moins peut-on définir un cardinal mesurable : on appelle ultrafiltre sur un ensemble X un ensemble U de parties de X, non vide, ne contenant pas la partie vide, stable par agrandissement et par intersections finies, et qui de toute partie de X contient soit la partie soit son complémentaire. On dit que l’ultrafiltre est σ-complet lorsque de plus il est stable par intersections dénombrables. Un exemple trivial est l’ensemble de toutes les parties contenant un élément x ∈ X fixé — de tels ultrafiltres sont dits principaux. Le plus petit cardinal sur lequel il existe un ultrafiltre σ-complet non principal est appelé le plus petit cardinal mesurable (s’il existe). Un tel cardinal est nécessairement inaccessible, Mahlo (et même beaucoup plus que ça).