De même qu'il m'arrive d'avoir des lubies dans d'autres domaines, j'en ai parfois en mathématiques. J'ai déjà mentionné il y a longtemps trois objets mathématiques (parmi de nombreux autres) me fascinent pour leur beauté et leur élégance : les ordinaux (encore que ce n'est pas clair si les ordinaux sont un objet mathématique) méritent aussi d'y figurer. Je suis en train de faire plein d'éditions à l'article Wikipédia à ce sujet (j'ai même fabriqué une image de ω² pour illustrer).
Il y a fort longtemps j'avais écrit un texte de vulgarisation à ce sujet, puis un autre. C'est quelque chose qu'on a vraiment envie de vulgariser parce que l'idée est excessivement simple : dès lors qu'on ordonne un ensemble (éventuellement infini) de choses de façon à ce qu'il ne soit pas possible de décroître indéfiniment, on a défini un ordinal. Ou encore : décrire un ordinal, c'est exactement décrire tous les ordinaux plus petits que lui (et comment les comparer). Tout le jeu, ensuite, consiste à se demander jusqu'où on peut monter — sachant que, quelle que soit l'intelligence avec laquelle on s'y prendra, il y aura toujours un plus petit ordinal qu'on n'atteindra pas (c'est ça qui fait que les ordinaux donnent une vision terrifiante de l'infini — un infini plus grand, si j'ose dire, que tout ce que vous pouvez construire par n'importe quelle méthode).
Si on veut, les ordinaux sont le défi que se lancent les petits
enfants, tu sais compter jusqu'à combien ?
, prolongé dans le
transfini, et appliqué aux mathématiques.
Tout le monde connaît, a priori, l'ordinal ω, celui des entiers naturels : même si on ignore la terminologie “entiers naturels” (et même si on ignore le zéro, ce qui, du point de vue de l'ordinal, ne change rien du tout), à part quelques peuplades perdues qui n'ont pas la notion de nombre, tout le monde sait compter : 0, 1, 2, 3… jusqu'à l'infini, peut-être pas effectivement jusqu'à l'infini, mais au moins potentiellement, et ceci définit justement l'ordinal ω.
Tout le monde peut encore comprendre ω2, soit deux copies successives de ω : il suffit de prendre les entiers naturels, et, après tous les entiers naturels n, mettre les ω+n, en décrétant que les ω+n se comparent comme les n et que les ω+n sont toujours supérieurs aux n :
0, 1, 2, 3, 4, … ω, ω+1, ω+2, ω+3, …
Une fois qu'on a compris ω, ω2, ω3 et ainsi de
suite, on a logiquement compris ω²,
qui n'en est que la limite. De même, ω³ ne pose pas de
problème conceptuel particulier. Les choses deviennent compliquées,
a priori, avec ωω, mais on ne peut pas
vraiment capituler puisque le truc génial avec les ordinaux, c'est que
dès qu'on a compris tous les ordinaux inférieurs à un ordinal donné,
on a compris celui-là (et ceci permet de conclure qu'on a compris tous
les ordinaux…). Ainsi, ωω c'est l'ordre
de toutes les expressions du genre ω³·42 + ω·1729 + 18.
Mais ensuite, ce n'est pas un pas conceptuel si compliqué d'imaginer
ωω2, voire ωω², et ainsi
de suite jusqu'à ωωω. En
empilant les ω on arrive jusqu'à l'ordinal où les problèmes de
visualisation commencent sérieusement : ε0. Avant
ε0, la forme
normale de Cantor (« écriture en base ω ») résout tous les
problèmes, après lui, trouver une écriture n'est plus aussi facile.
(D'ailleurs, quand le petit enfant demande : tu sais compter
jusqu'à combien ?
, Monsieur Peano est forcé
de reconnaître qu'il ne sait pas compter jusqu'à
ε0.) Pourtant, dans la mesure où on a compris
cette forme normale de Cantor, on a compris ε0. En
faisant un petit effort, on comprend aussi ε1, qui
correspond à l'ordre de toutes les expressions du même type que la
forme de Cantor pour les ordinaux avant ε0 mais en
ajoutant ε0 comme un nouveau symbole.
Après tous les ε0, ε1, εω, εε0, η0=εεε⋱ et autres lettres de l'alphabet grec (transfini) il vient un ordinal appelé l'ordinal de Feferman-Schütte, parfois noté Γ0. Là il se passe quelque chose de significativement nouveau, parce que c'est, dans un sens difficile à préciser mais très important, le plus petit ordinal qui ne peut pas se décrire en utilisant des ordinaux plus petits que lui. C'est l'ordinal que Feferman décrit comme mesurant la puissance de la prédicativité, et certains systèmes mathématiques importants cessent de savoir compter à partir de là. Au-delà il y a pourtant encore des ordinaux qu'on peut décrire : j'avoue que je n'y vois plus grand-chose, mais l'ordinal de Bachmann-Howard, par exemple, est très important, il mesure la force d'un système axiomatique notable, la théorie des ensembles de Kripke-Platek. Encore au-delà il y aurait un ordinal qui mesurerait la force de la théorie des ensembles de Zermelo-Fraenkel (mais personne ne sait le décrire précisément, autrement que par une arnaque qui ne nous apprend rien). Tout ceci a un sens difficile à expliquer mais très précis (et notamment, lorsqu'un énoncé arithmétique, bien que vrai, n'est pas démontrable, c'est parce qu'on ne sait pas « compter assez loin », au sens des ordinaux, pour arriver jusqu'à lui).
Tout ceci n'est rien, cependant, par rapport à l'ordinal de Church-Kleene (c'est amusant, tous les noms sont doubles, dans ce domaine) : il représente le plus petit ordinal à partir duquel il devient théoriquement impossible de représenter les ordinaux de façon informatisée, par exemple, ou de façon arithmétique. Malgré cela, on reste dans les ordinaux dénombrables, c'est-à-dire représentables, en théorie, par des petits dessins comme j'ai fait pour ω². Personne ne pourrait donner un sens à une représentation de ce genre pour l'ordinal de Church-Kleene (déjà, il faudrait pouvoir voir les détails infiniment fins), mais en principe il existe (et aucun ordinateur ne peut le produire). Alors que dire de ω1, le plus petit ordinal indénombrable, celui qui renferme tous les ordinaux dénombrables ? Le plus petit qui a la propriété — totalement démentielle — que toute suite dedans est bornée.
Comme les théologiens hindous qui, émerveillés d'avoir le système décimal à leur disposition, s'amusaient à écrire de (passablement) grands entiers et à raconter des choses avec, j'éprouve une fascination semblable pour les ordinaux, cette échelle du monde mathématique.