Fonction d'effondrement ordinale

Soit ${\displaystyle \Omega }$ le plus petit ordinal non dénombrable (généralement noté ${\displaystyle \omega _{1}}$)[2]. On définit une fonction ${\displaystyle \psi }$ (qui sera non décroissante et continue) envoyant n'importe quel ordinal ${\displaystyle \alpha }$ vers un ordinal dénombrable ${\displaystyle \psi (\alpha )}$, par récurrence transfinie sur ${\displaystyle \alpha }$, de la manière suivante : supposons que ${\displaystyle \psi (\beta )}$ ait été défini pour tous les ${\displaystyle \beta <\alpha }$. Soit ${\displaystyle C(\alpha )}$ l'ensemble des ordinaux engendrés (récursivement) à partir de ${\displaystyle 0}$, ${\displaystyle 1}$, ${\displaystyle \omega }$ et ${\displaystyle \Omega }$, de l'addition, la multiplication et l'exponentiation ordinale, et de la fonction ${\displaystyle \psi \upharpoonright _{\alpha }}$, c'est-à-dire de la restriction de ${\displaystyle \psi }$ aux ordinaux ${\displaystyle \beta <\alpha }$ (plus rigoureusement, on pose ${\displaystyle C(\alpha )_{0}=\{0,1,\omega ,\Omega \}}$ et${\displaystyle C(\alpha )_{n+1}=C(\alpha )_{n}\cup \{\beta _{1}+\beta _{2},\beta _{1}\beta _{2},{\beta _{1}}^{\beta _{2}}:\beta _{1},\beta _{2}\in C(\alpha )_{n}\}\cup \{\psi (\beta ):\beta \in C(\alpha )_{n}\land \beta <\alpha \}}$ pour tout ${\displaystyle n}$ ; ${\displaystyle C(\alpha )}$ est la réunion de tous les ${\displaystyle C(\alpha )_{n}}$). ${\displaystyle \psi (\alpha )}$ est alors défini comme le plus petit ordinal n'appartenant pas à ${\displaystyle C(\alpha )}$.

Intuitivement, la motivation de cette construction est que les opérations usuelles ne permettant pas d'aller très loin, dès qu'on rencontre un nouvel ordinal (comme limite de ceux déjà construits), plutôt que d'inventer un nouveau nom ad hoc, on le prend parmi des ordinaux bien au-delà de ceux qui nous intéressent (au-delà de ${\displaystyle \Omega }$, donc) ; on donne ainsi des noms à des ordinaux non dénombrables, et la liste de ces ordinaux étant nécessairement dénombrable, ${\displaystyle \psi }$ les « effondrera » vers des ordinaux dénombrables.

Pour montrer comment ${\displaystyle \psi }$ produit des notations pour de grands ordinaux dénombrables, on va calculer ses premières valeurs.

Par construction, ${\displaystyle C(0)}$ contient les ordinaux ${\displaystyle 0}$, ${\displaystyle 1}$, ${\displaystyle 2}$, ${\displaystyle 3}$, ${\displaystyle \omega }$, ${\displaystyle \omega +1}$, ${\displaystyle \omega +2}$, ${\displaystyle \omega 2}$, ${\displaystyle \omega 3}$, ${\displaystyle \omega ^{2}}$, ${\displaystyle \omega ^{3}}$, ${\displaystyle \omega ^{\omega }}$, ${\displaystyle \omega ^{\omega ^{\omega }}}$ , etc., ainsi que les ordinaux ${\displaystyle \Omega }$, ${\displaystyle \Omega +1}$, ${\displaystyle \Omega \omega }$, ${\displaystyle \Omega ^{\Omega }}$. Le premier ordinal qu'il ne contient pas est ${\displaystyle \varepsilon _{0}}$ (la limite de ${\displaystyle \omega }$, ${\displaystyle \omega ^{\omega }}$, ${\displaystyle \omega ^{\omega ^{\omega }}}$, etc., inférieur à ${\displaystyle \Omega }$ par hypothèse). La borne supérieure de ${\displaystyle C(0)}$ est ${\displaystyle \varepsilon _{\Omega +1}}$ (la limite de ${\displaystyle \Omega }$, ${\displaystyle \Omega ^{\Omega }}$, ${\displaystyle \Omega ^{\Omega ^{\Omega }}}$ , etc.), mais cela n'intervient pas dans la suite. Ainsi, ${\displaystyle \psi (0)=\varepsilon _{0}}$.

De même, ${\displaystyle C(1)}$ contient les ordinaux qu'on peut former à partir de ${\displaystyle 0}$, ${\displaystyle 1}$, ${\displaystyle \omega }$, ${\displaystyle \Omega }$ ainsi à présent que ${\displaystyle \varepsilon _{0}}$, ce qui permet de construire tous les ordinaux jusqu'à ${\displaystyle \varepsilon _{1}}$ (mais pas ce dernier) et donc ${\displaystyle \psi (1)=\varepsilon _{1}}$. Par récurrence transfinie sur ${\displaystyle \alpha }$, on démontre que ${\displaystyle \psi (\alpha )=\varepsilon _{\alpha }}$ ; cette démonstration ne fonctionnant que tant que ${\displaystyle \alpha <\varepsilon _{\alpha }}$. Ainsi :

${\displaystyle \psi (\alpha )=\varepsilon _{\alpha }=\phi _{1}(\alpha )}$ pour tous les ${\displaystyle \alpha \leq \zeta _{0}}$, où ${\displaystyle \zeta _{0}=\phi _{2}(0)}$ est le plus petit point fixe de ${\displaystyle \alpha \mapsto \varepsilon _{\alpha }}$ (ici, les ${\displaystyle \phi }$ sont les fonctions de Veblen définies en partant de ${\displaystyle \phi _{1}(\alpha )=\varepsilon _{\alpha }}$).

Ainsi ${\displaystyle \psi (\zeta _{0})=\zeta _{0}}$, mais ${\displaystyle \psi (\zeta _{0}+1)}$ n'est pas plus grand, puisqu'on ne peut pas construire ${\displaystyle \zeta _{0}}$ par un nombre fini d'itérations de ${\displaystyle \phi _{1}\colon \alpha \mapsto \varepsilon _{\alpha }}$ et donc ${\displaystyle \zeta _{0}}$ n'appartient à aucun ensemble ${\displaystyle C(\alpha )}$ pour ${\displaystyle \alpha \leq \Omega }$ ; la fonction ${\displaystyle \psi }$ est donc longtemps « bloquée » à ${\displaystyle \zeta _{0}}$ : ${\displaystyle \psi (\alpha )=\zeta _{0}}$ pour tous les ${\displaystyle \alpha }$ tels que ${\displaystyle \zeta _{0}\leq \alpha \leq \Omega }$.

On continue à avoir ${\displaystyle \psi (\Omega )=\zeta _{0}}$. Mais pour le calcul de ${\displaystyle \psi (\Omega +1)}$, quelque chose a changé : ${\displaystyle \Omega }$ ayant été (artificiellement) inclus dans tous les ${\displaystyle C(\alpha )}$, les règles permettent d'utiliser la valeur ${\displaystyle \psi (\Omega )=\zeta _{0}}$. Ainsi, ${\displaystyle C(\Omega +1)}$ contient tous les ordinaux qu'on peut construire à partir de ${\displaystyle 0}$, ${\displaystyle 1}$, ${\displaystyle \omega }$, ${\displaystyle \Omega ,}$ la fonction ${\displaystyle \phi _{1}\colon \alpha \mapsto \varepsilon _{\alpha }}$ jusqu'à ${\displaystyle \zeta _{0}}$ et cette fois également ${\displaystyle \zeta _{0}}$. Le plus petit ordinal qu'on ne peut construire ainsi est ${\displaystyle \varepsilon _{\zeta _{0}+1}}$ (le premier ${\displaystyle \varepsilon }$-ordinal après ${\displaystyle \zeta _{0}}$).

La définition ${\displaystyle \psi (\Omega )=\zeta _{0}}$, et les valeurs suivantes de ${\displaystyle \psi }$ telles que ${\displaystyle \psi (\Omega +1)=\varepsilon _{\zeta _{0}+1}}$ sont dites imprédicatives parce qu'elles utilisent des ordinaux (ici, ${\displaystyle \Omega }$) supérieurs à ceux qu'on veut définir (ici, ${\displaystyle \zeta _{0}}$).

Le fait que ${\displaystyle \psi (\Omega +\alpha )=\varepsilon _{\zeta _{0}+\alpha }}$ reste vrai pour tous les ${\displaystyle \alpha \leq \zeta _{1}=\phi _{2}(1)}$ (en particulier ${\displaystyle \psi (\Omega +\zeta _{0})=\varepsilon _{\zeta _{0}2}}$, mais maintenant que ${\displaystyle \zeta _{0}}$ est construit, rien n'empêche de continuer au delà). cependant, à ${\displaystyle \zeta _{1}=\phi _{2}(1)}$ (le premier point fixe de ${\displaystyle \alpha \mapsto \varepsilon _{\alpha }}$ après ${\displaystyle \zeta _{0}}$), la construction est à nouveau bloquée, car ${\displaystyle \zeta _{1}}$ ne peut être obtenu à partir de ${\displaystyle \zeta _{0}}$ (et des ordinaux plus petits) par un nombre fini d'application de la fonction ${\displaystyle \varepsilon }$. On voit ainsi comme précédemment que ${\displaystyle \psi (\Omega 2)=\zeta _{1}}$.

Le même raisonnement montre que ${\displaystyle \psi (\Omega (1+\alpha ))=\phi _{2}(\alpha )}$ pour tous les ${\displaystyle \alpha \leq \phi _{3}(0)}$ (où ${\displaystyle \phi _{2}}$ énumère les points fixes de ${\displaystyle \phi _{1}\colon \alpha \mapsto \varepsilon _{\alpha }}$ et${\displaystyle \phi _{3}(0)}$ est le premier point fixe de ${\displaystyle \phi _{2}}$). On obtient ainsi${\displaystyle \psi (\Omega ^{2})=\phi _{3}(0)}$.

On voit de même que ${\displaystyle \psi (\Omega ^{\alpha })=\phi _{1+\alpha }(0)}$ tant que ${\displaystyle \alpha }$ est plus petit que le premier point fixe ${\displaystyle \Gamma _{0}}$ de ${\displaystyle \alpha \mapsto \phi _{\alpha }(0)}$, lequel est l'ordinal de Feferman-Schütte. Ainsi, ${\displaystyle \psi (\Omega ^{\Omega })=\Gamma _{0}.}$

On a ${\displaystyle \psi (\Omega ^{\Omega }+\Omega ^{\alpha })=\phi _{\Gamma _{0}+\alpha }(0)}$pour tous les ${\displaystyle \alpha \leq \Gamma _{1}}$, où ${\displaystyle \Gamma _{1}}$ est le prochain point fixe de ${\displaystyle \alpha \mapsto \phi _{\alpha }(0)}$. Utilisant la fonction ${\displaystyle \alpha \mapsto \Gamma _{\alpha }}$ qui énumère ces points fixes (et qu'on peut également noter ${\displaystyle \phi (1,0,\alpha )}$ à l'aide des fonctions de Veblen à plusieurs variables), on a ${\displaystyle \psi (\Omega ^{\Omega }(1+\alpha ))=\Gamma _{\alpha }}$, jusqu'au premier point fixe ${\displaystyle \phi (1,1,0)}$ de la fonction ${\displaystyle \alpha \mapsto \Gamma _{\alpha }}$ elle-même, qui sera ${\displaystyle \psi (\Omega ^{\Omega +1})}$ (et le premier point fixe ${\displaystyle \phi (2,0,0)}$ des fonctions ${\displaystyle \alpha \mapsto \phi (1,\alpha ,0)}$ sera ${\displaystyle \psi (\Omega ^{\Omega 2})}$). Continuant ainsi :

• ${\displaystyle \psi (\Omega ^{\Omega ^{2}})}$ est l'ordinal d'Ackermann (en) (la limite des ordinaux de la forme ${\displaystyle \phi (\alpha ,\beta ,\gamma )}$),
• ${\displaystyle \psi (\Omega ^{\Omega ^{\omega }})}$ est le petit ordinal de Veblen (en) (la limite des ordinaux de la forme ${\displaystyle \phi (\ldots )}$ avec un nombre fini de variables),
• ${\displaystyle \psi (\Omega ^{\Omega ^{\Omega }})}$ est le grand ordinal de Veblen (en) (la limite des ordinaux de la forme ${\displaystyle \phi (\ldots )}$ avec un nombre transfini (mais de la même forme) de variables),
• la limite ${\displaystyle \psi (\varepsilon _{\Omega +1})}$ de ${\displaystyle \psi (\Omega )}$, ${\displaystyle \psi (\Omega ^{\Omega })}$, ${\displaystyle \psi (\Omega ^{\Omega ^{\Omega }})}$, etc., est l'ordinal de Bachmann-Howard (en). Ensuite, la fonction ${\displaystyle \psi }$ est constante, et il est impossible d'aller plus loin avec cette construction.

Généralisant la forme normale de Cantor, la fonction ${\displaystyle \psi }$ permet de définir des notations « canoniques » pour tous les ordinaux jusqu'à l'ordinal de Bachmann-Howard.

Si ${\displaystyle \delta }$ est un ordinal qui est une puissance de ${\displaystyle \omega }$ (par exemple ${\displaystyle \omega }$ lui-même, ou ${\displaystyle \varepsilon _{0}}$, ou ${\displaystyle \Omega }$), tout ordinal ${\displaystyle \alpha }$ (non nul) possède une représentation unique de la forme ${\displaystyle \delta ^{\beta _{1}}\gamma _{1}+\ldots +\delta ^{\beta _{k}}\gamma _{k}}$, où ${\displaystyle k}$ est un entier, ${\displaystyle \gamma _{1},\ldots ,\gamma _{k}}$ sont des ordinaux non nuls strictement inférieurs à ${\displaystyle \delta }$, et ${\displaystyle \beta _{1}>\beta _{2}>\cdots >\beta _{k}}$ sont des ordinaux (${\displaystyle \beta _{k}}$ pouvant être nul). Cette « représentation en base ${\displaystyle \delta }$ » généralise la forme normale de Cantor (qui correspond au cas ${\displaystyle \delta =\omega }$). Il est possible que cette forme n'apporte rien, lorsque ${\displaystyle \alpha =\delta ^{\alpha }}$, mais dans tous les autres cas, les ${\displaystyle \beta _{i}}$ sont tous inférieurs à ${\displaystyle \alpha }$ ; cette représentation est également triviale lorsque ${\displaystyle \alpha <\delta }$, auquel cas ${\displaystyle k\leq 1}$ et ${\displaystyle \gamma _{1}=\alpha }$.

Si ${\displaystyle \alpha }$ est un ordinal inférieur à ${\displaystyle \varepsilon _{\Omega +1}}$, sa représentation en base ${\displaystyle \Omega }$ a des coefficients ${\displaystyle \gamma _{i}<\Omega }$ (par définition) et des exposants ${\displaystyle \beta _{i}<\alpha }$ (puisque ${\displaystyle \alpha <\varepsilon _{\Omega +1}}$) ; on peut donc réécrire ces exposants en base ${\displaystyle \Omega }$ et répéter cette opération jusqu'à l'arrêt de l'algorithme (toute suite décroissante d'ordinaux étant finie). L'expression correspondante est appelée représentation itérée de ${\displaystyle \alpha }$ en base ${\displaystyle \Omega }$ aet les différents coefficients apparaissant (y compris en tant qu'exposants) les morceaux de la représentation (tous ${\displaystyle <\Omega }$), ou, pour abréger, les ${\displaystyle \Omega }$-morceaux de ${\displaystyle \alpha }$.

• La fonction ${\displaystyle \psi }$ est non-décroissante et continue.
• Si ${\displaystyle \psi (\alpha )=\psi (\beta )}$ avec ${\displaystyle \beta <\alpha }$, alors ${\displaystyle C(\alpha )=C(\beta )}$. En fait, aucun ordinal ${\displaystyle \beta '}$ avec ${\displaystyle \beta \leq \beta '<\alpha }$ ne peut appartenir à ${\displaystyle C(\alpha )}$.
• Toute valeur ${\displaystyle \gamma =\psi (\alpha )}$ prise par ${\displaystyle \psi }$ est un ${\displaystyle \varepsilon }$-ordinal (c'est-à-dire un point fixe de ${\displaystyle \beta \mapsto \omega ^{\beta }}$).
• Soit ${\displaystyle \delta }$ un ${\displaystyle \varepsilon }$-ordinal et ${\displaystyle \alpha }$ un ordinal tel que ${\displaystyle \psi (\beta )<\delta }$ pour tout ${\displaystyle \beta <\alpha }$ ; alors les ${\displaystyle \Omega }$-morceaux de tout élément de ${\displaystyle C(\alpha )}$ sont inférieurs à ${\displaystyle \delta }$. De plus, ${\displaystyle \psi (\alpha )\leq \delta }$ (et ${\displaystyle \delta \not \in C(\alpha )}$).
• Tout ${\displaystyle \varepsilon }$-ordinal inférieur à un élément de l'image de ${\displaystyle \psi }$ est lui-même dans l'image de ${\displaystyle \psi }$.
• Si ${\displaystyle \psi (\alpha )=\delta }$, l'ensemble ${\displaystyle C(\alpha )}$ est formé des ordinaux ${\displaystyle \gamma }$ (inférieurs à ${\displaystyle \varepsilon _{\Omega +1}}$) dont les ${\displaystyle \Omega }$-morceaux sont inférieurs à ${\displaystyle \delta }$.

Les résultats précédents permettent de définir une notation ordinale canonique pour tout ordinal ${\displaystyle \gamma }$ inférieur à l'ordinal de Bachmann-Howard, par récurrence transfinie sur ${\displaystyle \gamma }$.

Si ${\displaystyle \gamma }$ est inférieur à ${\displaystyle \varepsilon _{0}}$, on prend pour notation de ${\displaystyle \gamma }$ la forme normale de Cantor (itérée pour les exposants). Sinon, il existe un plus grand ${\displaystyle \varepsilon }$-ordinal ${\displaystyle \delta }$ inférieur ou égal à ${\displaystyle \gamma }$ (parce que l'ensemble des ${\displaystyle \varepsilon }$-ordinaux est fermé); si ${\displaystyle \delta <\gamma }$, par hypothèse de récurrence une notation a été définie pour ${\displaystyle \delta }$ et dont la représentation de ${\displaystyle \gamma }$ en base ${\displaystyle \delta }$ est une notation de ${\displaystyle \gamma }$.

Le seul cas restant est celui où ${\displaystyle \gamma =\delta }$ est un ${\displaystyle \varepsilon }$-ordinal :dans ce cas, on peut écrire ${\displaystyle \delta =\psi (\alpha )}$ pour un certain ordinal ${\displaystyle \alpha <\varepsilon _{\Omega +1}}$ (éventuellement non dénombrable) ; soit ${\displaystyle \alpha }$ le plus grand ordinal ayant cette propriété (il existe, puisque ${\displaystyle \psi }$ est continue). On utilise la représentation (itérée) en base ${\displaystyle \Omega }$ de ${\displaystyle \alpha }$ ; il ne reste qu'à montrer que chaque morceau de cette représentation est inférieur à ${\displaystyle \delta }$ (et donc a déjà une représentation). Si ce n'était pas le cas, ${\displaystyle C(\alpha )}$ ne contiendrait pas ${\displaystyle \alpha }$ et alors on aurait ${\displaystyle C(\alpha +1)=C(\alpha )}$ (ils sont fermés pour les mêmes opérations, la valeur de ${\displaystyle \psi }$ à ${\displaystyle \alpha }$ ne pouvant pas être utilisée), et donc on aurait ${\displaystyle \psi (\alpha +1)=\psi (\alpha )=\delta }$, contredisant la maximalité de ${\displaystyle \alpha }$.

Ces notations canoniques sont définies également pour certains ordinaux non dénombrables, ceux dont les ${\displaystyle \Omega }$-morceaux sont inférieurs à l'ordinal de Bachmann-Howard ; cette notation est utilisée pour les arguments (éventuellement non dénombrables) de la fonction ${\displaystyle \psi }$.

Pour les ordinaux inférieurs à ${\displaystyle \varepsilon _{0}=\psi (0)}$, cette notation canonique coïncide par définition avec la forme normale de Cantor

Pour les ordinaux inférieurs à ${\displaystyle \varepsilon _{1}=\psi (1)}$, la notation coïncide avec la représentation (itérée) en base ${\displaystyle \varepsilon _{0}}$ notation, ainsi ${\displaystyle \omega ^{\omega ^{\varepsilon _{0}+\omega }}}$ sera écrit ${\displaystyle {\varepsilon _{0}}^{\omega ^{\omega }}}$, ou plus rigoureusement ${\displaystyle \psi (0)^{\omega ^{\omega }}}$.

De même, pour les ordinaux inférieurs à ${\displaystyle \varepsilon _{2}=\psi (2)}$, on utilise la représentation en base ${\displaystyle \varepsilon _{1}}$ les morceaux étant écrits en base ${\displaystyle \varepsilon _{0}}$ (et les morceaux de cela étant écrit en forme normale de Cantor), ainsi ${\displaystyle \omega ^{\omega ^{\varepsilon _{1}+\varepsilon _{0}+1}}}$ est noté ${\displaystyle {\varepsilon _{1}}^{\varepsilon _{0}\omega }}$, ou plus précisément ${\displaystyle \psi (1)^{\psi (0)\,\omega }}$. Jusqu'à ${\displaystyle \zeta _{0}=\psi (\Omega )}$, on utilise ainsi comme base le plus grand ${\displaystyle \varepsilon }$-ordinal donnant une représentation non triviale.

Au delà, on doit utiliser des ordinaux plus grands que ${\displaystyle \Omega }$ ; on les représente toujours en base ${\displaystyle \Omega }$ (itérée), les morceaux eux-mêmes, sont notés comme précédemment (avec comme base le plus grand ${\displaystyle \varepsilon }$-ordinal possible).

Bien que ${\displaystyle \psi (\varepsilon _{\Omega +1})}$ soit égal à l'ordinal de Bachmann–Howard, ce n'en est pas une notation canonique en ce sens ; celles-ci ne sont définies que pour les ordinaux plus petits.

Ce système de notations a la propriété de décroissance des arguments des fonctions ${\displaystyle \psi }$ emboîtées (c'est-à-dire que les arguments d'une fonction ${\displaystyle \psi }$ « intérieure » sont toujours plus petits que ceux d'une fonction ${\displaystyle \psi }$ qui l'appelle) ; ceci est une conséquence de ce que les ${\displaystyle \Omega }$-morceaux de ${\displaystyle \alpha }$, où ${\displaystyle \alpha }$ est le plus grand possible tel que ${\displaystyle \psi (\alpha )=\delta }$ pour un certain ${\displaystyle \varepsilon }$-ordinal ${\displaystyle \delta }$, sont tous inférieurs à ${\displaystyle \delta }$. Par exemple, ${\displaystyle \psi (\psi (\Omega )+1)}$ n'est pas une notation ; c'est une expression bien formée, égale à ${\displaystyle \psi (\Omega )=\zeta _{0}}$ puisque ${\displaystyle \psi }$ est constante entre ${\displaystyle \zeta _{0}}$ et ${\displaystyle \Omega }$, mais elle n'est pas produite par l'algorithme récursif qui vient d'être décrit.

La canonicité peut être vérifiée syntaxiquement par récurrence : une expression est canonique isi et seulement si c'est la forme normale de Cantor (itérée) d'un ordinal inférieur à ${\displaystyle \varepsilon _{0}}$, ou une représentation (itérée) en base ${\displaystyle \delta }$ dont tous les morceaux sont canoniques pour un ${\displaystyle \delta }$ de la forme ${\displaystyle \delta =\psi (\alpha )}$, où ${\displaystyle \alpha }$ est lui même écrit en représentation de base ${\displaystyle \Omega }$ dont tous les morceaux sont canoniques et inférieurs à ${\displaystyle \delta }$.

Par exemple, ${\displaystyle \psi (\Omega ^{\omega +1}\,\psi (\Omega )+\psi (\Omega ^{\omega })^{\psi (\Omega ^{2})}42)^{\psi (1729)\,\omega }}$ est une notation canonique pour un ordinal inférieur à l'ordinal de Feferman–Schütte ; utilisant les fonctions de Veblen, il s'écrit ${\displaystyle \phi _{1}(\phi _{\omega +1}(\phi _{2}(0))+\phi _{\omega }(0)^{\phi _{3}(0)}42)^{\phi _{1}(1729)\,\omega }}$.

La comparaison des ordinaux écrit sous forme canonique se fait lexicographiquement, en remarquant que (par hypothèse) ${\displaystyle \Omega }$ est supérieur à ${\displaystyle \psi (\alpha )}$ pour tout ${\displaystyle \alpha }$. Ainsi, ${\displaystyle \psi (\Omega ^{\Omega })}$ (l'ordinal de Feferman–Schütte) iest beaucoup plus grand que ${\displaystyle \psi (\Omega ^{\psi (\Omega )})=\phi _{\phi _{2}(0)}(0)}$, et ce dernier est lui-même beaucoup plus grand que ${\displaystyle \psi (\Omega )^{\psi (\Omega )}=\phi _{2}(0)^{\phi _{2}(0)}}$ ; en fait, ${\displaystyle \psi (\Omega )^{\psi (\Omega )}}$ est déjà inférieur à ${\displaystyle \psi (\Omega +1)}$.

Une importante application de ces notations canoniques est la possibilité de définir des suites fondamentales (ou suites standard) convergeant vers n'importe quel ordinal limite inférieur à l'ordinal de Bachmann–Howard (l'algorithme qui suit définit également des suites standard pour certains ordinaux non dénombrables, à condition qu'ils soient de cofinalité dénombrable)

Les règles ci-dessous sont plus ou moins évidentes à l'exception de la dernière :

• Le cas des représentations itérées en base ${\displaystyle \delta }$ : pour définir une suite fondamentale convergeant vers ${\displaystyle \alpha =\delta ^{\beta _{1}}\gamma _{1}+\cdots +\delta ^{\beta _{k}}\gamma _{k}}$, avec ${\displaystyle \delta }$ = ${\displaystyle \omega }$ ou ${\displaystyle \psi (\cdots )}$ (ou ${\displaystyle \Omega }$, mais ce cas est détaillé ci-dessous) :
  • si ${\displaystyle \beta _{k}}$ est nul et ${\displaystyle \gamma _{k}}$ est un successeur, ${\displaystyle \alpha }$ est un successeur ;
  • si ${\displaystyle \gamma _{k}}$ est limite, on prend la suite fondamentale convergeant vers ${\displaystyle \gamma _{k}}$ et on remplace ${\displaystyle \gamma _{k}}$ dans l'expression de ${\displaystyle \alpha }$ par les éléments de cette suite ;
  • si ${\displaystyle \gamma _{k}}$ est un successeur et ${\displaystyle \beta _{k}}$ est limite, on réécrit le dernier terme ${\displaystyle \delta ^{\beta _{k}}\gamma _{k}}$ comme ${\displaystyle \delta ^{\beta _{k}}(\gamma _{k}-1)+\delta ^{\beta _{k}}}$, et on remplace ${\displaystyle \beta _{k}}$ dans le second terme par les éléments de la suite fondamentale convergeant vers lui ;
  • si ${\displaystyle \gamma _{k}}$ et ${\displaystyle \beta _{k}}$ sont successeurs, on réécrit le dernier terme ${\displaystyle \delta ^{\beta _{k}}\gamma _{k}}$ comme ${\displaystyle \delta ^{\beta _{k}}(\gamma _{k}-1)+\delta ^{\beta _{k}-1}\delta }$, et on remplace le dernier ${\displaystyle \delta }$ de cette expression par les éléments de la suite fondamentale convergeant vers lui.
• La suite fondamentale pour ${\displaystyle \delta }$ = ${\displaystyle \omega }$ est la suite évidente ${\displaystyle 0}$, ${\displaystyle 1}$, ${\displaystyle 2}$, ${\displaystyle 3}$… ;
• La suite fondamentale pour ${\displaystyle \delta =\psi (0)}$ est la suite ${\displaystyle \omega }$, ${\displaystyle \omega ^{\omega }}$, ${\displaystyle \omega ^{\omega ^{\omega }}}$… ;
• La suite fondamentale pour ${\displaystyle \delta =\psi (\alpha +1)}$ est la suite ${\displaystyle \psi (\alpha )}$, ${\displaystyle \psi (\alpha )^{\psi (\alpha )}}$, ${\displaystyle \psi (\alpha )^{\psi (\alpha )^{\psi (\alpha )}}}$… ;
• Si ${\displaystyle \delta =\psi (\alpha )}$, où ${\displaystyle \alpha }$ est un ordinal limite de cofinalité dénombrable, ${\displaystyle \alpha }$ possède une suite standard ; la suite standard pour ${\displaystyle \delta }$ est obtenue en appliquant ${\displaystyle \psi }$ à la suite standard pour ${\displaystyle \alpha }$ (utilisant le fait que ${\displaystyle \psi }$ est continue et croissante). Voici quelques exemples de ces suites :
  • la suite fondamentale pour ${\displaystyle \omega ^{2}}$ est : ${\displaystyle 0}$, ${\displaystyle \omega }$, ${\displaystyle \omega 2}$, ${\displaystyle \omega 3}$…
  • la suite fondamentale pour ${\displaystyle \psi (\omega ^{\omega })}$ est : ${\displaystyle \psi (1)}$, ${\displaystyle \psi (\omega )}$, ${\displaystyle \psi (\omega ^{2})}$, ${\displaystyle \psi (\omega ^{3})}$…
  • la suite fondamentale pour ${\displaystyle \psi (\Omega )^{\omega }}$ est : ${\displaystyle 1}$, ${\displaystyle \psi (\Omega )}$, ${\displaystyle \psi (\Omega )^{2}}$, ${\displaystyle \psi (\Omega )^{3}}$…
  • la suite fondamentale pour ${\displaystyle \psi (\Omega +1)}$ est : ${\displaystyle \psi (\Omega )}$, ${\displaystyle \psi (\Omega )^{\psi (\Omega )}}$, ${\displaystyle \psi (\Omega )^{\psi (\Omega )^{\psi (\Omega )}}}$…
  • la suite fondamentale pour ${\displaystyle \psi (\Omega ^{\psi (0)})}$ est : ${\displaystyle \psi (\Omega ^{\omega })}$, ${\displaystyle \psi (\Omega ^{\omega ^{\omega }})}$, ${\displaystyle \psi (\Omega ^{\omega ^{\omega ^{\omega }}})}$… (déduite de la suite fondamentale pour ${\displaystyle \psi (0)}$).
• Le seul cas difficile est donc celui où ${\displaystyle \delta =\psi (\alpha )}$, où ${\displaystyle \alpha }$ est de cofinalité non dénombrable (par exemple ${\displaystyle \alpha =\Omega }$). Il n'y a évidemment pas de suite convergeant vers ${\displaystyle \alpha }$, mais il est possible de définir une suite convergeant vers ${\displaystyle \rho <\alpha }$ tel que ${\displaystyle \psi }$ soit constante entre ${\displaystyle \rho }$ et ${\displaystyle \alpha }$. Ce ${\displaystyle \rho }$ sera le premier point fixe d'une fonction ${\displaystyle \xi \mapsto h(\psi (\xi ))}$, construite en appliquant les mêmes règles de décomposition à la forme ${\displaystyle \alpha =h(\Omega )}$. On obtient ainsi une suite ${\displaystyle 0}$, ${\displaystyle h(\psi (0))}$, ${\displaystyle h(\psi (h(\psi (0))))}$… convergeant vers ${\displaystyle \rho }$, et la suite fondamentale pour ${\displaystyle \psi (\alpha )=\psi (\rho )}$ est donc ${\displaystyle \psi (0)}$, ${\displaystyle \psi (h(\psi (0)))}$, ${\displaystyle \psi (h(\psi (h(\psi (0)))))}$… Voici quelques exemples :
  • la suite fondamentale pour ${\displaystyle \psi (\Omega )}$ est : ${\displaystyle \psi (0)}$, ${\displaystyle \psi (\psi (0))}$, ${\displaystyle \psi (\psi (\psi (0)))}$… Elle converge bien vers ${\displaystyle \rho =\psi (\Omega )=\zeta _{0}}$.
  • la suite fondamentale pour ${\displaystyle \psi (\Omega 2)}$ est: ${\displaystyle \psi (0)}$, ${\displaystyle \psi (\Omega +\psi (0))}$, ${\displaystyle \psi (\Omega +\psi (\Omega +\psi (0)))}$… Elle converge vers la valeur ${\displaystyle \zeta _{1}}$ de ${\displaystyle \psi }$ à ${\displaystyle \rho =\Omega +\psi (\Omega 2)=\Omega +\zeta _{1}}$(après lequel ${\displaystyle \psi }$ est constante jusqu'à ${\displaystyle \Omega 2}$.
  • un exemple plus complexe est la suite fondamentale pour ${\displaystyle \psi (\Omega ^{\Omega ^{2}+\Omega 3})}$ : ${\displaystyle \psi (0)}$, ${\displaystyle \psi (\Omega ^{\Omega ^{2}+\Omega 2+\psi (0)})}$, ${\displaystyle \psi (\Omega ^{\Omega ^{2}+\Omega 2+\psi (\Omega ^{\Omega ^{2}+\Omega 2+\psi (0)})})}$… (on remarquera la légère transformation du terme ${\displaystyle \Omega 3}$).
  • la suite fondamentale pour ${\displaystyle \psi (\Omega ^{\psi (\Omega )})}$ est : ${\displaystyle \psi (\Omega ^{\psi (0)})}$, ${\displaystyle \psi (\Omega ^{\psi (\psi (0))})}$, ${\displaystyle \psi (\Omega ^{\psi (\psi (\psi (0)))})}$… (utilisant les premières règles, et la suite fondamentale pour ${\displaystyle \psi (\Omega )}$).

Bien que l'ordinal de Bachmann–Howard ${\displaystyle \psi (\varepsilon _{\Omega +1})}$ n'a pas lui-même de notation canonique, il est également utile de prendre pour lui la suite canonique ${\displaystyle \psi (\Omega )}$, ${\displaystyle \psi (\Omega ^{\Omega })}$, ${\displaystyle \psi (\Omega ^{\Omega ^{\Omega }})}$…

Une utilisation de ces suites est la possibilité d'une définition (plus ou moins canonique, et prolongeant les définitions données usuellement) de la hiérarchie de croissance rapide jusqu'à ${\displaystyle f_{\psi (\varepsilon _{\Omega +1})}}$.

Partant d'un ordinal inférieur ou égal à l'ordinal de Bachmann–Howard, appliquer répétitivement (jusqu'à l'arrêt éventuel sur l'ordinal 0) la règle suivante :

• si l'ordinal est successeur, le remplacer par l'ordinal précédent (autrement dit, soustraire 1)
• si l'ordinal est limite, le remplacer par un ordinal arbitraire de la suite fondamentale qui lui correspond

Ce processus s'arrête toujours (parce qu'une suite décroissante d'ordinaux est toujours finie), mais comme pour les suites de Goodstein :

1. la longueur de la suite avant l'arrêt peut être inimaginablement grande,
2. la démonstration de l'arrêt peut être impossible dans des systèmes moins puissants que ZFC (par exemple dans l'arithmétique de Peano).

Par exemple, voici le début d'une telle suite (obtenu en choisissant à chaque étape 2 le troisième terme de la suite fondamentale) : en partant de ${\displaystyle \psi (\Omega ^{\Omega ^{\omega }})}$ (le petit ordinal de Veblen), on peut descendre à ${\displaystyle \psi (\Omega ^{\Omega ^{3}})}$, puis à ${\displaystyle \psi (\Omega ^{\Omega ^{2}\psi (0)})}$, puis ${\displaystyle \psi (\Omega ^{\Omega ^{2}\omega ^{\omega }})}$ puis ${\displaystyle \psi (\Omega ^{\Omega ^{2}\omega ^{3}})}$ puis ${\displaystyle \psi (\Omega ^{\Omega ^{2}\omega ^{2}3})}$ puis ${\displaystyle \psi (\Omega ^{\Omega ^{2}(\omega ^{2}2+\omega )})}$ puis ${\displaystyle \psi (\Omega ^{\Omega ^{2}(\omega ^{2}2+1)})}$ puis ${\displaystyle \psi (\Omega ^{\Omega ^{2}\omega ^{2}2+\Omega \psi (\Omega ^{\Omega ^{2}\omega ^{2}2+\Omega \psi (0)})})}$ puis ${\displaystyle \psi (\Omega ^{\Omega ^{2}\omega ^{2}2+\Omega \psi (\Omega ^{\Omega ^{2}\omega ^{2}2+\Omega \omega ^{\omega ^{\omega }}})})}$, etc. Bien que ces expressions semblent de plus en plus compliquées, elles représentent bien en fait une suite d'ordinaux décroissante.

Le point 1 ci-dessus peut être illustré plus précisément comme suit : pour un ordinal donné ${\displaystyle \alpha }$, on peut définir une fonction ${\displaystyle f_{\alpha }(n)}$ qui compte le nombre d'étapes avant la fin en prenant systématiquement le ${\displaystyle n}$-ème élément de la suite fondamentale (on a donc ${\displaystyle f_{\alpha }(n)=f_{\alpha [n]}(n)+1}$). Cette fonction est à croissance assez rapide : ${\displaystyle f_{\omega ^{\omega }}(n)}$ vaut environ ${\displaystyle n^{n}}$, ${\displaystyle f_{\psi (\Omega ^{\omega })}(n)}$ est comparable à la fonction d'Ackermann ${\displaystyle A(n,n)}$, et ${\displaystyle f_{\psi (\varepsilon _{\Omega +1})}(n)}$ est comparable à la fonction de Goodstein. Une légère modification, prenant ${\displaystyle g_{\alpha }(n)=g_{\alpha [n]}(n+1)+1}$, amène à des fonctions à peu près aussi rapidement croissantes que celles de la hiérarchie de croissance rapide.

Le point 2 correspond à la notion d'analyse ordinale (en) : la théorie des ensembles de Kripke-Platek, par exemple, peut démontrer que le processus s'arrête pour tout ordinal ${\displaystyle \alpha }$ inférieur à l'ordinal de Bachmann-Howard ordinal, mais ne peut le faire pour l'ordinal de Bachmann-Howard lui-même[3]. Il est bien connu (depuis les travaux de Gentzen) que l'arithmétique de Peano est limitée de même aux ordinaux inférieurs à ${\displaystyle \varepsilon _{0}}$.

Si l'on limite les opérations permises pour définir ${\displaystyle \psi }$ (ce qui n'a pas vraiment d'intérêt pratique), on découvre que l'affaiblissement ne provient pas tant des opérations sur les ordinaux dénombrables, que des ordinaux qu'on ne peut plus utiliser en partant de ${\displaystyle \Omega }$. Par exemple, si on supprime l'exponentiation dans les opérations permettant de construire ${\displaystyle C(\alpha )}$, ion obtient${\displaystyle \psi (0)=\omega ^{\omega }}$ (le plus petit ordinal qu'on ne peut construire à partir de ${\displaystyle 0}$, ${\displaystyle 1}$ et ${\displaystyle \omega }$), puis ${\displaystyle \psi (1)=\omega ^{\omega ^{2}}}$ et de même ${\displaystyle \psi (\omega )=\omega ^{\omega ^{\omega }}}$, ${\displaystyle \psi (\psi (0))=\omega ^{\omega ^{\omega ^{\omega }}}}$jusqu'au premier point fixe, qui sera donc${\displaystyle \psi (\Omega )=\varepsilon _{0}}$. Ensuite, ${\displaystyle \psi (\Omega +1)={\varepsilon _{0}}^{\omega }}$ et ainsi de suite jusqu'à ${\displaystyle \psi (\Omega 2)=\varepsilon _{1}}$. On peut ensuite former ${\displaystyle \psi (\Omega ^{2})=\phi _{2}(0)}$, ${\displaystyle \psi (\Omega ^{3})=\phi _{3}(0)}$ etc., mais la construction s'arrête là, puisqu'on ne peut atteindre ${\displaystyle \Omega ^{\omega }}$.

On a vu que ${\displaystyle \psi (\varepsilon _{\Omega +1})}$ est l'ordinal de Bachmann-Howard. Avec les définitions précédentes ${\displaystyle \psi (\varepsilon _{\Omega +1}+1)}$ n'est pas plus grand, parce qu'il n'y a pas de notations pour ${\displaystyle \varepsilon _{\Omega +1}}$ (il n'appartient à aucun ${\displaystyle C(\alpha )}$ et en est toujours la borne supérieure). On pourrait ajouter aux opérations permises dans la construction de ${\displaystyle C(\alpha )}$ les fonctions ${\displaystyle \varepsilon }$ (ou plus généralement les fonctions de Veblen), mais il s'avère que cela ne permet pas d'aller beaucoup plus loin, essentiellement parce que la fonction ${\displaystyle \psi }$ ne construit pas de nouveaux ordinaux non dénombrables (par exemple, ${\displaystyle \psi (\Omega +1)}$ est${\displaystyle \varepsilon _{\phi _{2}(0)+1}}$, certainement pas ${\displaystyle \varepsilon _{\Omega +1}}$) ; la solution est d'introduire un nouvel ordinal non dénombrable ${\displaystyle \Omega _{2}}$ (plus grand que tous les ordinaux qui vont être construits, par exemple on prend ${\displaystyle \Omega =\omega _{1}}$ et ${\displaystyle \Omega _{2}=\omega _{2}}$) et de construire une nouvelle fonction ${\displaystyle \psi _{1}}$ sur le même modèle :

${\displaystyle \psi _{1}(\alpha )}$ est le plus petit ordinal qui ne peut être exprimé à partir des ordinaux dénombrables, de ${\displaystyle \Omega }$ et de ${\displaystyle \Omega _{2}}$, en utilisant sommes, produits, exponentielles, et les valeurs de ${\displaystyle \psi _{1}}$ sur les ordinaux déjà construits inférieurs à ${\displaystyle \alpha }$.

Ainsi, ${\displaystyle \psi _{1}(0)=\varepsilon _{\Omega +1}}$, et plus généralement ${\displaystyle \psi _{1}(\alpha )=\varepsilon _{\Omega +1+\alpha }}$ pour tous les ordinaux dénombrables, et même au delà (${\displaystyle \psi _{1}(\Omega )=\varepsilon _{\Omega 2}}$ et ${\displaystyle \psi _{1}(\psi _{1}(0))=\varepsilon _{\varepsilon _{\Omega +1}}}$) : cela reste vrai jusqu'au premier point fixe ${\displaystyle \zeta _{\Omega +1}}$ (après ${\displaystyle \Omega }$) de la fonction ${\displaystyle \xi \mapsto \varepsilon _{\xi }}$, lequel est la limite de la suite ${\displaystyle \psi _{1}(0)}$, ${\displaystyle \psi _{1}(\psi _{1}(0))}$, etc. Ensuite ${\displaystyle \psi _{1}(\alpha )=\zeta _{\Omega +1}}$ est constante jusqu'à ${\displaystyle \Omega _{2}}$: comme on l'a vu pour ${\displaystyle \psi (\Omega )}$, on a${\displaystyle \psi _{1}(\Omega _{2})=\zeta _{\Omega +1}}$ et ${\displaystyle \psi _{1}(\Omega _{2}+1)=\varepsilon _{\zeta _{\Omega +1}+1}}$.

La fonction ${\displaystyle \psi _{1}}$ donne un système de notations (si on en a un pour les ordinaux dénombrables !) pour les ordinaux inférieurs à ${\displaystyle \psi _{1}(\varepsilon _{\Omega _{2}+1})}$ (la limite de ${\displaystyle \psi _{1}(\Omega _{2})}$, ${\displaystyle \psi _{1}({\Omega _{2}}^{\Omega _{2}})}$, etc.).

Ces notations peuvent se réinjecter dans la fonction ${\displaystyle \psi }$ initiale, obtenant la définition élargie :

${\displaystyle \psi (\alpha )}$ est le plus petit ordinal qui ne peut être exprimé à partir de ${\displaystyle 0}$, ${\displaystyle 1}$, ${\displaystyle \omega }$, ${\displaystyle \Omega }$ et ${\displaystyle \Omega _{2}}$, en utilisant sommes, produits, exponentielles, la fonction ${\displaystyle \psi _{1}}$, et les valeurs de ${\displaystyle \psi }$ sur les ordinaux déjà construits inférieurs à ${\displaystyle \alpha }$.

Cette nouvelle fonction ${\displaystyle \psi }$ coïncide avec la précédente jusqu'à ${\displaystyle \psi (\psi _{1}(0))}$, l'ordinal de Bachmann–Howard, mais on peut à présent le dépasser : ${\displaystyle \psi (\psi _{1}(0)+1)}$ est ${\displaystyle \varepsilon _{\psi (\psi _{1}(0))+1}}$ (l'${\displaystyle \varepsilon }$-ordinal après lui). Notre système de notations est à présent doublement imprédicatif : les notations que nous venons de créer pour des ordinaux dénombrables utilisent des notations pour certains ordinaux entre ${\displaystyle \Omega }$ et ${\displaystyle \Omega _{2}}$, elles-mêmes définies à l'aide d'ordinaux au-delà de ${\displaystyle \Omega _{2}}$.

Ce schéma peut se généraliser à une infinité de nouveaux cardinaux ${\displaystyle \Omega _{\alpha }}$ (avec des définitions légèrement différentes, pour ne pas avoir à construire des récurrences sur le nombre de cardinaux) ; ainsi, utilisant ${\displaystyle \omega +1}$ nouveaux cardinaux, ${\displaystyle \Omega _{1},\Omega _{2},\ldots ,\Omega _{\omega }}$, on obtient un système essentiellement équivalent à celui introduit par Buchholz[1] (la construction de Buchholz n'utilise pas l'addition ou la multiplication, ni les nombres ${\displaystyle 1}$ et ${\displaystyle \omega }$, obtenant une définition plus élégante et plus concise, mais aussi plus difficile à comprendre). Ce système est également équivalent à ceux définis auparavant par Takeuti[4] et par Feferman (les fonctions ${\displaystyle \theta }$) : ils atteignent tous le même ordinal (${\displaystyle \psi _{0}(\varepsilon _{\Omega _{\omega }+1})}$, qu'on pourrait donc appeler l'ordinal de Takeuti-Feferman–Buchholz, et qui correspond à la force ordinale de la ${\displaystyle \Pi _{1}^{1}}$-compréhension (en)).