Théorie des ensembles non bien fondés

Pour analyser les paradoxes de Burali-Forti et de Russell, Demetrius Mirimanoff introduit[5], en 1917, le concept de bonne fondation d'un ensemble:

Un ensemble est bien-fondé ssi il n'est pas à l'origine d'une suite d'appartenance infinie:

${\displaystyle x_{0}\ni x_{1}\ni x_{2}\ldots }$

Grâce à l'axiome de fondation, dans ZFC, il n'y a pas de suite infinie descendante d'appartenance. En revanche, dans les variantes de ZFC sans l'axiome de fondation, il peut y en avoir, comme par exemple celle engendrée par un ensemble tel que ${\displaystyle A\in A}$.

Alors que Mirimanoff a introduit une notion d'isomorphisme entre ensembles potentiellement non bien fondés, il ne considère ni un axiome de fondation, ni un axiome d'anti-fondation[6]. En 1926 Paul Finsler introduit le premier axiome qui autorise les ensembles non bien fondés. Mais après que Zermelo a adopté un axiome de fondation dans son propre système à la suite de travaux antérieurs de Von Neumann[7], l'intérêt pour les ensembles non bien-fondés s'estompe pour des décennies. Cependant des prémices de la théorie des ensembles non bien fondés réapparaissent dans les nouvelles fondations de Quine, bien que ce soit une théorie des types plutôt qu'une théorie des ensembles.

Plusieurs démonstrations de l'indépendance de l'axiome de fondation de ZF sont publiées dans les années 1950 en particulier par Paul Bernays en 1954, qui fait suite à une annonce du résultat en 1941 et par Ernst Specker qui donne une démonstration différente dans son habilitation en 1951 et qui publiera celle-ci en 1957. En 1957 est aussi publié le théorème de Rieger qui donne un cadre général pour ces démonstrations, réactivant ainsi l'intérêt pour les systèmes d'axiomes pour les ensembles non bien fondés. C'est en 1960 que Dana Scott (dans une communication non publiée) fait une nouvelle suggestion en proposant l'axiome qui est aujourd'hui appelé l'axiome d'anti-fondation de Scott. Un autre axiome a été proposé par Maurice Boffa à la fin des années 1960 ; cet axiome qui est appelé l'axiome de superuniversalité est considéré par Aczel comme l'acmé de la recherche de la décennie. L'idée de Boffa est de faire que la théorie des ensembles s'éloigne le plus possible de la bonne fondation ou plus précisément autant que l'extensionnalité le permet. L'axiome de Boffa implique que chaque relation extensionnelle au sens des ensembles est isomorphe au prédicat d'appartenance sur une classe transitive.

En 1985, Marco Forti et Furio Honsell réactivent le sujet en empruntant à l'informatique, le concept de bisimulation. En effet, des ensembles bisimilaires sont considérés indistingables donc égaux, ce qui renforce l'axiome d'extensionnalité. Dans ce contexte, des axiomes qui contredisent l'axiome de fondation sont appelés des axiomes d'anti-fondation et un ensemble qui n'est pas nécessairement bien fondé est appelé un « hyper-ensemble ».

Il y a quatre axiomes d'anti-fondation, deux à deux indépendants. Ils sont souvent identifiés par la première lettre de la liste qui suit.

1. AFA (‘Anti-Foundation Axiom’) – dû à M. Forti et F. Honsell (appelé aussi axiome d'anti-fondation d'Aczel),
2. SAFA (‘Scott’s AFA’) – dû à Dana Scott,
3. FAFA (‘Finsler’s AFA’) – dû à Paul Finsler,
4. BAFA (‘Boffa’s AFA’) – dû à Maurice Boffa.

Ils correspondent essentiellement à quatre notions différentes d'ensemble bien fondé. Le premier axiome, AFA, peut s'exprimer en termes de graphe orienté pointé accessible[8] : il affirme qu'un graphe orienté pointé accessible est une « représentation » (en un sens qui se définit précisément) d'un et un seul hyper-ensemble. Dans ce cadre, on peut montrer que l'atome de Quine, qui satisfait l'équation Q={Q}, existe et est unique. Il faut bien noter que la théorie des hyper-ensembles étend la théorie classique des ensembles, mais ne la remplace pas. En effet, les hyper-ensembles qui sont bien fondés sont des ensembles au sens classique du terme.

Peter Aczel met tout cela en forme et présente la théorie des ensembles non bien fondés dans un livre devenu classique[2].

• (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Non-well-founded set theory » (voir la liste des auteurs).

• Appartenance (mathématiques)
• Bisimulation
• Classes
• Ensemble
• Relation bien fondée
• Théorie des ensembles