Théorème de Rice

Si la fonction calculée par le programme est celle qui n'est pas définie, cela signifie que le programme ne se termine jamais, quelle que soit la valeur en entrée. Décider cette propriété n'est pas possible en application du théorème de l'indécidabilité de l'arrêt qui peut se formuler en disant qu'il n'y a pas d'algorithme pour décider si un programme réalise la fonction nulle part définie.

Supposons que nous souhaitions décider si un programme réalise la fonction carré, autrement dit, réalise la fonction ${\displaystyle x\mapsto x^{2}}$. Il faut que nous puissions décider si le programme

programmeCarré_p (x) =

${\displaystyle p}$(x);

x * x

où ${\displaystyle p}$ est un programme quelconque, calcule effectivement la fonction ${\displaystyle x\mapsto x^{2}}$ pour une valeur ${\displaystyle a}$, sans être non défini sur ${\displaystyle a}$. Pour décider si le programme programmeCarré_p calcule la fonction carré, il faut décider si ${\displaystyle p}$ se termine sur ${\displaystyle a}$. Il faut donc décider l'arrêt de ${\displaystyle p}$ sur ${\displaystyle a}$. C'est ni plus ni moins le problème de l'arrêt, qui, comme l'on sait, est indécidable. Donc décider si un programme calcule le carré de la valeur qu'on lui donne en entrée est indécidable.

On peut dans ce cas aussi ramener la décision de la fonction calculée par un programme pour une fonction ${\displaystyle f}$ quelconque au problème de l'arrêt, il suffit de remplacer x * x par ${\displaystyle f}$(x), à savoir décider si le programme

truc_p (x) =

${\displaystyle p}$(x);

${\displaystyle f}$(x)

calcule la fonction ${\displaystyle f}$. On en conclut donc qu'étant donnée une fonction ${\displaystyle f}$, décider si un programme calcule la fonction ${\displaystyle f}$ est indécidable.

Dans les ouvrages de théorie de la calculabilité, le théorème de Rice est souvent énoncé avec l'appui des machines de Turing[6] - [17]. Wolper, dans son livre Introduction à la Calculabilité[2], énonce que toute propriété non triviale sur les langages récursivement énumérables est indécidable. On rappelle qu'un langage est récursivement énumérable s'il est accepté par une machine de Turing. Wolper insiste bien qu'il s'agit d'une propriété sur les langages acceptés par les machines de Turing et non pas sur les machines de Turing, c'est-à-dire une propriété sémantique et non pas syntaxique.

Olivier Ridoux et Gilles Lesventes[18] proposent une propriété dite « extensionnelle » (i.e., sémantique) et non triviale sur des programmes.

Le théorème de Rice peut être exprimé du point de vue des fonctions calculées par les programmes[4] - [3] - [19]. On suppose que l'on travaille avec un langage de programmation Turing-complet. Soit ${\displaystyle \phi _{p}}$ la fonction calculée par le programme p. ${\displaystyle \phi _{p}(y)}$ est donc le résultat de l'évaluation du programme p sur l'entrée ${\displaystyle y\in \mathbb {N} }$. Si le programme p ne se termine pas sur l'entrée ${\displaystyle y}$, ${\displaystyle \phi _{p}(y)}$ n'est pas défini. Comme il existe des programmes qui ne se terminent pas, la fonction ${\displaystyle \phi _{p}}$ est partielle. Notons FC l'ensemble de toutes les fonctions calculables partielles de ${\displaystyle \mathbb {N} }$ dans ${\displaystyle \mathbb {N} }$. Soit F ${\displaystyle \subseteq }$ FC. Notons P_F l'ensemble {p | ${\displaystyle \phi _{p}\in }$ F}, c'est-à-dire l'ensemble des programmes p tels que la fonction ${\displaystyle \phi _{p}}$ soit dans F. Le théorème de Rice dit que P_F est récursif si et seulement si F=∅ ou F=FC.

Le théorème de Rice pour les fonctions calculables peut également être exprimé[20] du point de vue des ensembles récursivement énumérables. Notons RE la classe de tous les sous-ensembles de ${\displaystyle \mathbb {N} }$ récursivement énumérables. Soit E ${\displaystyle \subseteq }$ RE. Notons P l'ensemble des programmes p qui décident un ensemble A ${\displaystyle \in }$ E (i.e. y ${\displaystyle \in }$ A ssi l'exécution de p se termine sur l'entrée y). Le théorème de Rice dit que P est récursif si et seulement si E = ∅ ou E=RE.

Le théorème de Rice ci-dessus exprime l'indécidabilité de propriétés portant sur les ensembles récursivement énumérables. Il est cependant possible de caractériser parmi de telles propriétés celles qui sont semi-décidables. Une propriété Prop sur les ensembles récursivement énumérables est dite monotone si, pour tous ensembles récursivement énumérables A et B tels que A ${\displaystyle \subseteq }$ B, on a Prop(A) ${\displaystyle \Rightarrow }$ Prop(B). Par exemple, « A est un ensemble fini » n'est pas monotone, alors que « A contient l'élément x » l'est. Soit Prop une propriété sur les ensembles récursivement énumérables et E_Prop ${\displaystyle \subseteq }$ RE la classe des ensembles récursivement énumérables qui satisfont Prop. Notons P_A l'ensemble des programmes p qui décident un ensemble A ${\displaystyle \in }$ E (i.e. y ${\displaystyle \in }$ A ssi l'exécution de p se termine sur l'entrée y). Cette variante du théorème de Rice[19] - [7] - [20] dit que si P_EProp est récursivement énumérable, alors Prop est monotone.

Soit P une propriété non triviale sur les ensembles récursivement énumérables. Sans perte de généralité, supposons que P(∅) est fausse (si ce n'est pas le cas, on raisonne pareillement avec la négation de P). Montrons que le problème de l'arrêt se réduit à la décision de P. Nous définissons une réduction qui transforme toute instance (M, w) du problème de l'arrêt, où M est une machine de Turing et w est un mot, en une machine de Turing M', instance de la décision de P.

Il existe un ensemble récursivement énumérable A qui satisfait P, et une machine M_A qui accepte A. Dès lors, on construit de manière effective la machine de Turing M' suivante à partir de (M, w) :

M'(u)
      Lancer M sur w
      Lancer MA sur u

La démonstration s'achève avec la correction de la réduction : M s'arrête sur w, si et seulement si P(L(M')). En effet :

• Si M s'arrête sur w, le langage de M' est exactement le langage de M_A, c'est-à-dire A et P(A).
• Si M ne s'arrête pas sur w, le langage de M' est le langage vide et P(∅) est fausse.

Le théorème de Rice pour les fonctions peut se démontrer de façon similaire.

Le théorème de Rice pour les fonctions peut se démontrer[5] - [9] par le théorème du point fixe de Kleene. Le théorème du point fixe de Kleene dit que pour tout transformateur de programme T qui est une fonction totale, il existe un programme p tel que les programmes p et T(p) calculent la même fonction (${\displaystyle \phi _{p}=\phi _{T(p)}}$).

Soit une propriété ${\displaystyle F}$ non triviale (${\displaystyle F\neq \emptyset }$ et ${\displaystyle F\neq }$FC). Supposons par l'absurde que P = {p | ${\displaystyle \phi _{p}\in }$ F} est récursif.

Comme F est non triviale, il existe f ${\displaystyle \in F}$ et g ${\displaystyle \in FC\setminus F}$. Les fonctions f et g étant calculables, il existe deux programmes p et q avec ${\displaystyle \phi _{p}}$ = f et ${\displaystyle \phi _{q}}$ = g. Définissons le transformateur de programmes T :

T(x) = q si x ${\displaystyle \in }$ P

T(x) = p si x ${\displaystyle \not \in }$ P

Comme P est récursif, T est une fonction totale calculable. Par le théorème du point fixe de Kleene, il existe un programme n tel que ${\displaystyle \phi _{n}=\phi _{T(n)}}$. Procédons maintenant par étude de cas sur la valeur de T(n) :

• Si T(n)=p, par définition de T, on a n ${\displaystyle \not \in }$ P. Comme ${\displaystyle \phi _{n}=\phi _{T(n)}}$, T(n) ${\displaystyle \not \in }$ P. Or T(n)=p${\displaystyle \in }$ P. Contradiction.
• Si T(n)=q, alors n ${\displaystyle \in }$ P. Comme ${\displaystyle \phi _{n}=\phi _{T(n)}}$, T(n) ${\displaystyle \in }$ P. Or T(n)=q ${\displaystyle \not \in }$ P. Contradiction.

Avant d'établir une preuve formelle, tentons d'abord une approche par un cas pratique. Supposons que nous ayons un algorithme qui détermine de manière infaillible qu'un programme p est une implémentation correcte de la fonction de mise au carré. Celle-ci prend un entier d et retourne d² . Il est à noter que la preuve fonctionne pour n'importe quel algorithme vérifiant une propriété non-triviale d'un programme.

L'intuition pour la preuve est de convertir notre algorithme vérifiant les programmes de mise au carré en un algorithme identifiant les fonctions qui s'arrêtent, faisant alors intervenir le problème de l'arrêt. Construisons pour ce faire un algorithme prenant comme entrées a et i et qui détermine si le programme a s'arrête pour un i donné.

Cet algorithme construit la description d'un nouveau programme t prenant un unique argument n, et :

1. Premièrement exécute le programme a avec comme entrée i. (Note: a et i sont tous deux décrits dans t)
2. Secondement retourne le carré de n.

Si a(i) tourne à l'infini, alors t ne parvient jamais à l'étape (2) quelle que soit la valeur de n.

Ainsi t est une fonction calculant les carrés de nombres si et seulement si l'étape (1) se termine.

Comme notre supposition de départ était que nous pouvions fermement identifier les programmes calculant des carrés, nous pouvons déterminer si f, lequel dépend de a et i, est un tel programme, et ceci pour n'importe quels a et i. Par conséquent, nous avons obtenu un programme décidant si le programme a s'arrête pour une certaine entrée i.

Notez que notre algorithme de décision d'arrêt n'exécute jamais t, mais passe seulement sa description au programme d'identification des carrés, lequel par hypothèse se termine toujours. Dès lors, si la description de t est construite de façon qu'il se termine toujours, l'algorithme d'arrêt ne peut par conséquent pas échouer à s'arrêter.

 halts (a,i) {
   define t(n) {
     a(i)
     return n×n
   }
   return est_une_fonction_de_carre(t)
 }

Cette méthode de preuve ne se concentre pas sur des fonctions calculant des carrés. Tant que certains programmes peuvent faire ce que nous essayons de reconnaître, c.à.d. déterminer une propriété d'un programme, nous pouvons faire un appel à a pour obtenir notre t. Nous pourrions avoir une méthode vérifiant des programmes calculant des racines carrées, ou des programmes calculant la paye mensuelle, ou des programmes qui s'arrêtent avec une entrée donnée "Abraxas". Pour chaque cas, nous sommes capables de résoudre le problème de l'arrêt de manière similaire.

Si nous avons un algorithme qui décide une propriété non-triviale, nous pouvons construire une machine de Turing qui décide du problème de l'arrêt.

Pour la preuve formelle, on suppose que les algorithmes définissent les fonctions partielles comme des chaînes de caractères et sont eux-mêmes représentés par des chaînes. La fonction partielle calculée par l'algorithme représenté par une chaîne de caractères a est notée F_a. Cette preuve procède par un raisonnement par l'absurde : nous supposerons d'abord qu'il y ait une propriété non-triviale qui est décidée par un algorithme ; nous démontrerons ensuite que par cette supposition nous pouvons montrer que le problème de l'arrêt est calculable, ce qui est impossible et par conséquent, une contradiction.

Supposons maintenant que P(a) est un algorithme décidant d'une propriété non-triviale de F_a. Supposons ensuite que P(ne-sarrete_pas) = "non", avec ne-sarrete_pas la représentation d'un algorithme qui ne s'arrête jamais. Si ce n'est pas vrai, alors cela vaut pour la négation de la propriété. Comme P décide une propriété non-triviale, cela implique qu'il existe une chaîne de caractères b représentant un algorithme et P(b) = "oui". Nous pouvons alors définir un algorithme H(a, i) comme suit :

1. Construire une chaîne de caractères t représentant un algorithme T(j) tel que :
   1. T simule en premier le calcul de F_a(i).
   2. T simule le calcul de F_b(j) et retourne son résultat.
2. Retourne P(t).

Nous pouvons maintenant montrer que H décide du problème de l'arrêt :

• Si l'algorithme représenté par a s'arrête pour une donnée i, alors, F_t = F_b. Parce que P(b) = "oui" et le résultat de P(x) dépend seulement de F_x, cela implique que P(t) = "oui" et donc que H(a, i) = "oui".
• Si l'algorithme représenté par a ne s'arrête pas pour une donnée i, alors, F_t = F_{ne-sarrete-pas}, la fonction partielle qui n'est jamais définie. Comme P(ne-sarrete-pas) = "non" et le résultat de P(x) dépend seulement de F_x, cela implique que P(t) = "non" et donc, H(a, i) = "non".

Comme le problème de l'arrêt n'est pas calculable, il y a une contradiction et par conséquent, l'hypothèse qu'il existe un algorithme P(a) qui décide une propriété non-triviale pour la fonction représentée doit être fausse. CQFD.

De manière analogue à la démonstration du théorème de Rice pour les ensembles, on montre[19] - [7] que la semi décision de la négation du problème de l'arrêt peut se réduire à la semi-décision de toute propriété non-monotone sur les ensembles récursivement énumérables.

Soit P une propriété non-monotone et semi-décidable. Il existe donc deux ensembles récursivement énumérables A et B, calculés respectivement par des machines de Turing MA et MB tels que :

• A est inclus dans B
• A satisfait P
• B ne satisfait pas P.

De plus, il existe une machine de Turing MP qui, pour toute représentation d'une machine de Turing, s'arrête et accepte si l'ensemble récursivement énumérable accepté par cette machine satisfait P.

Dès lors, on peut construire une machine de Turing H prenant en entrée la représentation d'une machine de Turing M suivie d'une entrée x dont l'algorithme est le suivant :

1 Construire la représentation d'une machine de Turing T qui, sur une entrée y :

1 Exécute en parallèle

• MA sur y
• MB sur y
• M sur x

2 Accepte y si

• MA accepte y ou bien
• MB accepte y ET M s'arrête sur x

2 Exécuter MP sur la représentation de T et renvoyer le résultat.

Par « exécuter en parallèle », on entend que la machine T exécute un pas MA sur y, puis un pas de MB sur y, puis un pas de M sur x, puis un second pas de MA sur y, et ainsi de suite. Autrement dit, on «entrelace» les pas de calcul d'une machine avec ceux de l'autre machine.

Si M s'arrête sur x, T accepte y si, et seulement si MA ou MB accepte y, et comme A est inclus dans B, cela revient à dire si et seulement si y appartient à B. Donc, T accepte exactement l'ensemble B, qui, par hypothèse, ne vérifie pas P. Par conséquent, MP n'accepte pas T. (P étant supposé semi-décidable, MP peut même ne pas s'arrêter du tout) Si M ne s'arrête pas sur x, T accepte y si et seulement si y appartient à A. T accepte donc exactement l'ensemble A qui, par hypothèse, satisfait P. Par conséquent, MP accepte T (et finit donc par s'arrêter, par définition de la semi-décidabilité). La machine H calcule donc la négation du problème de l'arrêt. Celui-ci n'étant pas semi-décidable, par contradiction, P ne peut donc pas être semi-décidable.

• (en) Hartley Rogers, Jr. (en), Theory of Recursive Functions and Effective Computability, MIT Press, (ISBN 0262680521), page 34
• (en) H. G. Rice, Classes of Recursively Enumerable Sets and Their Decision Problems, Transactions of the American Mathematical Society, volume 74, numéro 2, mars 1953 (JSTOR)
• Pierre Wolper, Introduction à la calculabilité, InterÉditions, 1991, (ISBN 2100048538)
• Olivier Carton, Langages formels, calculabilité et complexité, 2008 [détail de l’édition] (lire en ligne)
• (en) Neil D. Jones, Computability and Complexity From a Programming Perspective, MIT Press, (ISBN 0262100649)

• Olivier Ridoux et Gilles Lesventes, Calculateurs, calculs, calculabilité, Dunod, coll. « Sciences sup », 2008, 204 p. (ISBN 978-2-10-051588-2), Chapitre 4
• (en) D. Mandrioli, C. Ghezzi, Theoretical Foundations of Computer Science, John Wiley & Sons, 1987; (ISBN 0-471-83834-9), pages 174-175
• (en) D.S. Bridges, Computability, A Mathematical Sketchbook, Springer, (ISBN 0387941746), 1994, pages 78 et 85.
• (en) M. Machtey, P. Young Introduction to the General Theory of Algorithms, North Holland, 1978, pages 102 et 106
• (en) Martin Davis, Ron Sigal Elaine Weyuker, Computability, Complexity, and Languages (2nd ed), Morgan Kaufmann, (ISBN 9780122063824), 1994, p. 609, page 103
• (en) Nicholas Pippenger, Theories of computability, Cambridge University Press, (ISBN 0-521-55380-6), 1997, page 148
• (en) John E. Hopcroft, Rajeev Motwani, Jeffrey D. Ullman , Introduction to Automata Theory, Languages, and Computation (3rd Edition), Addison-Wesley, (ISBN 0321462254), 2006, page 307